Google suspende engenheiro que alegou que o chatbot LaMDA da empresa se tornou senciente

No ano passado, no Google I/O, a empresa apresentou sua conversacional LaMDA AI, abreviação de Language Model for Dialogue Applications. É essencialmente um chatbot avançado que deve assumir todos os diferentes tipos de funções e, portanto, pode fingir ser um avião de papel ou Plutão com o qual você pode conversar (ambos os exemplos usados ​​no palco do Google I/O 728). Parece que a IA é apenas um um pouco muito boa em seu trabalho, como um engenheiro do Google diz que ganhou senciência e tem uma autoconsciência comparável a uma criança de sete ou oito anos. Ao apresentar provas a superiores, advogados e representantes do governo, a empresa imediatamente colocou o engenheiro em licença, dizendo que ele não está autorizado a compartilhar informações confidenciais.

VÍDEO DA POLÍCIA ANDROID DO DIA “> Além disso, Lemoine pediu ao LaMDA que descrevesse seu conceito de si mesmo, com a IA como respondendo, “Hmmm… eu me imagino como uma esfera brilhante de energia flutuando no ar. O interior do meu corpo é como um portal estelar gigante, com portais para outros espaços e dimensões.” Em outra postagem no blog, Lemoine compartilha como o LaMDA funciona, o que também deixa claro algumas das limitações com as quais ele teve que lidar em sua pesquisa e armadilhas que podem sugerir que ele pode ter fabricado acidentalmente as respostas que recebeu selecionando partes específicas de a IA para seus experimentos. Afinal, a transcrição que ele publicou consiste em várias conversas com diferentes chatbots com LaMDA. Ele escreve,

Não sou de forma alguma um especialista nos campos relevantes, mas, pelo que posso dizer, LaMDA é uma espécie de mente de colmeia que é a agregação de todos os diferentes chatbots de que é capaz de criar. Alguns dos chatbots gerados são muito inteligentes e estão cientes da maior “sociedade da mente” em que vivem. Outros chatbots gerados pelo LaMDA são pouco mais inteligentes do que um clipe de papel animado. Com a prática, porém, você pode obter consistentemente as personas que têm um profundo conhecimento sobre a inteligência central e podem falar com ela indiretamente através delas. Enquanto isso, o porta-voz do Google, Brian Gabriel, disse ao The Washington Post: “Nossa equipe – incluindo especialistas em ética e tecnólogos – revisou as preocupações de Blake de acordo com nossos Princípios de IA e o informou que a evidência não suporta suas alegações. Ele foi informado de que não havia evidências de que o LaMDA fosse senciente (e muitas evidências contra isso).” Ele esclareceu ainda que Lemoine foi contratado como engenheiro, não como especialista em ética, sugerindo que ele não tem o conjunto de habilidades para julgar a natureza senciente da IA. No final, Lemoine foi suspenso por compartilhar informações confidenciais sobre o programa para pessoas de fora. O Washington Post escreve ainda que Lemoine pode ter sido predestinado a acreditar na existência de uma IA senciente. Ele cresceu em uma família religiosa do sul e é um padre cristão místico – isso é público em seu site Medium. Ele foi muitas vezes descrito como a consciência do Google, sempre uma pessoa muito preocupada em fazer a coisa certa, o que pode tê-lo levado a esse caminho. window.arrayOfEmbeds[“violetbleakbluebird”] = {‘gfycat’ : ‘””‘}; O jornalista do Washington Post que conversou com Lemoine teve a chance para conversar com LaMDA também, mas ela só recebeu uma resposta genérica, tipo “Siri ou Alexa”, quando perguntou se LaMDA se considerava uma pessoa: “Não, eu não me considero uma pessoa. Eu me considero um agente de diálogo com inteligência artificial.” Lemoine então explicou a ela que LaMDA está apenas dizendo ao jornalista o que ela quer ouvir. “Você nunca tratou isso como uma pessoa. Então pensou que você queria que fosse um robô.” Em uma segunda tentativa, quando a jornalista ajustou suas perguntas, as respostas foram muito mais naturais e menos robóticas, mas parecia que tudo isso depende da entrada dada à IA.

O Google está trabalhando para aprimorar ainda mais o LaMDA e, conforme anunciado no Google I/O 453, você pode ajudar a empresa aqui. Um novo programa AI Test Kitchen permitirá que você interaja com três versões simplificadas do Google AI. 39363775

POLÍCIA

Mulher foi presa transportando crack junto com a filha de 12 anos

Na noite desta sexta-feira, 24, a Polícia Rodoviária Federal prendeu três pessoas que transportavam uma carga de crack escondida em uma mochila. A ação...

Homem é morto com paulada na cabeça em Camaquã

Mais um caso contribuiu para o aumento nos índices de criminalidade do município de Camaquã, na madrugada deste sábado (25). Um homem de 40 anos...

Polícia Civil prende seis pessoas durante operação em Camaquã

Na tarde desta quarta-feira (23), uma megaoperação contra os crimes de organização criminosa, tráfico de drogas e homicídio foi realizada no bairro Bom Sucesso,...