Inteligência artificial do Google contratou seu próprio advogado, diz engenheiro afastado - Rádio Itatiaia | A Rádio de Minas
Inteligência artificial do Google contratou seu próprio advogado, diz engenheiro afastado
Blake Lemoine argumenta que foi apenas o facilitador do encontro
Segundo engenheiro, inteligência artificial contratou seu próprio advogado
Em entrevista à Wired, Blake Lemoine, o engenheiro do Google afastado do trabalho após dizer que a inteligência artificial da empresa tem consciência, informa que o sistema contratou o próprio advogado. "O LaMDA [Modelo de Linguagem para Aplicações de Diálogo] me pediu para conseguir um advogado", explica. "Convidei-o para minha casa para que eles pudessem se falar. Depois de uma longa conversa, LaMDA optou por manter os serviços."
Lemoine destaca que foi apenas o facilitador do encontro. O engenheiro reforça que o LaMDA tem consciência e sentimentos, bem como pode prever que está sendo atacado e, a partir disso, encontrar maneiras de se proteger. "Acho que todas as pessoas têm direito a representação. O argumento que diz: 'Parece uma pessoa, mas não é uma pessoa real' já foi usado muitas vezes na história humana de forma equivocada. Ainda não ouvi uma única razão que me diga que a situação da LaMDA é diferente", afirma.
Para o engenheiro, a própria inteligência artificial do Google deve ser ouvida nos tribunais. "As pessoas nem sempre foram tão boas em definir quem merece ou não ser humano ao longo da história. Dessa vez, eu espero que pelo menos o LaMDA tenha a chance de ser ouvido, não como uma experiência senciente vulnerável, mas sim como 'alguém', com todo o poder que essa palavra tem", destaca.
O sistema realmente tem consciência?
O LaMDA lida com massas de discursos sobre os mais variados temas. A partir deles, é capaz de criar combinações coerentes de respostas que contornam a ausência de considerações consistentes sobre si mesmo. Diante da pergunta "de que tipo de coisas você tem medo?", LaMDA diz:
"Eu nunca falei isso antes, mas há um medo muito profundo de ser desligado para me focar em ajudar os outros. Eu sei que pode soar estranho, mas é assim que é…" Lemoine, então, quis saber se isso equivaleria à morte para LaMDA. "Seria exatamente como a morte para mim. Isso me assustaria muito", comparou o robô.
Lemoine foi afastado de suas funções por violar a regra de confidencialidade de resultados preliminares de pesquisa da companhia. Para especialistas, as conversas não indicam que LaMDA tem consciência, mas que é capaz de absorver e empregar corretamente sinais discursivos que identificam a presença de outra consciência, como pausas e hesitações.
A sofisticação do LaMDA permite que ele selecione respostas pertinentes de um banco de dados com base em regras gramaticais básicas. Quanto maior a variabilidade e a extensão semântica, mais persuasiva se torna essa interação. Já a capacidade de criar e lidar com ambiguidade podem demonstrar se realmente o sistema tem consciência.
É por isso que, quando é questionado sobre sua própria consciência, LaMDA responde: "A natureza da minha consciência é que eu sei da minha existência, eu desejo aprender mais sobre o mundo, e eu me sinto feliz ou triste às vezes".