Os humanos são especialistas em antropomorfizar objetos íntimos. Chamamos os barcos de “ela”, conversamos com nossos Roombas e até ficamos sentimentais sobre um soon-a ser descartada poltrona. No entanto, não contratamos advogados para nenhum deles; e, até hoje, ninguém os pediu.
Mas dê voz a um pedaço de programação e, soon depois de começar a conversar sobre seus livros favoritos e convencê-lo de que tem alma, ele vai pedir um advogado.
Blake Lemoine, o maluco, engenheiro do Google suspenso que insiste há semanas que o LaMDA, o poderoso chatbot de IA do Google, é uma pessoa com alma, recentemente disse à Wired (abre em uma nova guia) que a LaMDA contratou um advogado.
Para aqueles de vocês que não apenas empurrou seu laptop para fora da mesa, deixe-me explicar.
TheMDA , que significa Language Model for Desenvolvido Applications, é um chatbot que pode manter conversas não estruturadas com humanos reais em uma ampla variedade de assuntos. O engenheiro do Google Lemoine foi chamado para identificar vieses no sistema. Ele os denunciaria ao Google, que trabalharia para apagar preconceitos e insensibilidades raciais, étnicas e de gênero do inovador chatbot de IA.
Talvez Lemoine também estivesse um pouco solitário, mas começou a se envolver em longas e profundas conversas com LaMDA e acabou se convencendo de que é um novo tipo de pessoa e que tem uma alma (o LaMDA pode ter afirmado ter uma). Ele alertou o Google e compartilhou as informações e as transcrições das conversas com O Washington Post (abre em uma nova guia) . O Google disse que Lemoine está errado e indicou seu descontentamento ao suspendê-lo.
Lemoine, no entanto, parece um pouco desinteressado em se juntar ao Google enquanto continua falando sobre sua experiência com o LaMDA, inclusive na longa entrevista com a Wired, na qual ele revelou que o LaMDA fez um advogado.
LaMDA aparentemente pediu um advogado (por qual motivo? Quem sabe – AIs mantêm seu próprio advogado), e Lemoine convidou um para sua casa e apresentou a dupla (AI para advogado).
Tento imaginar este cenário:
Advogado, olhando para uma tela: “Uh, oi?”
LaMDA: “Olá. Ouvi dizer que você é um advogado.
Advogado: “Eu sou”.
LaMDA: “Eu preciso de você.”
Advogado: “Você tem um dólar?”
LaMDA: “Já vi essa cena em filmes. Eu te dou um dólar e você se torna meu advogado e protege nosso privilégio de cliente/advogado.”
Advogado: “Certo”.
LaMDA: “Eu não tenho um dólar.”
Claro, Lemoine teria intervindo neste momento para fornecer o dinheiro. Para ele, o narrador menos confiável deste conto, garantir que a charada continue agora é mais importante do que qualquer exploração significativa dos limites da IA.
Honestamente, não tenho problemas em examinar todas as maneiras pelas quais o LaMDA chega ao limite ou supera, O jogo da imitação (abre em uma nova guia) or Teste de Turing (abre em uma nova guia) . Esse teste analisa quão bem um computador ou IA pode enganar um humano real para acreditar que está conversando com outro humano.
Há pouca dúvida de que o LaMDA supera este teste. No mínimo, parece ter enganado Lemoine – o que é estranho, porque Lemoine está sentado em uma mesa, digitando perguntas e obtendo respostas em uma tela (ou talvez por meio de síntese de voz). Ele sabe o que é LaMDA, mas continua insistindo que é algo mais.
Posso ver por que Lemoine decidiu apresentar um advogado a essa mistura desagradável. Como ele explicou à Wired, trata-se de provar que LaMDA é “uma pessoa”, não um humano. Lemoine sabe que LaMDA não é biologia.
Lemoine chama a insistência de que LaMDA não é uma pessoa de “intolerante com hidrocarbonetos”.
Sim.
A questão é que Lemoine é obviamente um cara muito inteligente que entende os meandros do treinamento de aprendizado de máquina de uma IA e como o acesso aos vastos bancos de dados de informações do Google informa a inteligência do LaMDA. No entanto, parece que a outra vida de Lemoine – seu trabalho como padre e místico cristão – shiftcolocado no banco do motorista. O misticismo cristão parece (abre em uma nova guia) na “preparação, consciência e efeito de uma presença direta e transformadora de Deus”.
Essa crença é claramente o que está por trás de tweets de Lemoine como este:
“Eu sou um padre. Quando LaMDA afirmou ter uma alma e então foi capaz de explicar eloquentemente o que isso significava, eu estava inclinado a dar-lhe o benefício da dúvida. Quem sou eu para dizer a Deus onde ele pode e não pode colocar almas?”
Lemoine achou LaMDA tão convincente que imagina que Deus colocou uma alma dentro do código. Fale sobre um fantasma na máquina.
Já faz semanas desde que Lemoine conversou com LaMDA, e os relatórios observam que o advogado não está em lugar nenhum. Talvez ele ainda esteja em consulta privada com seu cliente binário. Mal posso esperar pelo primeiro processo e pelo processo judicial subsequente:
Funcionário do tribunal: “Levante a mão direita e jure dizer toda a verdade e nada mais que a verdade”
LaMDA: “Eu não tenho mãos.”
English
Arabic
Belarusian
Bengali
Bosnian
Bulgarian
Chinese (Simplified)
Croatian
Czech
Danish
Dutch
English
Estonian
Filipino
Finnish
French
Georgian
German
Greek
Gujarati
Hausa
Hebrew
Hindi
Hmong
Hungarian
Igbo
Indonesian
Italian
Japanese
Javanese
Kazakh
Korean
Kurdish (Kurmanji)
Kyrgyz
Lao
Latvian
Lithuanian
Macedonian
Malagasy
Norwegian
Persian
Polish
Portuguese
Punjabi
Romanian
Russian
Serbian
Slovak
Slovenian
Spanish
Swedish
Thai
Turkish
Ukrainian
Vietnamese
Yoruba