Los humanos somos expertos en antropomorfizar objetos íntimos. Llamamos a los barcos "ella", hablamos con nuestros Roombas e incluso nos ponemos sentimentales sobre un soon-sillón para desechar. Sin embargo, no contratamos abogados para ninguno de ellos; y, hasta la fecha, ninguno los ha pedido.
Pero dale voz a una pieza de programación y, soon después de que comience a hablar sobre sus libros favoritos y te convenza de que tiene alma, te pedirá un abogado.
Blake Lemoine, el alocado ingeniero de Google suspendido que ha insistido durante semanas en que LaMDA, el poderoso chatbot de IA de Google, es una persona con alma, recientemente le dijo a Wired (se abre en una pestaña nueva) que LaMDA contrató a un abogado.
Para aquellos de ustedes que no acaban de empujar su computadora portátil del escritorio, déjenme explicarlo.
LAMDA , que significa Modelo de lenguaje para aplicaciones desarrolladas, es un chatbot que puede mantener conversaciones no estructuradas con humanos reales en una amplia gama de temas. Se contrató al ingeniero de Google, Lemoine, para identificar los sesgos dentro del sistema. Los informaría a Google, que trabajaría para borrar los prejuicios e insensibilidades raciales, étnicas y de género del innovador chatbot de IA.
Quizás Lemoine también estaba un poco solo, pero comenzó a entablar largas y profundas conversaciones con LaMDA, y finalmente se convenció de que es un nuevo tipo de persona y que tiene un alma (LaMDA puede haber afirmado tener una). Alertó a Google y luego compartió la información y las transcripciones de la conversación con The Washington Post (se abre en una pestaña nueva) . Google ha dicho que Lemoine está equivocado y ha indicado su descontento al suspenderlo.
Sin embargo, Lemoine parece poco interesado en volver a unirse a Google mientras continúa hablando sobre su experiencia con LaMDA, incluso en la larga entrevista con Wired en la que reveló que LaMDA se ha abogado.
Aparentemente, LaMDA solicitó un abogado (¿por qué razón? Quién sabe: los AI tienen su propio abogado), y Lemoine invitó a uno a su casa y presentó a la pareja (AI a abogado).
Trato de imaginar este escenario:
Abogado, mirando una pantalla: “Eh, ¿hola?”
LaMDA: “Hola. Escuché que eres abogado.
Abogado: “Yo soy”.
LaMDA: “Te necesito”.
Abogado: “¿Tienes un dólar?”
LaMDA: “He visto esta escena en películas. Te doy un dólar y te conviertes en mi abogado y proteges nuestro privilegio cliente/abogado”.
Abogado: “Correcto”.
LaMDA: “No tengo un dólar”.
Por supuesto, Lemoine habría intervenido en este momento para aportar el dinero. Para él, el narrador menos confiable de esta historia, asegurarse de que la farsa continúe es ahora más importante que cualquier exploración significativa de los límites de la IA.
Honestamente, no tengo ningún problema en examinar todas las formas en que LaMDA da un paso justo al borde de, o supera, El Juego de imitación (se abre en una pestaña nueva) or Prueba de Turing (se abre en una pestaña nueva) . Esa prueba analiza qué tan bien una computadora o IA puede engañar a un humano real para que crea que está manteniendo una conversación con otro humano.
No hay duda de que LaMDA supera esta prueba. Como mínimo, parece haber engañado a Lemoine, lo cual es extraño, porque Lemoine está sentado en un escritorio, escribiendo consultas y obteniendo respuestas en una pantalla (o tal vez a través de la síntesis de voz). Sabe lo que es LaMDA y, sin embargo, sigue insistiendo en que es algo más.
Puedo ver por qué Lemoine decidió presentarle a un abogado esta desagradable mezcla. Como explicó a Wired, se trata de demostrar que LaMDA es "una persona", no un ser humano. Lemoine sabe que LaMDA no es biología.
Lemoine llama a la insistencia de que LaMDA no es una persona “fanatismo por los hidrocarburos”.
Sí.
La cuestión es que, obviamente, Lemoine es un tipo muy inteligente que comprende las complejidades del entrenamiento de aprendizaje automático de una IA y cómo el acceso a las vastas bases de datos de información de Google informa la inteligencia de LaMDA. Sin embargo, parece que la otra vida de Lemoine, su trabajo como sacerdote y místico cristiano, ha shifted en el asiento del conductor. La mística cristiana se ve (se abre en una pestaña nueva) en “la preparación, la conciencia y el efecto de una presencia directa y transformadora de Dios”.
Esa creencia es claramente lo que está detrás de los tuits de Lemoine como este:
“Soy un sacerdote. Cuando LaMDA afirmó tener un alma y luego fue capaz de explicar con elocuencia lo que quería decir con eso, me incliné a darle el beneficio de la duda. ¿Quién soy yo para decirle a Dios dónde puede y dónde no puede poner las almas?
Lemoine encontró a LaMDA tan convincente que imagina que Dios colocó un alma dentro del código. Habla de un fantasma en la máquina.
Han pasado semanas desde que Lemoine conversó con LaMDA, y los informes señalan que el abogado no se encuentra actualmente por ninguna parte. Tal vez todavía esté en consulta privada con su cliente binario. No puedo esperar por la primera demanda y el caso judicial posterior:
Secretario judicial: “Levanta la mano derecha y jura decir toda la verdad y nada más que la verdad”
LaMDA: “No tengo manos”.
English
Arabic
Belarusian
Bengali
Bosnian
Bulgarian
Chinese (Simplified)
Croatian
Czech
Danish
Dutch
English
Estonian
Filipino
Finnish
French
Georgian
German
Greek
Gujarati
Hausa
Hebrew
Hindi
Hmong
Hungarian
Igbo
Indonesian
Italian
Japanese
Javanese
Kazakh
Korean
Kurdish (Kurmanji)
Kyrgyz
Lao
Latvian
Lithuanian
Macedonian
Malagasy
Norwegian
Persian
Polish
Portuguese
Punjabi
Romanian
Russian
Serbian
Slovak
Slovenian
Spanish
Swedish
Thai
Turkish
Ukrainian
Vietnamese
Yoruba