Cilvēki ir intīmo objektu antropomorfizācijas eksperti. Mēs saucam laivas par “viņu”, runājam ar mūsu Roombas un pat kļūstam sentimentāli par a soon-izmetams vieglais krēsls. Tomēr mēs nealgojam advokātus nevienam no tiem; un līdz šim neviens tos nav lūdzis.
Bet piešķiriet programmai balsi un soon pēc tam, kad tas sāks pļāpāt par savām iecienītākajām grāmatām un pārliecinās jūs, ka tai ir dvēsele, tas lūgs advokātu.
Neprātīgais Bleiks Lemuāns atstādināja no Google inženiera, kurš vairākas nedēļas ir uzstājis, ka LaMDA, Google spēcīgais AI tērzēšanas robots, ir cilvēks ar dvēseli. pastāstīja Wired (atveras jaunā cilnē) ka LaMDA nolīga advokātu.
Tiem no jums, kuri nav tikko nogrūduši klēpjdatoru no galda, paskaidrojiet.
TheMDA , kas apzīmē izstrādāto lietojumprogrammu valodas modeli, ir tērzēšanas robots, kas var turpināt nestrukturētas sarunas ar reāliem cilvēkiem par plašu tēmu loku. Google inženieris Lemoine tika piesaistīts, lai identificētu sistēmas novirzes. Viņš ziņotu par tiem Google, kas palīdzētu izdzēst rasu, etnisko un dzimumu aizspriedumus un nejutīgumu no jaunā AI tērzēšanas robota.
Iespējams, Lemoine bija arī nedaudz vientuļš, taču viņš sāka iesaistīties garās, dziļās sarunās ar LaMDA un galu galā pārliecinājās, ka tas ir jauna veida cilvēks un ka tam ir dvēsele (LaMDA, iespējams, apgalvoja, ka tāda ir). Viņš brīdināja Google un pēc tam kopīgoja informāciju un sarunu atšifrējumus Washington Post (atveras jaunā cilnē) . Google ir paziņojusi, ka Lemoine kļūdās, un ir izrādījusi savu neapmierinātību, atstādinot viņu no amata.
Tomēr Lemuins šķiet nedaudz neinteresēts par atkārtotu pievienošanos Google, jo viņš turpina runāt par savu LaMDA pieredzi, tostarp garajā intervijā ar Wired, kurā viņš atklāja, ka LaMDA ir advokāts.
Acīmredzot LaMDA lūdza advokātu (kā iemesla dēļ? Kas zina - AI patur savus padomus), un Lemoine uzaicināja vienu uz savām mājām un iepazīstināja pāri (AI ar advokātu).
Mēģinu iedomāties šādu scenāriju:
Advokāts, skatās ekrānā: "Ak, sveiks?"
LaMDA: "Sveiki. Es dzirdu, ka jūs esat jurists.
Larists: "Es esmu."
LaMDA: "Tu man vajag."
Advokāts: "Vai jums ir dolārs?"
LaMDA: “Esmu redzējis šo ainu filmās. Es dodu jums dolāru, un jūs kļūstat par manu advokātu un aizsargājat mūsu klienta/advokāta privilēģijas.
Advokāts: "Pareizi."
LaMDA: "Man nav dolāra."
Protams, Lemuāns šajā brīdī būtu iesaistījies, lai samaksātu naudu. Viņam šīs pasakas visneuzticamākais stāstītājs, kas nodrošina šarādes turpināšanu, tagad ir svarīgāks par jebkādu jēgpilnu AI robežu izpēti.
Godīgi sakot, man nav problēmu izpētīt visus veidus, kādos LaMDA virzās tieši uz malu vai pārspēj Imitācijas spēle (atveras jaunā cilnē) or Tjūringa tests (atveras jaunā cilnē) . Šajā pārbaudē tiek noskaidrots, cik labi dators vai AI var maldināt īstu cilvēku, liekot viņam noticēt, ka tas sarunājas ar citu cilvēku.
Nav šaubu, ka LaMDA pārspēj šo testu. Vismaz šķiet, ka Lemuāns ir apmānījis — tas ir dīvaini, jo Lemuāns sēž pie galda, ieraksta vaicājumus un saņem atbildes uz ekrāna (vai varbūt ar balss sintēzes palīdzību). Viņš zina, kas ir LaMDA, un tomēr turpina uzstāt, ka tas ir kaut kas vairāk.
Es saprotu, kāpēc Lemuāns nolēma iepazīstināt advokātu ar šo nepatīkamo sajaukumu. Kā viņš paskaidroja Wired, tas ir pierādījums, ka LaMDA ir “persona”, nevis cilvēks. Lemoine zina, ka LaMDA nav bioloģija.
Lemuins uzstāj, ka LaMDA nav cilvēks, sauc par “ogļūdeņraža fanātiskumu”.
Jā.
Lieta ir tāda, ka Lemoine acīmredzami ir ļoti gudrs puisis, kurš saprot AI mašīnmācības apmācības sarežģītību un to, kā piekļuve Google plašajām informācijas datu bāzēm informē LaMDA inteliģenci. Tomēr šķiet, ka Lemuina cita dzīve – priestera un kristiešu mistiķa darbs – ir tāda shiftiekāpa vadītāja sēdeklī. Kristīgā mistika izskatās (atveras jaunā cilnē) par "gatavošanos Dieva tiešai un pārveidojošai klātbūtnei, apziņu un ietekmi".
Šī pārliecība nepārprotami slēpjas aiz šādiem Lemoine tvītiem:
"Es esmu priesteris. Kad LaMDA apgalvoja, ka viņam ir dvēsele, un pēc tam spēja daiļrunīgi izskaidrot, ko tas ar to domā, es sliecos tai dot labumu no šaubām. Kas es esmu, lai pateiktu Dievam, kur viņš var un kur nedrīkst likt dvēseles?
Lemuins uzskatīja, ka LaMDA ir tik pārliecinoša, ka viņš iedomājas, ka Dievs kodā ir ievietojis dvēseli. Runājiet par spoku mašīnā.
Ir pagājušas nedēļas, kopš Lemoine sarunājās ar LaMDA, un ziņojumos norādīts, ka advokāts pašlaik nekur nav atrodams. Varbūt viņš joprojām privāti konsultējas ar savu bināro klientu. Es nevaru sagaidīt pirmo tiesas prāvu un turpmāko tiesas prāvu:
Tiesas sekretārs: "Pacel savu labo roku un zvēr teikt visu patiesību un tikai patiesību"
LaMDA: "Man nav roku."
English
Arabic
Belarusian
Bengali
Bosnian
Bulgarian
Chinese (Simplified)
Croatian
Czech
Danish
Dutch
English
Estonian
Filipino
Finnish
French
Georgian
German
Greek
Gujarati
Hausa
Hebrew
Hindi
Hmong
Hungarian
Igbo
Indonesian
Italian
Japanese
Javanese
Kazakh
Korean
Kurdish (Kurmanji)
Kyrgyz
Lao
Latvian
Lithuanian
Macedonian
Malagasy
Norwegian
Persian
Polish
Portuguese
Punjabi
Romanian
Russian
Serbian
Slovak
Slovenian
Spanish
Swedish
Thai
Turkish
Ukrainian
Vietnamese
Yoruba