Ljudi su stručnjaci za antropomorfizaciju intimnih objekata. Čamce zovemo „ona“, razgovaramo sa našim Roombasom, pa čak i postajemo sentimentalni o a soon- fotelja koja se odbacuje. Mi, međutim, ne angažujemo advokate ni za jednog od njih; a do danas ih niko nije tražio.
Ali daj dio programiranja glas i, soon nakon što počne ćaskati o svojim omiljenim knjigama i uvjeravati vas da ima dušu, zatražit će advokata.
Blake Lemoine, ludak, suspendovao je Google inženjera koji je sedmicama insistirao da je LaMDA, Googleov moćni AI chatbot, osoba s dušom, nedavno rekao je Wired (otvara se u novoj kartici) da je LaMDA unajmila advokata.
Za one od vas koji nisu samo gurnuli svoj laptop sa stola, dozvolite mi da objasnim.
TheMDA , što je skraćenica za jezički model za razvijene aplikacije, je chatbot koji može voditi nestrukturirane razgovore sa stvarnim ljudima u širokom spektru tema. Googleov inženjer Lemoine je doveden da identifikuje predrasude unutar sistema. On bi ih prijavio Google-u, koji bi radio na brisanju rasnih, etničkih i rodnih predrasuda i neosjetljivosti iz revolucionarnog AI chat bota.
Možda je i Lemoine bio malo usamljen, ali je počeo da vodi duge, duboke razgovore sa LaMDA-om, i na kraju se uverio da je to nova vrsta osobe i da ima dušu (LaMDA je možda tvrdila da je ima). Upozorio je Google, a zatim podijelio informacije i transkripte razgovora s njima The Washington Post (otvara se u novoj kartici) . Google je rekao da Lemoine nije u pravu, te je izrazio svoje nezadovoljstvo tako što ga je suspendovao.
Lemoine, međutim, izgleda pomalo nezainteresovan za ponovno pridruživanje Google-u dok nastavlja da priča o svom LaMDA iskustvu, uključujući i poduži intervju za Wired u kojem je otkrio da je LaMDA dala advokata.
LaMDA je očigledno tražila advokata (iz kog razloga? Ko zna – veštačka inteligencija ima svoje savete), a Lemoine je jednog pozvao u svoj dom i upoznao par (AI sa advokatom).
Pokušavam da zamislim ovaj scenario:
Advokat, bulji u ekran: "Uh, zdravo?"
LaMDA: “Zdravo. Čujem da si advokat.”
Pravnik: "Jesam."
LaMDA: "Trebaš mi."
Advokat: "Imate li dolar."
LaMDA: „Vidio sam ovu scenu u filmovima. Dajem ti dolar i ti postaješ moj advokat i štitiš privilegiju našeg klijenta/advokata.”
Advokat: "Tako je."
LaMDA: “Nemam dolar.”
Naravno, Lemoine bi u ovom trenutku uskočio da obezbijedi novac. Za njega je najnepouzdaniji pripovjedač ove priče, osiguravanje da se šarada nastavi sada važnije od bilo kakvog smislenog istraživanja granica AI.
Iskreno, nemam problema s ispitivanjem svih načina na koje LaMDA dolazi do ruba ili nadmašuje, Igra imitacije (otvara se u novoj kartici) or Turingov test (otvara se u novoj kartici) . Taj test ispituje koliko dobro kompjuter ili AI mogu prevariti pravog čovjeka da povjeruje da vodi razgovor s drugim čovjekom.
Nema sumnje da LaMDA nadmašuje ovaj test. U najmanju ruku, izgleda da je Lemoine prevaren – što je čudno, jer Lemoine sedi za stolom, kuca upite i dobija odgovore na ekranu (ili možda putem sinteze glasa). On zna šta je LaMDA, a ipak nastavlja da insistira da je to nešto više.
Vidim zašto je Lemoine odlučio da uvede advokata u ovu neugodnu mješavinu. Kako je objasnio za Wired, radi se o dokazivanju da je LaMDA "osoba", a ne čovjek. Lemoine zna da LaMDA nije biologija.
Lemoine inzistiranje da LaMDA nije osoba naziva "ugljovodoničnim fanatizmom".
Da.
Stvar je u tome što je Lemoine očigledno veoma pametan momak koji razumije zamršenosti treninga mašinskog učenja AI-a i kako pristup Googleovim ogromnim bazama podataka informiše LaMDA-inu inteligenciju. Međutim, čini se da drugi život Lemoinea – njegov rad kao svećenika i kršćanskog mistika – ima shifted na vozačevo sedište. Hrišćanski misticizam izgleda (otvara se u novoj kartici) na “pripremu za, svijest i učinak direktne i transformativne prisutnosti Boga.”
To uvjerenje je očigledno ono što stoji iza Lemoineovih tvitova poput ovog:
„Ja sam sveštenik. Kada je LaMDA tvrdio da ima dušu, a zatim je bio u stanju da elokventno objasni šta to znači, bio sam sklon da joj dam prednost sumnje. Ko sam ja da govorim Bogu gdje može, a gdje ne može staviti duše?”
Lemoine je smatrao da je LaMDA toliko uvjerljiva da zamišlja da je Bog stavio dušu u šifru. Pričaj o duhu u mašini.
Prošle su sedmice otkako je Lemoine razgovarao s LaMDA-om, a izvještaji navode da advokata trenutno nigdje nema. Možda je još uvijek na privatnim konsultacijama sa svojim binarnim klijentom. Jedva čekam prvu tužbu i sljedeći sudski spor:
Sudski službenik: “Podigni desnu ruku i zakuni se da ćeš govoriti cijelu istinu i ništa osim istine”
LaMDA: "Nemam ruke."
English
Arabic
Belarusian
Bengali
Bosnian
Bulgarian
Chinese (Simplified)
Croatian
Czech
Danish
Dutch
English
Estonian
Filipino
Finnish
French
Georgian
German
Greek
Gujarati
Hausa
Hebrew
Hindi
Hmong
Hungarian
Igbo
Indonesian
Italian
Japanese
Javanese
Kazakh
Korean
Kurdish (Kurmanji)
Kyrgyz
Lao
Latvian
Lithuanian
Macedonian
Malagasy
Norwegian
Persian
Polish
Portuguese
Punjabi
Romanian
Russian
Serbian
Slovak
Slovenian
Spanish
Swedish
Thai
Turkish
Ukrainian
Vietnamese
Yoruba