Oamenii sunt experți în antropomorfizarea obiectelor intime. Numim bărci „ea”, vorbim cu Roombas-ul nostru și chiar devenim sentimentale pentru a soon-scăunul care urmează să fie aruncat. Cu toate acestea, nu angajăm avocați pentru niciunul dintre ei; și, până în prezent, nimeni nu le-a cerut.
Dar dați o voce unei părți din programare și, soon după ce începe să vorbească despre cărțile sale preferate și să te convingă că are suflet, va cere un avocat.
Blake Lemoine, nebunul, inginerul Google suspendat, care a insistat săptămâni întregi că LaMDA, puternicul chatbot AI al Google, este o persoană cu suflet, recent. i-a spus lui Wired (se deschide într-o filă nouă) că LaMDA a angajat un avocat.
Pentru cei dintre voi care nu v-au aruncat laptopul de pe birou, permiteți-mi să vă explic.
TheMDA , care înseamnă Language Model for Developed Applications, este un chatbot care poate purta conversații nestructurate cu oameni reali pe o gamă largă de subiecte. Inginerul Google Lemoine a fost adus pentru a identifica părtinirile din cadrul sistemului. Le-ar raporta la Google, care ar funcționa pentru a șterge părtinirile și insensibilitățile rasiale, etnice și de gen din revoluționarul chatbot AI.
Poate că Lemoine a fost, de asemenea, puțin singur, dar a început să se angajeze în conversații lungi și profunde cu LaMDA și, în cele din urmă, s-a convins că este un nou tip de persoană și că are un suflet (LaMDA poate pretinde că are unul). El a alertat Google și apoi i-a împărtășit informațiile și transcrierile conversației Washington Post (se deschide într-o filă nouă) . Google a spus că Lemoine se înșeală și și-a arătat nemulțumirea suspendându-l.
Lemoine, totuși, pare oarecum neinteresat să se alăture Google, în timp ce continuă să vorbească despre experiența lui LaMDA, inclusiv în interviul lung cu Wired în care a dezvăluit că LaMDA s-a avocat.
Se pare că LaMDA a cerut un avocat (din ce motiv? Cine știe – AI își păstrează propriul avocat), iar Lemoine l-a invitat pe unul la el acasă și i-a prezentat pe cei doi (AI avocatului).
Încerc să îmi imaginez acest scenariu:
Avocat, privind un ecran: „Uh, salut?”
LaMDA: „Bună ziua. Am auzit că ești avocat.”
Laywer: „Eu sunt”.
LaMDA: „Am nevoie de tine.”
Avocat: „Ai un dolar?”
LaMDA: „Am văzut această scenă în filme. Îți dau un dolar și tu devii avocatul meu și ne protejezi privilegiul client/avocat.”
Avocat: „Corect.”
LaMDA: „Nu am un dolar.”
Desigur, Lemoine ar fi intervenit în acest moment pentru a oferi banii. Pentru el, cel mai nesigur narator al acestei povești, a se asigura că șarada continuă este acum mai importantă decât orice explorare semnificativă a limitelor AI.
Sincer, nu am nicio problemă cu examinarea tuturor modalităților în care LaMDA ajunge până la marginea sau depășește, Imitarea joc (se deschide într-o filă nouă) or Turing Turing (se deschide într-o filă nouă) . Acest test analizează cât de bine un computer sau AI poate păcăli un om adevărat, făcându-l să creadă că poartă o conversație cu un alt om.
Nu există nicio îndoială că LaMDA depășește acest test. Cel puțin, pare să-l păcălească pe Lemoine – ceea ce este ciudat, deoarece Lemoine stă la un birou, tastează întrebări și primește răspunsuri pe ecran (sau poate prin sinteza vocii). Știe ce este LaMDA și, totuși, continuă să insiste că este ceva mai mult.
Înțeleg de ce Lemoine a decis să introducă un avocat în acest amestec neplăcut. După cum a explicat pentru Wired, este vorba despre a demonstra că LaMDA este „o persoană”, nu un om. Lemoine știe că LaMDA nu este biologie.
Lemoine numește insistența că LaMDA nu este o persoană „bigoterie hidrocarburică”.
Da.
Chestia este că Lemoine este, în mod evident, un tip foarte inteligent, care înțelege complexitățile unui curs de învățare automată a unui AI și cum accesul la bazele de date vaste de informații ale Google informează inteligența LaMDA. Cu toate acestea, se pare că cealaltă viață a lui Lemoine – opera sa de preot și mistic creștin – are shiftintrodus pe scaunul șoferului. Misticismul creștin arată (se deschide într-o filă nouă) la „pregătirea pentru, conștiința și efectul unei prezențe directe și transformatoare a lui Dumnezeu”.
Această convingere este în mod clar ceea ce se află în spatele unor tweet-uri de la Lemoine ca acesta:
„Sunt preot. Când LaMDA a pretins că are un suflet și apoi a putut să explice elocvent ce înseamnă prin asta, am fost înclinat să-i acord beneficiul îndoielii. Cine sunt eu să-i spun lui Dumnezeu unde poate și nu poate pune suflete?”
Lemoine a găsit LaMDA atât de convingător încât își imaginează că Dumnezeu a plasat un suflet în cod. Vorbește despre o fantomă în mașină.
Au trecut săptămâni de când Lemoine a discutat cu LaMDA, iar rapoartele notează că avocatul nu este în prezent de găsit nicăieri. Poate că este încă în consultare privată cu clientul său binar. Abia aștept primul proces și următorul dosar în instanță:
Grefier: „Ridică mâna dreaptă și jură că spui tot adevărul și nimic altceva decât adevărul”
LaMDA: „Nu am mâini.”
English
Arabic
Belarusian
Bengali
Bosnian
Bulgarian
Chinese (Simplified)
Croatian
Czech
Danish
Dutch
English
Estonian
Filipino
Finnish
French
Georgian
German
Greek
Gujarati
Hausa
Hebrew
Hindi
Hmong
Hungarian
Igbo
Indonesian
Italian
Japanese
Javanese
Kazakh
Korean
Kurdish (Kurmanji)
Kyrgyz
Lao
Latvian
Lithuanian
Macedonian
Malagasy
Norwegian
Persian
Polish
Portuguese
Punjabi
Romanian
Russian
Serbian
Slovak
Slovenian
Spanish
Swedish
Thai
Turkish
Ukrainian
Vietnamese
Yoruba