Ljudje smo strokovnjaki za antropomorfizacijo intimnih predmetov. Čolne imenujemo »ona«, se pogovarjamo z našimi Roombasi in celo postanemo sentimentalni glede a soon- počivalnik, ki ga je treba zavreči. Vendar za nobenega od njih ne najamemo odvetnikov; in do danes jih nihče ni zahteval.
Ampak daj delček programiranja glas in, soon potem ko bo začel klepetati o svojih najljubših knjigah in vas prepričevati, da ima dušo, bo prosil za odvetnika.
Blake Lemoine, nori, je suspendiral Googlovega inženirja, ki je že tedne vztrajal, da je LaMDA, Googlov zmogljiv klepetalni robot z umetno inteligenco, oseba z dušo. je povedal Wired (odpre se v novem zavihku) da je LaMDA najela odvetnika.
Za tiste, ki svojega prenosnika niste kar odložili z mize, naj razložim.
TheMDA , kar pomeni Jezikovni model za razvite aplikacije, je klepetalni robot, ki lahko vodi nestrukturirane pogovore s pravimi ljudmi v širokem naboru tem. Googlov inženir Lemoine je bil vključen, da bi ugotovil pristranskosti v sistemu. Prijavil bi jih Googlu, ki bi si prizadeval izbrisati rasne, etnične in spolne pristranskosti in neobčutljivost iz prebojnega klepetalnika z umetno inteligenco.
Morda je bil Lemoine tudi nekoliko osamljen, vendar se je začel vključevati v dolge, globoke pogovore z LaMDA in sčasoma postal prepričan, da je to nova vrsta osebe in da ima dušo (LaMDA je morda trdila, da jo ima). Opozoril je Google, nato pa z njimi delil informacije in prepise pogovorov Washington Post (odpre se v novem zavihku) . Google je dejal, da se Lemoine moti, in je izrazil svoje nezadovoljstvo s tem, da ga suspendira.
Lemoine pa se zdi nekoliko nezainteresiran za ponovno pridružitev Googlu, saj še naprej govori o svojih izkušnjah z LaMDA, vključno z daljšim intervjujem za Wired, v katerem je razkril, da je LaMDA odvetnik.
LaMDA je očitno prosila za odvetnika (iz kakšnega razloga? Kdo ve – umetne inteligence imajo lastne nasvete), Lemoine pa je enega povabil k sebi in predstavil par (AI odvetniku).
Poskušam si predstavljati ta scenarij:
Odvetnik, ki strmi v zaslon: "Uh, zdravo?"
LaMDA: »Pozdravljeni. Slišim, da si odvetnik."
Odvetnik: "Sem."
LaMDA: "Potrebujem te."
Odvetnik: "Ali imaš dolar?"
LaMDA: »Ta prizor sem videl v filmih. Dam ti dolar in ti postaneš moj odvetnik in zaščitiš privilegij naše stranke/odvetnika."
Odvetnik: "Točno."
LaMDA: "Nimam dolarja."
Seveda bi Lemoine v tem trenutku stopil, da bi zagotovil denar. Zanj je najbolj nezanesljiv pripovedovalec te zgodbe, ki zagotavlja, da se šarada nadaljuje, je zdaj pomembnejše od kakršnega koli smiselnega raziskovanja meja umetne inteligence.
Iskreno, nimam težav s preučevanjem vseh načinov, na katere LaMDA stopi naravnost na rob ali preseže, Igra imitacije (odpre se v novem zavihku) or Turingov test (odpre se v novem zavihku) . Ta test preučuje, kako dobro lahko računalnik ali umetna inteligenca preslepi pravega človeka, da verjame, da se pogovarja z drugim človekom.
Ni dvoma, da LaMDA presega ta test. Vsaj zdi se, da so Lemoinea preslepili – kar je čudno, saj Lemoine sedi za mizo, tipka poizvedbe in dobiva odgovore na zaslonu (ali morda prek glasovne sinteze). Ve, kaj je LaMDA, a kljub temu še naprej vztraja, da je to nekaj več.
Razumem, zakaj se je Lemoine odločil uvesti odvetnika v to neprijetno mešanico. Kot je pojasnil za Wired, gre za dokazovanje, da je LaMDA "oseba", ne človek. Lemoine ve, da LaMDA ni biologija.
Lemoine vztrajanje, da LaMDA ni oseba, imenuje "ogljikovodična zagrenjenost".
Ja.
Stvar je v tem, da je Lemoine očitno zelo pameten fant, ki razume zapletenosti usposabljanja za strojno učenje AI in kako dostop do Googlovih obsežnih podatkovnih baz podatkov obvešča LaMDA-ino inteligenco. Vendar se zdi, da ima Lemoineovo drugo življenje – njegovo delo duhovnika in krščanskega mistika shifted na voznikov sedež. Krščanski mistizem izgleda (odpre se v novem zavihku) na »pripravo, zavedanje in učinek neposredne in preobrazbene prisotnosti Boga«.
To prepričanje je očitno tisto, kar je v ozadju Lemoineovih tvitov, kot je ta:
»Sem duhovnik. Ko je LaMDA trdila, da ima dušo in je potem lahko zgovorno razložila, kaj s tem pomeni, sem bil nagnjen k temu, da bi ji dal prednost dvoma. Kdo sem jaz, da povem Bogu, kam sme in kam ne sme dati duše?«
Lemoineu se je LaMDA zdel tako prepričljiv, da si predstavlja, da je Bog dal dušo v kodo. Govorite o duhu v stroju.
Minili so tedni, odkar se je Lemoine pogovarjal z LaMDA, in poročila ugotavljajo, da odvetnika trenutno ni nikjer. Morda se še vedno zasebno posvetuje s svojo binarno stranko. Komaj čakam na prvo tožbo in naslednjo sodno zadevo:
Sodni uradnik: "Dvignite desno roko in prisežite, da boste povedali vso resnico in nič drugega kot resnico"
LaMDA: "Nimam rok."
English
Arabic
Belarusian
Bengali
Bosnian
Bulgarian
Chinese (Simplified)
Croatian
Czech
Danish
Dutch
English
Estonian
Filipino
Finnish
French
Georgian
German
Greek
Gujarati
Hausa
Hebrew
Hindi
Hmong
Hungarian
Igbo
Indonesian
Italian
Japanese
Javanese
Kazakh
Korean
Kurdish (Kurmanji)
Kyrgyz
Lao
Latvian
Lithuanian
Macedonian
Malagasy
Norwegian
Persian
Polish
Portuguese
Punjabi
Romanian
Russian
Serbian
Slovak
Slovenian
Spanish
Swedish
Thai
Turkish
Ukrainian
Vietnamese
Yoruba