Lidé jsou experti na antropomorfizaci intimních objektů. Říkáme lodím „ona“, mluvíme s našimi Roombami a dokonce se stáváme sentimentálními ohledně a soon- křeslo k vyřazení. Na žádného z nich však nenajímáme právníky; a dodnes o ně nikdo nepožádal.
Ale dejte kus programování hlas a, soon poté, co začne chatovat o svých oblíbených knihách a přesvědčí vás, že má duši, požádá o právníka.
Blake Lemoine, blázen, suspendoval inženýra Google, který několik týdnů trval na tom, že LaMDA, výkonný AI chatbot Google, je člověk s duší, nedávno řekl Wired (otevře se na nové kartě) že LaMDA najala právníka.
Pro ty z vás, kteří právě neshodili svůj notebook ze stolu, dovolte mi to vysvětlit.
MDA , což je zkratka pro Language Model for Developed Applications, je chatbot, který může vést nestrukturované konverzace se skutečnými lidmi napříč širokou škálou témat. Inženýr Google Lemoine byl přizván, aby identifikoval předsudky v systému. Oznámil by je Googlu, který by pracoval na vymazání rasových, etnických a genderových předsudků a necitlivosti z průlomového chatbota s umělou inteligencí.
Možná byl Lemoine také trochu osamělý, ale začal se zapojovat do dlouhých, hlubokých rozhovorů s LaMDA a nakonec se přesvědčil, že je to nový druh lidí a že má duši (LaMDA možná tvrdila, že ji má). Upozornil Google a poté sdílel informace a přepisy konverzací Washington Post (otevře se na nové kartě) . Google řekl, že se Lemoine mýlí, a dal najevo svou nelibost tím, že ho suspendoval.
Lemoine se však zdá poněkud nezaujatý opětovným připojením se ke společnosti Google, když stále mluví o svých zkušenostech s LaMDA, včetně dlouhého rozhovoru pro Wired, ve kterém odhalil, že LaMDA se ujal právní moci.
LaMDA zjevně požádala o právníka (z jakého důvodu? Kdo ví – AI si nechávají své vlastní rady) a Lemoine jednoho pozval k sobě domů a dvojici představil (AI právníkovi).
Zkusím si představit tento scénář:
Právník zírá na obrazovku: "Ahoj?"
LaMDA: „Dobrý den. Slyšel jsem, že jsi právník."
Layer: "Jsem."
LaMDA: "Potřebuji tě."
Právník: "Máte dolar?"
LaMDA: „Viděl jsem tuto scénu ve filmech. Dám vám dolar a stanete se mým právníkem a budete chránit výsadu našeho klienta/právníka.“
Právník: "Správně."
LaMDA: "Nemám ani dolar."
Samozřejmě, Lemoine by v tuto chvíli zasáhla, aby poskytla peníze. Pro něj, nejnespolehlivější vypravěč tohoto příběhu, zajištění pokračování šarády je nyní důležitější než jakékoli smysluplné zkoumání hranic umělé inteligence.
Upřímně řečeno, nemám problém zkoumat všechny způsoby, jakými LaMDA kráčí až na okraj nebo překonává, Kód Enigmy (otevře se na nové kartě) or Turingův test (otevře se na nové kartě) . Tento test zkoumá, jak dobře může počítač nebo AI oklamat skutečného člověka, aby uvěřil, že vede konverzaci s jiným člověkem.
Není pochyb o tom, že LaMDA tento test překoná. Přinejmenším se zdá, že Lemoine oklamal – což je zvláštní, protože Lemoine sedí u stolu, zadává dotazy a dostává odpovědi na obrazovku (nebo možná prostřednictvím hlasové syntézy). Ví, co je LaMDA, a přesto stále trvá na tom, že je to něco víc.
Chápu, proč se Lemoine rozhodl zasvětit právníka do této nechutné směsi. Jak vysvětlil Wired, jde o to dokázat, že LaMDA je „osoba“, nikoli člověk. Lemoine ví, že LaMDA není biologie.
Lemoine nazývá naléhání, že LaMDA není člověk „uhlovodíkovým fanatismem“.
To jo.
Jde o to, že Lemoine je zjevně velmi chytrý člověk, který rozumí složitosti školení strojového učení AI a tomu, jak přístup k rozsáhlým databázím informací společnosti Google informuje inteligenci LaMDA. Zdá se však, že Lemoinův další život – jeho práce kněze a křesťanského mystika – ano shiftnasedl na sedadlo řidiče. Křesťanská mystika vypadá (otevře se na nové kartě) na „přípravu na přímou a transformační přítomnost Boha, její vědomí a účinek“.
Tato víra je jasně to, co stojí za tweety od Lemoine, jako je tento:
"Jsem kněz." Když LaMDA tvrdila, že má duši, a pak byla schopna výmluvně vysvětlit, co to znamená, byl jsem nakloněn tomu dát výhodu pochybnosti. Kdo jsem já, abych Bohu říkal, kam může a nemůže umístit duše?
Lemoine shledal LaMDA tak přesvědčivou, že si představuje, že Bůh do kódu vložil duši. Mluvte o duchovi ve stroji.
Od chvíle, kdy Lemoine mluvil s LaMDA, uběhly týdny a zprávy uvádějí, že právníka momentálně není nikde k nalezení. Možná stále soukromě konzultuje se svým binárním klientem. Nemůžu se dočkat první žaloby a následného soudního sporu:
Soudní úředník: „Zvedni pravou ruku a přísahej, že budeš říkat celou pravdu a nic než pravdu“
LaMDA: "Nemám ruce."
English
Arabic
Belarusian
Bengali
Bosnian
Bulgarian
Chinese (Simplified)
Croatian
Czech
Danish
Dutch
English
Estonian
Filipino
Finnish
French
Georgian
German
Greek
Gujarati
Hausa
Hebrew
Hindi
Hmong
Hungarian
Igbo
Indonesian
Italian
Japanese
Javanese
Kazakh
Korean
Kurdish (Kurmanji)
Kyrgyz
Lao
Latvian
Lithuanian
Macedonian
Malagasy
Norwegian
Persian
Polish
Portuguese
Punjabi
Romanian
Russian
Serbian
Slovak
Slovenian
Spanish
Swedish
Thai
Turkish
Ukrainian
Vietnamese
Yoruba