Människor är experter på att antropomorfiera intima föremål. Vi kallar båtar "hon", pratar med våra Roombas och blir till och med sentimentala om en soon-att kasseras fåtölj. Vi anlitar dock inte advokater för någon av dem; och hittills har ingen frågat efter dem.
Men ge ett stycke programmering en röst och, soon efter att den börjar chatta om sina favoritböcker och övertyga dig om att den har en själ, kommer den att fråga efter en advokat.
Blake Lemoine, den galna, avstängda Google-ingenjören som har insisterat i veckor på att LaMDA, Googles kraftfulla AI-chatbot, är en person med en själ, nyligen berättade Wired (öppnas i ny flik) att LaMDA anlitade en advokat.
För de av er som inte precis har skjutit bort din bärbara dator från skrivbordet, låt mig förklara.
MDA , som står för Language Model for Developed Applications, är en chatbot som kan föra ostrukturerade konversationer med riktiga människor över ett brett spektrum av ämnen. Googles ingenjör Lemoine togs in för att identifiera fördomar i systemet. Han skulle rapportera dem till Google, som skulle arbeta för att radera rasistiska, etniska och könsfördomar och okänsligheter från den banbrytande AI-chatboten.
Kanske var Lemoine också lite ensam, men han började engagera sig i långa, djupa samtal med LaMDA och blev så småningom övertygad om att det är en ny sorts person och att den har en själ (LaMDA kan ha påstått att han har en). Han larmade Google och delade sedan informationen och konversationsutskrifter med The Washington Post (öppnas i ny flik) . Google har sagt att Lemoine har fel och har visat sitt missnöje genom att stänga av honom.
Lemoine verkar dock något ointresserad av att gå med i Google igen när han fortsätter att prata om sin LaMDA-upplevelse, inklusive i den långa intervjun med Wired där han avslöjade att LaMDA har ställt upp som advokat.
LaMDA bad uppenbarligen efter en advokat (av vilken anledning? Vem vet – AIs har sina egna råd), och Lemoine bjöd in en till sitt hem och presenterade paret (AI för advokat).
Jag försöker föreställa mig detta scenario:
Advokat, stirrar på en skärm: "Äh, hej?"
LaMDA: "Hej. Jag hör att du är advokat."
Laywer: "Jag är."
LaMDA: "Jag behöver dig."
Advokat: "Har du en dollar."
LaMDA: "Jag har sett den här scenen i filmer. Jag ger dig en dollar och du blir min advokat och skyddar vårt klient-/advokatprivilegium."
Advokat: "Rätt."
LaMDA: "Jag har inte en dollar."
Naturligtvis skulle Lemoine ha gått in i detta ögonblick för att ge pengarna. För honom är den här berättelsens mest opålitliga berättare, att se till att charaden fortsätter är nu viktigare än någon meningsfull utforskning av gränserna för AI.
Ärligt talat har jag inga problem med att undersöka alla sätt på vilka LaMDA går ända till kanten av eller överträffar, Den Imitation Game (öppnas i ny flik) or Turingtestet (öppnas i ny flik) . Det testet tittar på hur väl en dator eller AI kan lura en riktig människa att tro att den för en konversation med en annan människa.
Det råder ingen tvekan om att LaMDA överträffar detta test. Åtminstone verkar det ha lurat Lemoine – vilket är konstigt, eftersom Lemoine sitter vid ett skrivbord, skriver in frågor och får svar på en skärm (eller kanske genom röstsyntes). Han vet vad LaMDA är, och ändå fortsätter han att insistera på att det är något mer.
Jag kan se varför Lemoine bestämde sig för att introducera en advokat till denna otrevliga mix. Som han förklarade för Wired handlar det här om att bevisa att LaMDA är "en person", inte en människa. Lemoine vet att LaMDA inte är biologi.
Lemoine kallar insisterandet på att LaMDA inte är en person för "kolvätetrohet".
Ja.
Saken är den att Lemoine uppenbarligen är en väldigt smart kille som förstår krångligheterna i en AI:s maskininlärningsträning, och hur tillgång till Googles stora databaser med information informerar LaMDA:s intelligens. Det verkar dock som Lemoines andra liv – hans arbete som präst och kristen mystiker – har shifted in i förarsätet. Christian Mysticism ser ut (öppnas i ny flik) vid "förberedelsen för, medvetandet om och effekten av en direkt och transformerande närvaro av Gud."
Den tron är helt klart vad som ligger bakom tweets från Lemoine så här:
”Jag är präst. När LaMDA påstod sig ha en själ och sedan vältaligt kunde förklara vad det menade med det, var jag benägen att ge den fördelen av tvivel. Vem är jag att berätta för Gud var han kan och inte kan placera själar?”
Lemoine fann LaMDA så övertygande att han föreställer sig att Gud placerade en själ i koden. Snacka om ett spöke i maskinen.
Det har gått veckor sedan Lemoine pratade med LaMDA, och rapporter noterar att advokaten för närvarande inte finns någonstans. Kanske är han fortfarande i privat samråd med sin binära klient. Jag kan inte vänta på den första rättegången och efterföljande rättegång:
Rättstjänsteman: "Räck upp din högra hand och svär att berätta hela sanningen och ingenting annat än sanningen"
LaMDA: "Jag har inga händer."
English
Arabic
Belarusian
Bengali
Bosnian
Bulgarian
Chinese (Simplified)
Croatian
Czech
Danish
Dutch
English
Estonian
Filipino
Finnish
French
Georgian
German
Greek
Gujarati
Hausa
Hebrew
Hindi
Hmong
Hungarian
Igbo
Indonesian
Italian
Japanese
Javanese
Kazakh
Korean
Kurdish (Kurmanji)
Kyrgyz
Lao
Latvian
Lithuanian
Macedonian
Malagasy
Norwegian
Persian
Polish
Portuguese
Punjabi
Romanian
Russian
Serbian
Slovak
Slovenian
Spanish
Swedish
Thai
Turkish
Ukrainian
Vietnamese
Yoruba