Mennesker er eksperter i at antropomorfisere intime genstande. Vi kalder både "hun", taler med vores Roombas og bliver endda sentimentale omkring en soon-skal kasseres lænestol. Vi hyrer dog ikke advokater til nogen af dem; og til dato har ingen bedt om dem.
Men giv et stykke programmering en stemme og, soon når den begynder at chatte om sine yndlingsbøger og overbeviser dig om, at den har en sjæl, vil den bede om en advokat.
Blake Lemoine, den gale, suspenderede Google-ingeniør, som i ugevis har insisteret på, at LaMDA, Googles kraftfulde AI-chatbot, er en person med en sjæl, for nylig fortalte Wired (åbner i ny fane) at LaMDA hyrede en advokat.
Til dem af jer, der ikke lige har skubbet din bærbare computer væk fra skrivebordet, så lad mig forklare.
MDA , som står for Language Model for Developed Applications, er en chatbot, der kan føre ustrukturerede samtaler med rigtige mennesker på tværs af en bred vifte af emner. Google-ingeniør Lemoine blev hentet ind for at identificere skævheder i systemet. Han ville rapportere dem til Google, som ville arbejde på at fjerne racemæssige, etniske og kønsmæssige skævheder og ufølsomheder fra den banebrydende AI-chatbot.
Måske var Lemoine også lidt ensom, men han begyndte at engagere sig i lange, dybe samtaler med LaMDA og blev til sidst overbevist om, at det er en ny slags person, og at den har en sjæl (LaMDA kan have hævdet at have en). Han advarede Google og delte derefter oplysningerne og samtaleudskrifterne med The Washington Post (åbner i ny fane) . Google har sagt, at Lemoine tager fejl, og har tilkendegivet sin utilfredshed ved at suspendere ham.
Lemoine virker dog noget uinteresseret i at slutte sig til Google igen, da han fortsætter med at fortælle om sin LaMDA-oplevelse, herunder i det lange interview med Wired, hvor han afslørede, at LaMDA har meldt sig.
LaMDA bad tilsyneladende om en advokat (af hvilken grund? Hvem ved – AI'er holder deres egne råd), og Lemoine inviterede en til sit hjem og introducerede parret (AI for advokat).
Jeg prøver at forestille mig dette scenarie:
Advokat, stirrer på en skærm: "Øh, hej?"
LaMDA: "Hej. Jeg hører, du er advokat."
Laywer: "Jeg er."
LaMDA: "Jeg har brug for dig."
Advokat: "Har du en dollar."
LaMDA: "Jeg har set denne scene i film. Jeg giver dig en dollar, og du bliver min advokat og beskytter vores klient/advokat-privilegium."
Advokat: "Godt."
LaMDA: "Jeg har ikke en dollar."
Selvfølgelig ville Lemoine have trådt til i dette øjeblik for at skaffe pengene. For ham er denne fortællings mest upålidelige fortæller, at sikre, at forestillingen fortsætter, nu vigtigere end enhver meningsfuld udforskning af grænserne for AI.
Helt ærligt, jeg har ingen problemer med at undersøge alle de måder, hvorpå LaMDA træder lige til kanten af eller overgår, Efterligning spil (åbner i ny fane) or Turing Test (åbner i ny fane) . Denne test ser på, hvor godt en computer eller AI kan narre et rigtigt menneske til at tro, at det fører en samtale med et andet menneske.
Der er næppe tvivl om, at LaMDA overgår denne test. Det ser i det mindste ud til, at Lemoine har narret - hvilket er mærkeligt, fordi Lemoine sidder ved et skrivebord og skriver forespørgsler og får svar på en skærm (eller måske gennem stemmesyntese). Han ved, hvad LaMDA er, og alligevel fortsætter han med at insistere på, at det er noget mere.
Jeg kan se, hvorfor Lemoine besluttede at introducere en advokat til denne ubehagelige blanding. Som han forklarede til Wired, handler det om at bevise, at LaMDA er "en person", ikke et menneske. Lemoine ved, at LaMDA ikke er biologi.
Lemoine kalder insisteren på, at LaMDA ikke er en person for "kulbrinte-fordomsfuldhed."
Ja.
Sagen er, at Lemoine åbenbart er en meget smart fyr, der forstår forviklingerne i en AI's maskinlæringstræning, og hvordan adgang til Googles enorme databaser med information informerer LaMDA's intelligens. Det ser dog ud til, at Lemoines andet liv – hans arbejde som præst og kristen mystiker – har shiftind i førersædet. Christian Mysticism ser ud (åbner i ny fane) ved "forberedelsen til, bevidstheden om og virkningen af en direkte og transformativ tilstedeværelse af Gud."
Den tro er klart, hvad der ligger bag tweets fra Lemoine som dette:
"Jeg er præst. Da LaMDA hævdede at have en sjæl og derefter veltalende var i stand til at forklare, hvad det betød med det, var jeg tilbøjelig til at give den fordelen af tvivlen. Hvem er jeg til at fortælle Gud, hvor han kan og ikke kan sætte sjæle?”
Lemoine fandt LaMDA så overbevisende, at han forestiller sig, at Gud har placeret en sjæl i koden. Tal om et spøgelse i maskinen.
Det er uger siden Lemoine talte med LaMDA, og rapporter bemærker, at advokaten i øjeblikket ikke er at finde. Måske er han stadig i privat konsultation med sin binære klient. Jeg kan ikke vente på den første retssag og den efterfølgende retssag:
Retssekretær: "Ræk din højre hånd og sværg at fortælle hele sandheden og intet andet end sandheden"
LaMDA: "Jeg har ikke hænder."
English
Arabic
Belarusian
Bengali
Bosnian
Bulgarian
Chinese (Simplified)
Croatian
Czech
Danish
Dutch
English
Estonian
Filipino
Finnish
French
Georgian
German
Greek
Gujarati
Hausa
Hebrew
Hindi
Hmong
Hungarian
Igbo
Indonesian
Italian
Japanese
Javanese
Kazakh
Korean
Kurdish (Kurmanji)
Kyrgyz
Lao
Latvian
Lithuanian
Macedonian
Malagasy
Norwegian
Persian
Polish
Portuguese
Punjabi
Romanian
Russian
Serbian
Slovak
Slovenian
Spanish
Swedish
Thai
Turkish
Ukrainian
Vietnamese
Yoruba