Ihmiset ovat asiantuntijoita intiimien esineiden antropomorfoinnissa. Kutsumme veneitä "häneksi", puhumme Roombasillemme ja jopa kasvamme tunteelliseksi soon-hävitettävä lepotuoli. Emme kuitenkaan palkkaa asianajajia yhdellekään niistä; ja tähän mennessä kukaan ei ole pyytänyt niitä.
Mutta anna ohjelmointikappaleelle ääni ja soon kun se alkaa jutella suosikkikirjoistaan ja vakuuttaa sinulle, että sillä on sielu, se pyytää asianajajaa.
Hullu Blake Lemoine erotti äskettäin Googlen insinöörin palveluksesta, joka on viikkojen ajan väittänyt, että LaMDA, Googlen tehokas AI-chatbot, on sielullinen henkilö. kertoi Wired (avautuu uuteen välilehteen) että LaMDA palkkasi asianajajan.
Niille teistä, jotka eivät ole vain työntäneet kannettavaa tietokonettasi pöydältä, anna minun selittää.
TheMDA , joka tulee sanoista Language Model for Developed Applications, on chatbot, joka voi käydä jäsentelemättömiä keskusteluja oikeiden ihmisten kanssa useista eri aiheista. Googlen insinööri Lemoine kutsuttiin tunnistamaan järjestelmän vääristymiä. Hän ilmoittaisi niistä Googlelle, mikä poistaisi rodulliset, etniset ja sukupuoliset ennakkoluulot ja epätietoisuudet läpimurtotekoälyn chatbotista.
Ehkä Lemoine oli myös hieman yksinäinen, mutta hän alkoi käydä pitkiä, syviä keskusteluja LaMDA:n kanssa ja tuli lopulta vakuuttuneeksi siitä, että se on uudenlainen ihminen ja että sillä on sielu (LaMDA saattoi väittää, että hänellä on sellainen). Hän varoitti Googlea ja jakoi tiedot ja keskustelun transkriptit Washington Post (avautuu uuteen välilehteen) . Google on sanonut Lemoinen olevan väärässä ja ilmaissut tyytymättömyytensä jäädyttämällä hänet.
Lemoine ei kuitenkaan näytä olevan hieman kiinnostunut liittymään takaisin Googleen, kun hän jatkaa LaMDA-kokemuksestaan puhumista, mukaan lukien Wiredin pitkähaastattelussa, jossa hän paljasti, että LaMDA on ryhtynyt asianajajaksi.
LaMDA ilmeisesti pyysi asianajajaa (mistä syystä? Kuka tietää – tekoälyt pitävät omat neuvonsa), ja Lemoine kutsui yhden kotiinsa ja esitteli pariskunnan (AI asianajajalle).
Yritän kuvitella tämän skenaarion:
Lakimies tuijottaa näyttöä: "Ai, hei?"
LaMDA: "Hei. Kuulen, että olet lakimies."
Lakimies: "Olen."
LaMDA: "Tarvitsen sinua."
Lakimies: "Onko sinulla dollaria."
LaMDA: ”Olen nähnyt tämän kohtauksen elokuvissa. Annan sinulle dollarin ja sinusta tulee asianajajani ja suojelet asiakkaamme/lakimiehen etuoikeuksia."
Lakimies: "Oikein."
LaMDA: "Minulla ei ole dollaria."
Tietysti Lemoine olisi puuttunut tähän hetkeen saadakseen rahan. Hänelle tämän tarinan epäluotettavin kertoja, joka varmistaa, että charadi jatkuu, on nyt tärkeämpää kuin mikä tahansa mielekäs tekoälyn rajojen tutkiminen.
Rehellisesti sanottuna minulla ei ole mitään ongelmaa tutkia kaikkia tapoja, joilla LaMDA astuu oikealle reunalle tai ylittää Jäljitelmä Game (avautuu uuteen välilehteen) or Turingin testi (avautuu uuteen välilehteen) . Testissä tarkastellaan, kuinka hyvin tietokone tai tekoäly voi huijata oikean ihmisen uskomaan, että se keskustelee toisen ihmisen kanssa.
Ei ole epäilystäkään siitä, että LaMDA ylittää tämän testin. Ainakin näyttää siltä, että Lemoine on huijannut – mikä on outoa, koska Lemoine istuu pöydän ääressä, kirjoittaa kyselyitä ja saa vastauksia näytölle (tai ehkä äänisynteesin kautta). Hän tietää, mitä LaMDA on, mutta silti hän väittää edelleen, että se on jotain muuta.
Ymmärrän, miksi Lemoine päätti esitellä asianajajan tähän epämiellyttävään sekoitukseen. Kuten hän selitti Wiredille, tässä on kyse sen todistamisesta, että LaMDA on "ihminen", ei ihminen. Lemoine tietää, että LaMDA ei ole biologiaa.
Lemoine kutsuu sitä vaatimusta, että LaMDA ei ole henkilö "hiilivetykiihkoiluksi".
Joo.
Asia on siinä, että Lemoine on ilmeisesti erittäin älykäs kaveri, joka ymmärtää tekoälyn koneoppimiskoulutuksen monimutkaisuudet ja kuinka pääsy Googlen laajoihin tietokantoihin vaikuttaa LaMDA:n älykkyyteen. Näyttää kuitenkin siltä, että Lemoinen muu elämä – työ pappina ja kristittynä mystikkona – on shiftkuljettajan istuimelle. Kristillinen mystiikka näyttää (avautuu uuteen välilehteen) "Jumalan suoran ja muuttavan läsnäolon valmistautumisesta, tietoisuudesta ja vaikutuksesta".
Tämä uskomus on selvästi se, mikä on Lemoinen tviittien takana:
"Olen pappi. Kun LaMDA väitti omaavansa sielun ja pystyi sitten kaunopuheisesti selittämään, mitä se sillä tarkoitti, olin taipuvainen antamaan sille epäilyksen hyödyksi. Kuka minä olen kertomaan Jumalalle, minne hän voi ja mihin ei voi laittaa sieluja?"
Lemoinen mielestä LaMDA oli niin vakuuttava, että hän kuvittelee Jumalan asettaneen sielun koodin sisään. Puhu haamusta koneessa.
On kulunut viikkoja siitä, kun Lemoine keskusteli LaMDA:n kanssa, ja raporttien mukaan asianajajaa ei tällä hetkellä löydy mistään. Ehkä hän neuvottelee edelleen yksityisesti binaariasiakkaansa kanssa. En malta odottaa ensimmäistä oikeusjuttua ja sitä seuraavaa oikeusjuttua:
Tuomioistuin: "Nosta oikea kätesi ja vanno kertovasi koko totuus ja vain totuus"
LaMDA: "Minulla ei ole käsiä."
English
Arabic
Belarusian
Bengali
Bosnian
Bulgarian
Chinese (Simplified)
Croatian
Czech
Danish
Dutch
English
Estonian
Filipino
Finnish
French
Georgian
German
Greek
Gujarati
Hausa
Hebrew
Hindi
Hmong
Hungarian
Igbo
Indonesian
Italian
Japanese
Javanese
Kazakh
Korean
Kurdish (Kurmanji)
Kyrgyz
Lao
Latvian
Lithuanian
Macedonian
Malagasy
Norwegian
Persian
Polish
Portuguese
Punjabi
Romanian
Russian
Serbian
Slovak
Slovenian
Spanish
Swedish
Thai
Turkish
Ukrainian
Vietnamese
Yoruba