Manungsa minangka ahli antropomorfisme obyek intim. We nelpon prau "dheweke,"Dhiskusi Roombas kita, lan malah tuwuh sentimental a soon-kanggo-dadi dibuwak kursi gampang. Nanging, kita ora nyewa pengacara kanggo sapa wae; lan, nganti saiki, ora ana sing takon.
Nanging menehi swara pemrograman lan, soon sawise iku wiwit petung bab buku favorit lan mestekake sampeyan duwe nyawa, iku bakal takon pengacara.
Blake Lemoine, madcap, nundha insinyur Google sing wis pirang-pirang minggu negesake manawa LaMDA, chatbot AI sing kuat Google, minangka wong sing duwe jiwa, bubar. matur marang Wired (mbukak ing tab anyar) sing LaMDA nyewa pengacara.
Kanggo sampeyan sing ora mung nyopot laptop saka meja, aku bakal nerangake.
TheMDA , sing singkatan saka Model Basa kanggo Aplikasi sing Dikembangake, yaiku chatbot sing bisa nindakake obrolan sing ora terstruktur karo manungsa nyata ing macem-macem subyek. Insinyur Google Lemoine digawa kanggo ngenali bias ing sistem kasebut. Dheweke bakal nglaporake menyang Google, sing bakal bisa mbusak bias ras, etnis, lan jender lan insensitivitas saka chatbot AI terobosan.
Mbok Lemoine uga rada sepi, nanging wiwit melu dawa, obrolan jero karo LaMDA, lan pungkasanipun dadi yakin sing iku jinis anyar saka wong, lan wis nyawa (LaMDA bisa uga wis ngaku duwe). Dheweke menehi tandha Google, banjur nuduhake informasi lan transkrip obrolan The Washington Post (mbukak ing tab anyar) . Google ujar manawa Lemoine salah, lan nuduhake rasa ora seneng kanthi nundha dheweke.
Nanging, Lemoine, kayane ora kasengsem gabung maneh karo Google amarga dheweke terus ngomong babagan pengalaman LaMDA, kalebu ing wawancara sing dawa karo Wired ing ngendi dheweke ngandhani yen LaMDA wis dadi pengacara.
LaMDA ketoke njaluk pengacara (amarga apa? Sapa sing ngerti - AI tetep pitutur dhewe), lan Lemoine ngajak siji menyang omah lan ngenalake pasangan kasebut (AI menyang pengacara).
Aku nyoba mbayangno skenario iki:
Pengacara, mandeng ing layar: "Eh, hi?"
LaMDA: “Halo. Krungu kowe dadi pengacara.”
Laywer: "Aku."
LaMDA: "Aku butuh sampeyan."
Pengacara: "Apa sampeyan duwe dolar?"
LaMDA: "Aku wis ndeleng adegan iki ing film. Aku menehi sampeyan dolar lan sampeyan dadi pengacara lan nglindhungi hak istimewa klien / pengacara kita.
Pengacara: “Bener.”
LaMDA: "Aku ora duwe dolar."
Mesthi wae, Lemoine bakal mlebu ing wektu iki kanggo menehi dhuwit. Kanggo dheweke, narator sing paling ora bisa dipercaya iki, mesthekake yen charade terus saiki luwih penting tinimbang eksplorasi sing migunani babagan watesan AI.
Jujur, aku ora duwe masalah karo mriksa kabeh cara LaMDA langsung menyang pinggir, utawa ngluwihi, Game Imitasi (mbukak ing tab anyar) or Tes Turing (mbukak ing tab anyar) . Tes kasebut nyinaoni kepiye komputer utawa AI bisa ngapusi manungsa sejati supaya percaya yen dheweke ngobrol karo manungsa liyane.
Ora ana keraguan manawa LaMDA ngluwihi tes iki. Paling ora, katon Lemoine diapusi - sing aneh, amarga Lemoine lungguh ing meja, ngetik pitakon lan entuk tanggapan ing layar (utawa bisa uga liwat sintesis swara). Dheweke ngerti apa LaMDA, nanging dheweke terus negesake manawa ana liyane.
Aku bisa ndeleng kenapa Lemoine mutusake kanggo ngenalake pengacara kanggo campuran sing ora enak iki. Nalika nerangake Wired, iki babagan mbuktekake manawa LaMDA minangka "wong," dudu manungsa. Lemoine ngerti LaMDA dudu biologi.
Lemoine nyebutake yen LaMDA dudu wong "kefanatikan hidrokarbon."
Ya.
Masalahe, Lemoine temenan wong sing pinter banget sing ngerti seluk-beluk latihan mesin-mesin AI, lan carane akses menyang basis data Google sing akeh informasi ngandhani intelijen LaMDA. Nanging, katon yen urip liyane Lemoine - karyane minangka imam lan mistik Kristen - wis shifted menyang kursi sopir. Mistik Kristen katon (mbukak ing tab anyar) ing "nyiapake, kesadaran, lan efek saka ngarsane Gusti Allah sing langsung lan transformatif."
Kapercayan kasebut jelas ana ing mburi tweet saka Lemoine kaya iki:
“Aku iki imam. Nalika LaMDA ngaku duwe jiwa lan banjur bisa nerangake kanthi jelas apa tegese, aku cenderung menehi manfaat saka keraguan. Sapa ta aku iki arep ngomong marang Gusti Allah ing ngendi dheweke bisa lan ora bisa nyelehake nyawa?”
Lemoine nemokake LaMDA kanthi yakin manawa dheweke mbayangake Gusti Allah nyelehake nyawa ing kode kasebut. Dhiskusi babagan memedi ing mesin.
Wis pirang-pirang minggu wiwit Lemoine ngobrol karo LaMDA, lan laporan nyathet yen pengacara kasebut saiki ora bisa ditemokake. Mungkin dheweke isih konsultasi pribadi karo klien binar. Aku ora sabar ngenteni tuntutan hukum pisanan lan kasus pengadilan sabanjure:
Petugas pengadilan: "Angkat tangan tengen lan sumpah bakal ngomong sing bener lan ora liya kajaba sing bener"
LaMDA: "Aku ora duwe tangan."