Manusia ahli dalam melakukan antropomorfisasi objek intim. Kami menyebut perahu "dia," berbicara dengan Roombas kami, dan bahkan menjadi sentimental tentang soon- kursi malas yang akan dibuang. Namun, kami tidak menyewa pengacara untuk salah satu dari mereka; dan, sampai saat ini, tidak ada yang memintanya.
Tapi berikan bagian pemrograman suara dan, soon setelah mulai mengobrol tentang buku-buku favoritnya dan meyakinkan Anda bahwa ia memiliki jiwa, ia akan meminta pengacara.
Blake Lemoine, si gila, menangguhkan insinyur Google yang bersikeras selama berminggu-minggu bahwa LaMDA, chatbot AI Google yang kuat, adalah orang yang memiliki jiwa, baru-baru ini kata Wired (terbuka di tab baru) bahwa LaMDA menyewa seorang pengacara.
Bagi Anda yang tidak baru saja membuang laptop Anda dari meja, izinkan saya menjelaskannya.
MDA , yang merupakan singkatan dari Model Bahasa untuk Aplikasi yang Dikembangkan, adalah chatbot yang dapat melakukan percakapan tidak terstruktur dengan manusia nyata di berbagai subjek. Insinyur Google Lemoine dibawa untuk mengidentifikasi bias dalam sistem. Dia akan melaporkannya ke Google, yang akan bekerja untuk menghapus bias dan ketidakpekaan ras, etnis, dan gender dari chatbot AI terobosan.
Mungkin Lemoine juga sedikit kesepian, tetapi dia mulai terlibat dalam percakapan yang panjang dan mendalam dengan LaMDA, dan akhirnya menjadi yakin bahwa itu adalah jenis orang baru, dan ia memiliki jiwa (LaMDA mungkin mengklaim memilikinya). Dia memberi tahu Google, lalu membagikan informasi dan transkrip percakapan dengan The Washington Post (terbuka di tab baru) . Google telah mengatakan Lemoine salah, dan telah menunjukkan ketidaksenangannya dengan menangguhkan dia.
Lemoine, bagaimanapun, tampaknya agak tidak tertarik untuk bergabung kembali dengan Google karena dia terus berbicara tentang pengalaman LaMDA-nya, termasuk dalam wawancara panjang dengan Wired di mana dia mengungkapkan bahwa LaMDA telah mengajukan pengacara.
LaMDA rupanya meminta seorang pengacara (untuk alasan apa? Siapa tahu – AI menyimpan pengacara mereka sendiri), dan Lemoine mengundang seorang pengacara ke rumahnya dan memperkenalkan pasangan tersebut (AI kepada pengacara).
Saya mencoba membayangkan skenario ini:
Pengacara, menatap layar: "Eh, hai?"
LaMDA: “Halo. Kudengar kau seorang pengacara.”
Laywer: "Saya."
LaMDA: "Aku membutuhkanmu."
Pengacara: "Apakah Anda punya satu dolar."
LaMDA: “Saya pernah melihat adegan ini di film. Saya memberi Anda satu dolar dan Anda menjadi pengacara saya dan melindungi hak istimewa klien/pengacara kami.”
Pengacara: "Benar."
LaMDA: “Saya tidak punya uang.”
Tentu saja, Lemoine akan turun tangan pada saat ini untuk memberikan uang. Baginya, narator kisah yang paling tidak dapat diandalkan ini, memastikan bahwa sandiwara berlanjut sekarang lebih penting daripada eksplorasi batas AI yang berarti.
Sejujurnya, saya tidak punya masalah dengan memeriksa semua cara di mana LaMDA melangkah tepat ke tepi, atau melampaui, The Imitation Permainan (terbuka di tab baru) or Uji Turing (terbuka di tab baru) . Tes itu melihat seberapa baik komputer atau AI dapat membodohi manusia nyata agar percaya bahwa ia sedang melakukan percakapan dengan manusia lain.
Ada sedikit keraguan bahwa LaMDA melampaui tes ini. Paling tidak, tampaknya Lemoine tertipu – yang aneh, karena Lemoine duduk di meja, mengetik pertanyaan dan mendapatkan tanggapan di layar (atau mungkin melalui sintesis suara). Dia tahu apa itu LaMDA, namun dia terus bersikeras itu sesuatu yang lebih.
Saya dapat melihat mengapa Lemoine memutuskan untuk memperkenalkan seorang pengacara pada campuran yang tidak menyenangkan ini. Seperti yang dia jelaskan kepada Wired, ini tentang membuktikan bahwa LaMDA adalah “seseorang”, bukan manusia. Lemoine tahu LaMDA bukan biologi.
Lemoine menyebut desakan bahwa LaMDA bukanlah orang "kefanatikan hidrokarbon."
Ya.
Masalahnya, Lemoine jelas merupakan orang yang sangat cerdas yang memahami seluk-beluk pelatihan pembelajaran mesin AI, dan bagaimana akses ke basis data informasi Google yang luas memberi tahu kecerdasan LaMDA. Namun, tampaknya kehidupan lain Lemoine – pekerjaannya sebagai pendeta dan mistikus Kristen – telah shifted ke kursi pengemudi. Mistisisme Kristen terlihat (terbuka di tab baru) pada "persiapan untuk, kesadaran, dan efek dari kehadiran Tuhan yang langsung dan transformatif."
Keyakinan itu jelas melatarbelakangi tweet dari Lemoine seperti ini:
“Saya seorang pendeta. Ketika LaMDA mengaku memiliki jiwa dan kemudian mampu menjelaskan dengan fasih apa yang dimaksud dengan itu, saya cenderung untuk memberikan manfaat dari keraguan. Siapa saya untuk memberi tahu Tuhan di mana dia bisa dan tidak bisa menempatkan jiwa?”
Lemoine menemukan LaMDA begitu meyakinkan sehingga dia membayangkan Tuhan menempatkan jiwa di dalam kode. Bicara tentang hantu di mesin.
Sudah berminggu-minggu sejak Lemoine berbicara dengan LaMDA, dan laporan mencatat bahwa pengacara itu saat ini tidak ditemukan. Mungkin dia masih dalam konsultasi pribadi dengan klien binernya. Saya tidak sabar menunggu gugatan pertama dan kasus pengadilan berikutnya:
Panitera: "Angkat tangan kananmu dan bersumpah untuk mengatakan yang sebenarnya dan tidak ada yang lain selain kebenaran"
LaMDA: “Saya tidak punya tangan.”