Menekan Buku: Mengapa kita perlu memperlakukan robot masa depan seperti alat

Jangan terpengaruh oleh nada panggil merdu AI masa depan dan lagu-lagu sirene singularitas mereka. Tidak peduli seberapa dekat kecerdasan buatan dan android terlihat dan bertindak seperti manusia, mereka tidak akan pernah benar-benar be manusia, kata Paul Leonardi, Profesor Manajemen Teknologi Keluarga Duca di Universitas California Santa Barbara, dan Tsedal Neeley, Profesor Administrasi Bisnis Naylor Fitzhugh di Harvard Business School, dalam buku baru mereka Pola Pikir Digital: Apa yang Dibutuhkan untuk Berkembang di Era Data, Algoritma, dan AI — dan karena itu tidak boleh diperlakukan seperti manusia. Pasangan ini berpendapat dalam kutipan di bawah ini bahwa dengan melakukan itu, hal tersebut menghambat interaksi dengan teknologi canggih dan menghambat pengembangan lebih lanjut.

Dicetak ulang dengan izin dari Harvard Business Review Press. Dikutip dari THE DIGITAL MINDSET: Apa yang Dibutuhkan untuk Berkembang di Era Data, Algoritma, dan AI oleh Paul Leonardi dan Tsedal Neeley. Hak Cipta 2022 Harvard Business School Publishing Corporation. Seluruh hak cipta.

Perlakukan AI Seperti Mesin, Meski Terlihat Bertindak Seperti Manusia

Kita terbiasa berinteraksi dengan komputer secara visual: tombol, daftar dropdown, slider, dan fitur lainnya memungkinkan kita untuk memberikan perintah komputer. Namun, kemajuan dalam AI memindahkan interaksi kita dengan alat digital ke interaksi yang lebih alami dan mirip manusia. Apa yang disebut antarmuka pengguna percakapan (UI) memberi orang kemampuan untuk bertindak dengan alat digital melalui menulis atau berbicara, itu lebih merupakan cara kita berinteraksi dengan orang lain, seperti "percakapan" Burt Swanson dengan Amy sang asisten. Saat Anda mengatakan, "Hai Siri," "Halo Alexa," dan "OK Google," itu adalah antarmuka percakapan. Pertumbuhan alat yang dikendalikan oleh UI percakapan sangat mengejutkan. Setiap kali Anda menelepon nomor 800 dan diminta untuk mengeja nama Anda, jawab "Ya," atau ucapkan empat nomor terakhir dari nomor jaminan sosial Anda, Anda sedang berinteraksi dengan AI yang menggunakan UI percakapan. Bot percakapan telah ada di mana-mana sebagian karena mereka masuk akal secara bisnis, dan sebagian karena mereka memungkinkan kita mengakses layanan dengan lebih efisien dan lebih nyaman.

Misalnya, jika Anda memesan perjalanan kereta api melalui Amtrak, Anda mungkin berinteraksi dengan chatbot AI. Namanya Julie, dan menjawab lebih dari 5 juta pertanyaan setiap tahun dari lebih dari 30 juta penumpang. Anda dapat memesan perjalanan kereta api dengan Julie hanya dengan mengatakan ke mana Anda akan pergi dan kapan. Julie dapat mengisi formulir sebelumnya di alat penjadwalan Amtrak dan memberikan panduan selama proses pemesanan lainnya. Amtrak telah melihat pengembalian 800 persen atas investasi mereka di Julie. Amtrak menghemat lebih dari $1 juta dalam biaya layanan pelanggan setiap tahun dengan menggunakan Julie untuk mengajukan pertanyaan tingkat rendah yang dapat diprediksi. Pemesanan telah meningkat sebesar 25 persen, dan pemesanan yang dilakukan melalui Julie menghasilkan pendapatan 30 persen lebih banyak daripada pemesanan yang dilakukan melalui situs web, karena Julie pandai menjual pelanggan!

Salah satu alasan kesuksesan Julie adalah karena Amtrak menjelaskan kepada pengguna bahwa Julie adalah agen AI, dan mereka memberi tahu Anda mengapa mereka memutuskan untuk menggunakan AI daripada menghubungkan Anda secara langsung dengan manusia. Artinya, orang mengorientasikannya sebagai mesin, bukan sebagai manusia. Mereka tidak berharap terlalu banyak darinya, dan mereka cenderung mengajukan pertanyaan dengan cara yang mendapatkan jawaban yang membantu. Keputusan Amtrak mungkin terdengar berlawanan dengan intuisi, karena banyak perusahaan mencoba untuk menyamarkan chatbots mereka sebagai orang sungguhan dan tampaknya berinteraksi dengan mesin seolah-olah itu adalah cara yang tepat untuk mendapatkan hasil terbaik. Pola pikir digital membutuhkan shift dalam cara kita berpikir tentang hubungan kita dengan mesin. Bahkan ketika mereka menjadi lebih manusiawi, kita perlu menganggapnya sebagai mesin—membutuhkan instruksi eksplisit dan fokus pada tugas-tugas sempit.

x.ai, perusahaan yang membuat penjadwal pertemuan Amy, memungkinkan Anda menjadwalkan pertemuan di tempat kerja, atau mengundang teman ke pertandingan basket anak-anak Anda hanya dengan mengirim email ke Amy (atau rekannya, Andrew) dengan permintaan Anda seolah-olah mereka adalah asisten pribadi hidup. Namun Dennis Mortensen, CEO perusahaan, mengamati bahwa lebih dari 90 persen pertanyaan yang diterima meja bantuan perusahaan terkait dengan fakta bahwa orang mencoba menggunakan bahasa alami dengan bot dan berjuang untuk mendapatkan hasil yang baik.

Mungkin itu sebabnya menjadwalkan pertemuan sederhana dengan kenalan baru menjadi sangat menjengkelkan bagi Profesor Swanson, yang terus mencoba menggunakan bahasa sehari-hari dan konvensi dari percakapan informal. Selain cara dia berbicara, dia membuat banyak asumsi yang benar-benar valid tentang interaksinya dengan Amy. Dia berasumsi Amy dapat memahami batasan penjadwalannya dan bahwa "dia" akan dapat membedakan apa preferensinya dari konteks percakapan. Swanson bersikap informal dan santai—bot tidak mengerti itu. Tidak mengerti bahwa ketika meminta waktu orang lain, terutama jika mereka membantu Anda, tidak efektif untuk sering atau tiba-tiba mengubah logistik pertemuan. Ternyata lebih sulit daripada yang kita pikirkan untuk berinteraksi secara santai dengan robot cerdas.

Para peneliti telah memvalidasi gagasan bahwa memperlakukan mesin seperti mesin bekerja lebih baik daripada mencoba menjadi manusia dengan mereka. Profesor Stanford Clifford Nass dan profesor Harvard Business School Youngme Moon melakukan serangkaian penelitian di mana orang berinteraksi dengan antarmuka komputer antropomorfik. (Antropomorfisme, atau menetapkan atribut manusia ke benda mati, adalah masalah utama dalam penelitian AI.) Mereka menemukan bahwa individu cenderung menggunakan kategori sosial manusia secara berlebihan, menerapkan stereotip gender ke komputer dan mengidentifikasi secara etnis dengan agen komputer. Temuan mereka juga menunjukkan bahwa orang menunjukkan perilaku sosial yang dipelajari secara berlebihan seperti kesopanan dan timbal balik terhadap komputer. Yang penting, orang cenderung terlibat dalam perilaku ini — memperlakukan robot dan agen cerdas lainnya seolah-olah mereka adalah manusia — bahkan ketika mereka tahu bahwa mereka berinteraksi dengan komputer, bukan manusia. Tampaknya dorongan kolektif kita untuk berhubungan dengan orang sering merayap ke dalam interaksi kita dengan mesin.

Masalah salah mengira komputer untuk manusia ini diperparah saat berinteraksi dengan agen buatan melalui UI percakapan. Ambil contoh penelitian yang kami lakukan dengan dua perusahaan yang menggunakan asisten AI yang memberikan jawaban atas pertanyaan bisnis rutin. Salah satunya menggunakan AI antropomorfis yang mirip manusia. Yang lain tidak.

Pekerja di perusahaan yang menggunakan agen antropomorfik secara rutin marah kepada agen ketika agen tidak memberikan jawaban yang berguna. Mereka secara rutin mengatakan hal-hal seperti, "Dia menyebalkan!" atau "Saya berharap dia melakukan yang lebih baik" ketika mengacu pada hasil yang diberikan oleh mesin. Yang terpenting, strategi mereka untuk meningkatkan hubungan dengan mesin mencerminkan strategi yang akan mereka gunakan dengan orang lain di kantor. Mereka akan mengajukan pertanyaan mereka dengan lebih sopan, mereka akan mengulang kata-kata dengan kata-kata yang berbeda, atau mereka akan mencoba mengatur waktu pertanyaan mereka secara strategis ketika mereka pikir agennya, dalam istilah satu orang, "tidak terlalu sibuk." Tak satu pun dari strategi ini sangat berhasil.

Sebaliknya, pekerja di perusahaan lain melaporkan kepuasan yang jauh lebih besar dengan pengalaman mereka. Mereka mengetik dalam istilah pencarian seolah-olah itu adalah komputer dan mengejanya dengan sangat rinci untuk memastikan bahwa AI, yang tidak dapat "membaca yang tersirat" dan memahami nuansa, akan memperhatikan preferensi mereka. Kelompok kedua secara rutin berkomentar betapa terkejutnya mereka ketika pertanyaan mereka dikembalikan dengan informasi yang berguna atau bahkan mengejutkan dan mereka menorehkan setiap masalah yang muncul pada bug biasa pada komputer.

Untuk masa mendatang, datanya jelas: memperlakukan teknologi — tidak peduli seberapa mirip manusia atau kecerdasannya — seperti teknologi adalah kunci keberhasilan saat berinteraksi dengan mesin. Sebagian besar masalahnya adalah mereka menetapkan harapan bagi pengguna bahwa mereka akan merespons dengan cara seperti manusia, dan mereka membuat kita berasumsi bahwa mereka dapat menyimpulkan niat kita, ketika mereka tidak dapat melakukan keduanya. Berinteraksi dengan sukses dengan UI percakapan membutuhkan pola pikir digital yang memahami bahwa kita masih jauh dari interaksi efektif seperti manusia dengan teknologi. Menyadari bahwa agen AI tidak dapat secara akurat menyimpulkan niat Anda berarti penting untuk menguraikan setiap langkah proses dan menjelaskan apa yang ingin Anda capai.