Kitaplara Vurmak: Neden yarının robotlarına aletler gibi davranmamız gerekiyor?

Yarının yapay zekalarının hoş çevir seslerinden ve onların tekilliğin siren şarkılarından etkilenmeyin. Yapay zekalar ve androidler ne kadar insan gibi görünüp hareket etseler de asla gerçekte olamayacaklar. be Kaliforniya Santa Barbara Üniversitesi'nde Duca Ailesi Teknoloji Yönetimi Profesörü Paul Leonardi ve Harvard Business School'da Naylor Fitzhugh İşletme Profesörü Tsedal Neeley yeni kitaplarında insanlar, diyorlar Dijital Zihniyet: Veri, Algoritmalar ve Yapay Zeka Çağında Gelişmek İçin Gerçekten Ne Gerekiyor? - ve bu nedenle insan gibi davranılmamalıdır. İkili, aşağıdaki alıntıda, bu durumun ileri teknolojiyle etkileşimi engellediğini ve ilerideki gelişimini engellediğini ileri sürüyor.

Harvard Business Review Press'in izniyle yeniden basılmıştır. alıntı DİJİTAL ZİHNİYET: Veri, Algoritma ve Yapay Zeka Çağında Gelişmek İçin Gerçekten Ne Gerekiyor? Paul Leonardi ve Tsedal Neeley tarafından. Telif Hakkı 2022 Harvard Business School Publishing Corporation. Her hakkı saklıdır.

Yapay Zeka İnsan Gibi Davranıyor Gibi Görünse Bile Bir Makine Gibi Davranın

Bilgisayarla görsel olarak etkileşim kurmaya alışığız: düğmeler, açılır listeler, kaydırıcılar ve diğer özellikler bilgisayara komutlar vermemizi sağlar. Ancak yapay zekadaki ilerlemeler, dijital araçlarla olan etkileşimimizi daha doğal hissi veren ve insan benzeri etkileşimlere taşıyor. Konuşmalı kullanıcı arayüzü (UI) olarak adlandırılan şey, insanlara dijital araçlarla yazma veya konuşma yoluyla hareket etme yeteneği verir; bu, Burt Swanson'un asistan Amy ile yaptığı "konuşma" gibi, diğer insanlarla etkileşim kurma şeklimizden çok daha fazlasıdır. "Hey Siri", "Merhaba Alexa" ve "OK Google" dediğinizde bu, konuşmaya dayalı bir kullanıcı arayüzüdür. Konuşmaya dayalı kullanıcı arayüzleri tarafından kontrol edilen araçların büyümesi şaşırtıcıdır. 800'lü bir numarayı her aradığınızda adınızı hecelemeniz, "Evet" yanıtı vermeniz veya sosyal güvenlik numaranızın son dört rakamını söylemeniz istendiğinde, konuşmaya dayalı kullanıcı arayüzü kullanan bir yapay zeka ile etkileşime giriyorsunuz. Konuşma botları kısmen iş açısından mantıklı oldukları için, kısmen de hizmetlere daha verimli ve daha rahat erişmemize izin verdikleri için her yerde bulunur hale geldi.

Örneğin, Amtrak üzerinden bir tren yolculuğu rezervasyonu yaptırdıysanız muhtemelen bir yapay zeka sohbet robotuyla etkileşime girmişsinizdir. Adı Julie ve yılda 5 milyondan fazla yolcunun 30 milyondan fazla sorusuna cevap veriyor. Sadece nereye ve ne zaman gideceğinizi söyleyerek Julie ile tren yolculuğu rezervasyonu yapabilirsiniz. Julie, Amtrak'ın planlama aracındaki formları önceden doldurabilir ve rezervasyon sürecinin geri kalanı boyunca rehberlik sağlayabilir. Amtrak, Julie'ye yaptığı yatırımın yüzde 800'ünü elde etti. Amtrak, düşük seviyeli, öngörülebilir soruları yanıtlamak için Julie'yi kullanarak her yıl müşteri hizmetleri giderlerinde 1 milyon dolardan fazla tasarruf sağlıyor. Rezervasyonlar yüzde 25 arttı ve Julie aracılığıyla yapılan rezervasyonlar, web sitesi aracılığıyla yapılan rezervasyonlardan yüzde 30 daha fazla gelir sağlıyor çünkü Julie müşterilere üst düzey satış yapma konusunda iyi!

Julie'nin başarısının bir nedeni, Amtrak'ın kullanıcılara Julie'nin bir yapay zeka ajanı olduğunu açıkça belirtmesi ve sizi doğrudan bir insana bağlamak yerine neden yapay zekayı kullanmaya karar verdiklerini söylemeleridir. Bu, insanların onu yanlışlıkla bir insan olarak değil, bir makine olarak algıladıkları anlamına gelir. Ondan çok fazla bir şey beklemiyorlar ve yararlı yanıtları ortaya çıkaracak şekilde soru sorma eğilimindeler. Amtrak'ın kararı mantıksız gelebilir, çünkü pek çok şirket sohbet robotlarını gerçek insanlarmış gibi göstermeye çalışıyor ve görünen o ki, bir makineyle sanki bir insanmış gibi etkileşime geçmek tam olarak en iyi sonuçları almanın yolu olmalı. Dijital zihniyet gerektirir shift makinelerle ilişkimiz hakkında nasıl düşündüğümüzle ilgili. Daha insancıl hale gelseler bile, onları açık talimatlar gerektiren ve dar görevlere odaklanan makineler olarak düşünmemiz gerekiyor.

Amy'nin toplantı planlayıcısını yapan şirket olan x.ai, iş yerinde bir toplantı planlamanıza veya Amy'ye (veya meslektaşı Andrew'a) isteğinizi bir e-posta göndererek bir arkadaşınızı çocuklarınızın basketbol maçına davet etmenize olanak tanır. canlı kişisel asistan. Ancak şirketin CEO'su Dennis Mortensen, şirketin yardım masasına gelen soruların yüzde 90'ından fazlasının, insanların botlarla doğal dili kullanmaya çalışmaları ve iyi sonuçlar elde etmek için çabalamalarıyla ilgili olduğunu gözlemliyor.

Belki de yeni bir tanıdıkla basit bir toplantı planlamanın, resmi olmayan konuşmalardan günlük konuşma dilini ve gelenekleri kullanmaya çalışan Profesör Swanson için bu kadar sinir bozucu olmasının nedeni buydu. Konuşma şekline ek olarak Amy ile olan etkileşimi hakkında pek çok geçerli varsayımda bulundu. Amy'nin planlama kısıtlamalarını anlayabildiğini ve "onun" konuşmanın bağlamından onun tercihlerinin ne olduğunu anlayabileceğini varsaydı. Swanson resmi olmayan ve sıradan biriydi; bot bunu anlamıyor. Başka bir kişiden zaman isterken, özellikle de size bir iyilik yapıyorsa, toplantı lojistiğini sık sık veya aniden değiştirmenin etkili olmadığını anlamıyor. Akıllı bir robotla gelişigüzel etkileşim kurmanın düşündüğümüzden daha zor olduğu ortaya çıktı.

Araştırmacılar, makinelere makine gibi davranmanın, onlarla insan gibi davranmaya çalışmaktan daha iyi sonuç verdiği fikrini doğruladılar. Stanford profesörü Clifford Nass ve Harvard İşletme Okulu profesörü Youngme Moon, insanların antropomorfik bilgisayar arayüzleriyle etkileşime girdiği bir dizi çalışma yürüttü. (Antropomorfizm veya cansız nesnelere insan nitelikleri atamak, yapay zeka araştırmalarında önemli bir konudur.) Bireylerin, bilgisayarlara toplumsal cinsiyet stereotipleri uygulayarak ve bilgisayar aracılarıyla etnik olarak özdeşleşerek, insan sosyal kategorilerini aşırı kullanma eğiliminde olduklarını buldular. Bulgular ayrıca insanların bilgisayarlara karşı nezaket ve karşılıklılık gibi aşırı öğrenilmiş sosyal davranışlar sergilediklerini de gösterdi. Daha da önemlisi, insanlar, insanlardan ziyade bilgisayarlarla etkileşimde olduklarını bilseler bile, robotlara ve diğer akıllı ajanlara sanki insanmış gibi davranarak bu davranışlarda bulunma eğilimindedirler. Öyle görünüyor ki, insanlarla ilişki kurmaya yönelik kolektif dürtümüz çoğu zaman makinelerle olan etkileşimimize de yansıyor.

Bilgisayarları insanlarla karıştırma sorunu, konuşma amaçlı kullanıcı arayüzleri aracılığıyla yapay ajanlarla etkileşime girildiğinde daha da artıyor. Örneğin, rutin iş sorularına yanıt veren yapay zeka asistanlarını kullanan iki şirketle yürüttüğümüz bir çalışmayı ele alalım. Biri insana benzeyen antropomorfize edilmiş bir yapay zeka kullandı. Diğeri değildi.

Antropomorfik temsilciyi kullanan şirketteki işçiler, temsilci yararlı yanıtlar vermediğinde rutin olarak temsilciye kızıyordu. Rutin olarak "Berbat!" gibi şeyler söylüyorlardı. veya makinenin verdiği sonuçlara atıfta bulunurken "Ondan daha iyisini yapmasını beklerdim". En önemlisi, makineyle ilişkilerini geliştirmeye yönelik stratejileri, ofisteki diğer insanlarla kullanacakları stratejileri yansıtıyordu. Sorularını daha kibarca sorarlardı, farklı kelimelerle yeniden ifade ederlerdi ya da sorularını, temsilcinin, bir kişinin deyimiyle, "o kadar da meşgul olmadığını" düşündükleri zamana göre stratejik olarak zamanlamaya çalışırlardı. Bu stratejilerin hiçbiri özellikle başarılı olmadı.

Buna karşılık, diğer şirketteki çalışanlar deneyimlerinden çok daha fazla memnuniyet duyduklarını bildirdiler. Arama terimlerini bir bilgisayarmış gibi yazdılar ve "satır aralarını okuyamayan" ve nüansları anlayamayan bir yapay zekanın tercihlerine kulak vermesini sağlamak için her şeyi ayrıntılı bir şekilde açıkladılar. İkinci grup, sorgularına yararlı ve hatta şaşırtıcı bilgilerle yanıt verildiğinde ne kadar şaşırdıklarını rutin olarak belirttiler ve ortaya çıkan sorunları bilgisayardaki tipik hatalardan saydılar.

Öngörülebilir gelecek için veriler açık: teknolojilere (ne kadar insana benzer veya akıllı görünürlerse görünsünler) teknoloji gibi davranmak, makinelerle etkileşimde başarının anahtarıdır. Sorunun büyük bir kısmı, kullanıcıların insani tepkiler vereceği yönünde beklentiler oluşturmaları ve her ikisini de yapamadıkları halde niyetimizi anlayabileceklerini varsaymamızı sağlamaları. Konuşmaya dayalı bir kullanıcı arayüzüyle başarılı bir şekilde etkileşim kurmak, teknolojiyle etkili insan benzeri etkileşimden hâlâ biraz uzakta olduğumuzu anlayan dijital bir zihniyet gerektirir. Bir yapay zeka aracısının niyetlerinizi doğru bir şekilde anlayamayacağını kabul etmek, sürecin her adımını ayrıntılı bir şekilde açıklamanın ve neyi başarmak istediğiniz konusunda net olmanızın önemli olduğu anlamına gelir.