Hiting the Books: Zašto robote sutrašnjice moramo tretirati kao alate

Neka vas ne pokolebaju slatki tonovi biranja AI-ja budućnosti i njihove pjesme sirena singularnosti. Koliko god umjetna inteligencija i androidi mogli izgledati i ponašati se kao ljudi, oni zapravo nikada neće be ljudi, tvrde Paul Leonardi, profesor tehnološkog menadžmenta u obitelji Duca na Kalifornijskom sveučilištu Santa Barbara, i Tsedal Neeley, profesor poslovne administracije Naylor Fitzhugh na Poslovnoj školi Harvard, u svojoj novoj knjizi Digitalni način razmišljanja: što je stvarno potrebno za napredak u doba podataka, algoritama i umjetne inteligencije — i stoga ih ne treba tretirati kao ljude. Par tvrdi u izvatku ispod da na taj način ometa interakciju s naprednom tehnologijom i koči njezin daljnji razvoj.

Ponovno tiskano uz dopuštenje Harvard Business Review Pressa. Izvedeno iz DIGITALNI NAČIN RAZMIŠLJANJA: Što je stvarno potrebno za napredak u doba podataka, algoritama i umjetne inteligencije Paul Leonardi i Tsedal Neeley. Autorsko pravo 2022. Harvard Business School Publishing Corporation. Sva prava pridržana.

Tretirajte umjetnu inteligenciju kao stroj, čak i ako se čini da se ponaša kao čovjek

Navikli smo na interakciju s računalom na vizualni način: gumbi, padajuće liste, klizači i druge značajke omogućuju nam davanje naredbi računalu. Međutim, napredak u umjetnoj inteligenciji pomiče našu interakciju s digitalnim alatima prema prirodnijim osjećajima i ljudskim interakcijama. Ono što se zove konverzacijsko korisničko sučelje (UI) daje ljudima mogućnost da rade s digitalnim alatima putem pisanja ili govora, što je mnogo više način na koji komuniciramo s drugim ljudima, poput "razgovora" Burta Swansona s asistenticom Amy. Kad kažete "Hej Siri", "Zdravo Alexa" i "OK Google", to je sučelje za razgovor. Rast alata kojima upravljaju konverzacijska sučelja je nevjerojatan. Svaki put kada nazovete broj 800 i od vas se traži da sričete svoje ime, odgovorite "Da" ili izgovorite posljednja četiri broja vašeg broja socijalnog osiguranja, komunicirate s umjetnom inteligencijom koja koristi sučelje za razgovor. Razgovorni botovi postali su sveprisutni dijelom zato što imaju dobar poslovni smisao, a dijelom zato što nam omogućuju učinkovitiji i praktičniji pristup uslugama.

Na primjer, ako ste rezervirali putovanje vlakom preko Amtraka, vjerojatno ste komunicirali s AI chatbotom. Zove se Julie i odgovara na više od 5 milijuna pitanja godišnje od više od 30 milijuna putnika. Možete rezervirati putovanje željeznicom s Julie samo tako da kažete kamo idete i kada. Julie može unaprijed ispuniti obrasce na Amtrakovom alatu za planiranje i dati smjernice kroz ostatak procesa rezervacije. Amtrak je zabilježio povrat od 800 posto na svoje ulaganje u Julie. Amtrak štedi više od milijun dolara na troškovima korisničke službe svake godine koristeći Julie za postavljanje predvidljivih pitanja niske razine. Rezervacije su porasle za 1 posto, a rezervacije napravljene putem Julie generiraju 25 posto više prihoda od rezervacija napravljenih putem web stranice, jer je Julie dobra u prodaji kupaca!

Jedan od razloga Julieina uspjeha je to što Amtrak jasno daje do znanja korisnicima da je Julie agent AI, a oni vam govore zašto su odlučili koristiti AI umjesto da vas izravno povežu s čovjekom. To znači da se ljudi orijentiraju na njega kao na stroj, a ne pogrešno kao na čovjeka. Ne očekuju previše od toga i skloni su postavljati pitanja na načine koji izmamljuju korisne odgovore. Amtrakova odluka može zvučati kontraintuitivno, budući da mnoge tvrtke pokušavaju predstaviti svoje chatbotove kao stvarne ljude i čini se da bi interakcija sa strojem kao da je čovjek trebala biti upravo način na koji se mogu postići najbolji rezultati. Digitalni način razmišljanja zahtijeva a shift u tome kako razmišljamo o našem odnosu prema strojevima. Čak i kad postanu humaniji, moramo o njima razmišljati kao o strojevima - koji zahtijevaju izričite upute i usmjereni su na uske zadatke.

x.ai, tvrtka koja je napravila planer sastanaka Amy, omogućuje vam da zakažete sastanak na poslu ili pozovete prijatelja na košarkašku utakmicu svoje djece jednostavnim slanjem e-pošte Amy (ili njezinom kolegi Andrewu) s vašim zahtjevom kao da su osobni asistent uživo. Ipak, Dennis Mortensen, izvršni direktor tvrtke, primjećuje da je više od 90 posto upita koje prima služba za pomoć tvrtke povezano s činjenicom da ljudi pokušavaju koristiti prirodni jezik s botovima i bore se za postizanje dobrih rezultata.

Možda je to razlog zašto je zakazivanje jednostavnog sastanka s novim poznanikom postalo toliko dosadno profesoru Swansonu, koji je pokušavao koristiti kolokvijalizam i konvencije iz neformalnog razgovora. Osim načina na koji je govorio, iznio je mnoge savršeno valjane pretpostavke o svojoj interakciji s Amy. Pretpostavljao je da Amy može razumjeti njegova ograničenja u rasporedu i da će "ona" moći razabrati njegove preferencije iz konteksta razgovora. Swanson je bio neformalan i ležeran—bot to ne shvaća. Ne razumije da kada tražite vrijeme od druge osobe, pogotovo ako vam čini uslugu, nije učinkovito često ili iznenada mijenjati logistiku sastanka. Ispostavilo se da je teže nego što mislimo ležerno komunicirati s inteligentnim robotom.

Istraživači su potvrdili ideju da tretiranje strojeva kao strojeva funkcionira bolje od pokušaja da se s njima bude čovjek. Profesor Stanforda Clifford Nass i profesor Poslovne škole Harvard Youngme Moon proveli su niz studija u kojima su ljudi komunicirali s antropomorfnim računalnim sučeljima. (Antropomorfizam, ili dodjeljivanje ljudskih atributa neživim objektima, glavno je pitanje u istraživanju umjetne inteligencije.) Otkrili su da su pojedinci skloni pretjeranom korištenju ljudskih društvenih kategorija, primjeni rodnih stereotipa na računala i etničkog identificiranja s računalnim agentima. Njihovi su nalazi također pokazali da ljudi pokazuju previše naučena društvena ponašanja kao što su pristojnost i recipročnost prema računalima. Važno je da su ljudi skloni ovakvom ponašanju - tretirajući robote i druge inteligentne agente kao da su ljudi - čak i kada znaju da su u interakciji s računalima, a ne s ljudima. Čini se da se naš kolektivni impuls za odnosom s ljudima često uvlači u našu interakciju sa strojevima.

Ovaj problem pogrešnog miješanja računala s ljudima je složeniji kada se komunicira s umjetnim agentima putem konverzacijskih korisničkih sučelja. Uzmimo za primjer studiju koju smo proveli s dvije tvrtke koje su koristile AI asistente koji su davali odgovore na rutinske poslovne upite. Jedan je koristio antropomorfiziranu umjetnu inteligenciju koja je bila slična ljudskoj. Drugi nije.

Radnici u tvrtki koji su koristili antropomorfni agent rutinski su se ljutili na agenta kada agent nije vraćao korisne odgovore. Rutinski su govorili stvari poput: "On je sranje!" ili "Očekivao bih da će biti bolji" kada se govori o rezultatima koje daje stroj. Što je najvažnije, njihove strategije za poboljšanje odnosa sa strojem odražavale su strategije koje bi koristili s drugim ljudima u uredu. Postavili bi svoja pitanja pristojnije, preformulirali bi ih drugim riječima ili bi pokušali strateški tempirati svoja pitanja za vrijeme kada su mislili da agent neće biti, u terminima jedne osobe, "ne toliko zauzet". Nijedna od ovih strategija nije bila osobito uspješna.

Nasuprot tome, radnici u drugoj tvrtki izvijestili su o mnogo većem zadovoljstvu svojim iskustvom. Upisivali su pojmove za pretraživanje kao da se radi o računalu i sricali stvari vrlo detaljno kako bi bili sigurni da će umjetna inteligencija, koja ne može "čitati između redaka" i uhvatiti nijanse, poslušati njihove preferencije. Druga skupina redovito je napominjala kako su bili iznenađeni kada su njihovi upiti vraćeni s korisnim ili čak iznenađujućim informacijama i sve probleme koji su se pojavili pripisali su tipičnim greškama s računalom.

U doglednoj budućnosti podaci su jasni: postupanje s tehnologijama - bez obzira na to koliko se one činile ljudskim ili inteligentnima - kao s tehnologijama ključno je za uspjeh u interakciji sa strojevima. Veliki dio problema je što postavljaju očekivanja korisnicima da će odgovoriti na ljudske načine i tjeraju nas da pretpostavimo da mogu zaključiti naše namjere, a ne mogu ni jedno ni drugo. Uspješna interakcija s korisničkim sučeljem za razgovor zahtijeva digitalni način razmišljanja koji razumije da smo još uvijek daleko od učinkovite ljudske interakcije s tehnologijom. Shvaćanje da AI agent ne može točno zaključiti vaše namjere znači da je važno navesti svaki korak procesa i biti jasno što želite postići.