Hitting the Books: Zašto trebamo tretirati robote sutrašnjice kao alat

Nemojte da vas pokolebaju prigušeni tonovi sutrašnjih AI i njihove pesme sirena singularnosti. Bez obzira koliko blisko umjetna inteligencija i androidi mogu izgledati i ponašati se kao ljudi, oni zapravo nikada neće be ljudi, tvrde Paul Leonardi, Duca porodični profesor upravljanja tehnologijom na Univerzitetu Kalifornije Santa Barbara, i Tsedal Neeley, profesor poslovne administracije Naylor Fitzhugh na Harvard Business School, u svojoj novoj knjizi Digitalni način razmišljanja: šta je zaista potrebno za napredovanje u doba podataka, algoritama i AI — i stoga ih ne treba tretirati kao ljude. Par tvrdi u izvodu ispod da to ometa interakciju sa naprednom tehnologijom i koči njen dalji razvoj.

Preštampano uz dozvolu Harvard Business Review Press. Izvod iz DIGITALNI RAZMIŠLJANJE: Šta je zaista potrebno za napredovanje u doba podataka, algoritama i veštačke inteligencije Paul Leonardi i Tsedal Neeley. Autorska prava 2022 Harvard Business School Publishing Corporation. Sva prava zadržana.

Tretirajte AI kao mašinu, čak i ako se čini da se ponaša kao čovek

Navikli smo da komuniciramo sa računarom na vizuelni način: dugmad, padajuće liste, klizači i druge funkcije nam omogućavaju da dajemo komande računaru. Međutim, napredak u umjetnoj inteligenciji pomiče našu interakciju s digitalnim alatima na prirodnije i ljudske interakcije. Ono što se zove konverzacijski korisnički interfejs (UI) daje ljudima mogućnost da djeluju pomoću digitalnih alata kroz pisanje ili razgovor, što je mnogo više način na koji komuniciramo s drugim ljudima, kao što je “razgovor” Burta Swansona sa Amy asistenticom. Kada kažete „Hej Siri“, „Zdravo Alexa“ i „OK Google“, to je konverzacijski korisnički interfejs. Rast alata koje kontrolišu konverzacijski korisnički interfejsi je zapanjujući. Svaki put kada pozovete broj 800 i od vas se traži da napišete svoje ime, odgovorite „Da“ ili izgovorite posljednja četiri broja svog broja socijalnog osiguranja, vi komunicirate s AI-om koji koristi konverzacijski korisnički interfejs. Konverzacijski botovi postali su sveprisutni dijelom zato što imaju dobar poslovni smisao, a dijelom zato što nam omogućavaju efikasniji i praktičniji pristup uslugama.

Na primjer, ako ste rezervisali putovanje vozom kroz Amtrak, vjerovatno ste imali interakciju s AI chatbotom. Zove se Julie i odgovara na više od 5 miliona pitanja godišnje od više od 30 miliona putnika. Možete rezervirati putovanje željeznicom sa Julie samo tako što ćete reći gdje idete i kada. Julie može unaprijed popuniti formulare na Amtrakovom alatu za zakazivanje i pružiti smjernice kroz ostatak procesa rezervacije. Amtrak je ostvario povrat od 800 posto na njihovu investiciju u Julie. Amtrak svake godine uštedi više od 1 milion dolara na troškovima za korisničku podršku koristeći Julie za postavljanje niskog nivoa, predvidljivih pitanja. Broj rezervacija je povećan za 25 posto, a rezervacije napravljene preko Julie ostvaruju 30 posto više prihoda od rezervacija napravljenih putem web stranice, jer Julie je dobra u povećanju prodaje kupaca!

Jedan od razloga za Juliein uspjeh je taj što Amtrak korisnicima jasno stavlja do znanja da je Julie agent AI, i oni vam govore zašto su odlučili koristiti AI umjesto da vas direktno povežu s čovjekom. To znači da se ljudi na njega orijentišu kao na mašinu, a ne greškom kao na čoveka. Ne očekuju previše od toga i skloni su postavljati pitanja na načine koji izvlače korisne odgovore. Amtrakova odluka može zvučati kontraintuitivno, budući da mnoge kompanije pokušavaju da svoje chatbote odaju kao prave ljude i čini se da interakcija s mašinom kao da je čovjek treba biti upravo način na koji se postižu najbolji rezultati. Digitalni način razmišljanja zahtijeva a shift u tome kako razmišljamo o našem odnosu prema mašinama. Čak i kada postanu humaniji, moramo o njima razmišljati kao o mašinama – koje zahtijevaju eksplicitna uputstva i fokusirane su na uske zadatke.

x.ai, kompanija koja je napravila planer sastanaka Amy, omogućava vam da zakažete sastanak na poslu ili pozovete prijatelja na košarkašku utakmicu vaše djece jednostavnim slanjem e-pošte Amy (ili njenom kolegi, Andrewu) sa vašim zahtjevom kao da su oni živi lični asistent. Ipak, Dennis Mortensen, izvršni direktor kompanije, primjećuje da je više od 90 posto upita koje prima službena služba kompanije povezano s činjenicom da ljudi pokušavaju koristiti prirodni jezik s botovima i bore se da postignu dobre rezultate.

Možda je zato zakazivanje jednostavnog sastanka s novim poznanikom postalo toliko dosadno profesoru Swansonu, koji je stalno pokušavao koristiti kolokvijalizam i konvencije iz neformalnog razgovora. Pored načina na koji je govorio, iznio je mnoge savršeno valjane pretpostavke o svojoj interakciji s Amy. Pretpostavio je da Amy može razumjeti njegova ograničenja u rasporedu i da će „ona“ moći razaznati koje su njegove preferencije iz konteksta razgovora. Swanson je bio neformalan i ležeran - bot to ne razumije. Ne razumije da kada tražite vrijeme druge osobe, posebno ako vam čini uslugu, nije efikasno često ili naglo mijenjati logistiku sastanka. Ispostavilo se da je teže nego što mislimo ležerno komunicirati s inteligentnim robotom.

Istraživači su potvrdili ideju da tretiranje mašina kao mašina radi bolje nego pokušaj da se s njima bude čovek. Profesor sa Stanforda Clifford Nass i profesor sa Harvardske poslovne škole Youngme Moon sproveli su niz studija u kojima su ljudi komunicirali sa antropomorfnim kompjuterskim interfejsima. (Antropomorfizam, ili dodeljivanje ljudskih atributa neživim objektima, glavni je problem u istraživanju veštačke inteligencije.) Otkrili su da pojedinci imaju tendenciju da preterano koriste ljudske društvene kategorije, primenjujući rodne stereotipe na kompjutere i etnički se identifikujući sa kompjuterskim agentima. Njihovi nalazi su također pokazali da ljudi pokazuju previše naučeno društveno ponašanje kao što su ljubaznost i reciprocitet prema kompjuterima. Važno je da ljudi imaju tendenciju da se bave ovim ponašanjem – tretirajući robote i druge inteligentne agente kao da su ljudi – čak i kada znaju da komuniciraju sa računarima, a ne sa ljudima. Čini se da se naš kolektivni impuls za odnosom s ljudima često uvlači u našu interakciju s mašinama.

Ovaj problem pogrešnog tumačenja računara za ljude se pogoršava kada se komunicira sa vještačkim agentima putem konverzacijskih korisničkih sučelja. Uzmimo za primjer studiju koju smo proveli s dvije kompanije koje su koristile AI asistente koji su davali odgovore na rutinska poslovna pitanja. Jedan je koristio antropomorfizirani AI koji je bio sličan čovjeku. Drugi nije.

Radnici u kompaniji koji su koristili antropomorfni agens rutinski su se ljutili na agenta kada agent nije davao korisne odgovore. Rutinski su govorili stvari poput: "On je bezveze!" ili „Očekivao bih da će biti bolji“ kada se govori o rezultatima koje je dala mašina. Što je najvažnije, njihove strategije za poboljšanje odnosa sa mašinom odražavale su strategije koje bi koristili sa drugim ljudima u kancelariji. Postavljali bi svoja pitanja ljubaznije, preformulisali bi u različite riječi ili bi pokušali strateški odrediti vrijeme kada su mislili da agent, po jednoj osobi, neće biti toliko zauzet. Nijedna od ovih strategija nije bila posebno uspješna.

Nasuprot tome, radnici druge kompanije su izjavili da su mnogo više zadovoljni svojim iskustvom. Upisivali su pojmove za pretragu kao da je kompjuter i detaljno su slagali stvari kako bi bili sigurni da će AI, koji ne može „čitati između redova“ i shvatiti nijanse, obratiti pažnju na njihove preferencije. Druga grupa je rutinski primećivala koliko su bili iznenađeni kada su im upiti bili vraćeni korisnim ili čak iznenađujućim informacijama i sve probleme koji su se pojavili pripisali su tipičnim greškama na računaru.

U doglednoj budućnosti, podaci su jasni: tretiranje tehnologija — bez obzira koliko nalik ljudima ili inteligentnim izgledaju — kao tehnologije je ključ uspjeha u interakciji s mašinama. Veliki dio problema je što postavljaju očekivanja korisnicima da će odgovoriti na ljudski način, i tjeraju nas da pretpostavimo da oni mogu zaključiti naše namjere, a ne mogu ni jedno ni drugo. Za uspješnu interakciju s konverzacijskim korisničkim sučeljem potreban je digitalni način razmišljanja koji razumije da smo još uvijek udaljeni od učinkovite ljudske interakcije s tehnologijom. Prepoznavanje da AI agent ne može precizno zaključiti o vašim namjerama znači da je važno precizirati svaki korak procesa i biti jasni o tome šta želite postići.