Hiting the Books: Zakaj moramo robote jutrišnjega dne obravnavati kot orodje

Naj vas ne zavedejo sladki toni centrale jutrišnjih AI in njihove pesmi siren singularnosti. Ne glede na to, kako zelo so umetna inteligenca in androidi videti in se obnašati kot ljudje, nikoli ne bodo be ljudi, trdita Paul Leonardi, družinski profesor tehnološkega managementa na kalifornijski univerzi Santa Barbara, in Tsedal Neeley, profesor poslovne administracije Naylor Fitzhugh na poslovni šoli Harvard, v svoji novi knjigi Digitalna miselnost: kaj je resnično potrebno za uspeh v dobi podatkov, algoritmov in umetne inteligence — in zato z njimi ne bi smeli ravnati kot z ljudmi. Par v spodnjem odlomku trdi, da s tem ovira interakcijo z napredno tehnologijo in zavira njen nadaljnji razvoj.

Ponatis z dovoljenjem Harvard Business Review Press. Povzeto iz DIGITALNA MISELNOST: kaj je resnično potrebno za uspeh v dobi podatkov, algoritmov in umetne inteligence avtorja Paul Leonardi in Tsedal Neeley. Avtorske pravice 2022 Harvard Business School Publishing Corporation. Vse pravice pridržane.

Umetno inteligenco obravnavajte kot stroj, tudi če se zdi, da deluje kot človek

Navajeni smo vizualne interakcije z računalnikom: gumbi, spustni seznami, drsniki in druge funkcije nam omogočajo, da računalniku dajemo ukaze. Vendar pa napredek umetne inteligence premika našo interakcijo z digitalnimi orodji k bolj naravnim občutkom in človeškim interakcijam. Tisto, kar se imenuje pogovorni uporabniški vmesnik (UI), daje ljudem možnost, da delujejo z digitalnimi orodji s pisanjem ali govorjenjem, kar je veliko bolj način naše interakcije z drugimi ljudmi, kot je »pogovor« Burta Swansona z Amy, pomočnico. Ko izgovorite »Hej Siri«, »Hello Alexa« in »OK Google«, je to uporabniški vmesnik za pogovor. Rast orodij, ki jih upravljajo pogovorni uporabniški vmesniki, je osupljiva. Vsakič, ko pokličete številko 800 in vas prosimo, da črkujete svoje ime, odgovorite z »Da« ali izgovorite zadnje štiri številke svoje številke socialnega zavarovanja, ste v interakciji z umetno inteligenco, ki uporablja pogovorni uporabniški vmesnik. Pogovorni roboti so postali vseprisotni deloma zato, ker imajo dober poslovni smisel, deloma pa zato, ker nam omogočajo učinkovitejši in udobnejši dostop do storitev.

Na primer, če ste rezervirali potovanje z vlakom prek Amtraka, ste verjetno komunicirali s klepetalnim robotom AI. Ime mu je Julie in letno odgovori na več kot 5 milijonov vprašanj več kot 30 milijonov potnikov. Z Julie lahko rezervirate potovanje z železnico tako, da poveste, kam greste in kdaj. Julie lahko vnaprej izpolni obrazce na Amtrakovem orodju za razporejanje in nudi navodila skozi preostali del postopka rezervacije. Amtrak je videl 800-odstotno donosnost svoje naložbe v Julie. Amtrak vsako leto prihrani več kot 1 milijon dolarjev pri stroških storitev za stranke, tako da Julie uporablja za postavljanje predvidljivih vprašanj na nizki ravni. Število rezervacij se je povečalo za 25 odstotkov, rezervacije, opravljene prek Julie, pa ustvarijo 30 odstotkov več prihodkov kot rezervacije, opravljene prek spletnega mesta, saj je Julie dobra pri prodaji strank!

Eden od razlogov za uspeh Julie je, da Amtrak uporabnikom jasno pove, da je Julie agentka z umetno inteligenco, in ti povedo, zakaj so se odločili za uporabo umetne inteligence, namesto da bi vas neposredno povezali s človekom. To pomeni, da se ljudje nanj orientirajo kot na stroj, ne pomotoma kot na človeka. Od tega ne pričakujejo preveč in ponavadi postavljajo vprašanja na načine, ki izvabijo koristne odgovore. Amtrakova odločitev morda zveni protislovno, saj številna podjetja poskušajo svoje chatbote predstaviti kot resnične ljudi in zdi se, da bi morala biti interakcija s strojem, kot da bi bil človek, ravno način za doseganje najboljših rezultatov. Digitalna miselnost zahteva a shift v tem, kako razmišljamo o našem odnosu do strojev. Čeprav postajajo bolj človeški, moramo o njih razmišljati kot o strojih – ki zahtevajo izrecna navodila in so osredotočeni na ozke naloge.

x.ai, podjetje, ki je izdelalo načrtovalca sestankov Amy, vam omogoča, da načrtujete sestanek v službi ali povabite prijatelja na košarkarsko tekmo vaših otrok tako, da Amy (ali njenemu nasprotniku Andrewu) preprosto pošljete e-pošto z vašo zahtevo, kot da bi bili osebni asistent v živo. Toda Dennis Mortensen, izvršni direktor podjetja, opaža, da je več kot 90 odstotkov poizvedb, ki jih prejme služba za pomoč uporabnikom, povezanih z dejstvom, da ljudje poskušajo uporabljati naravni jezik z boti in se trudijo doseči dobre rezultate.

Morda je zato načrtovanje preprostega sestanka z novim znancem postalo tako nadležno za profesorja Swansona, ki je kar naprej poskušal uporabiti pogovorne izraze in konvencije iz neformalnega pogovora. Poleg tega, kako se je pogovarjal, je naredil veliko povsem veljavnih predpostavk o svoji interakciji z Amy. Predvideval je, da bi Amy lahko razumela njegove časovne omejitve in da bi »ona« iz konteksta pogovora lahko razbrala, kakšne so njegove želje. Swanson je bil neformalen in ležeren – bot tega ne razume. Ne razume, da ni učinkovito pogosto ali nenadoma spreminjati logistiko sestanka, ko prosite za čas druge osebe, zlasti če vam dela uslugo. Izkazalo se je, da je težje, kot si mislimo, sproščeno komunicirati z inteligentnim robotom.

Raziskovalci so potrdili zamisel, da ravnanje s stroji kot s stroji deluje bolje kot poskušanje biti človek z njimi. Stanfordski profesor Clifford Nass in Harvard Business School profesor Youngme Moon sta izvedla vrsto študij, v katerih so ljudje komunicirali z antropomorfnimi računalniškimi vmesniki. (Antropomorfizem ali dodeljevanje človeških lastnosti neživim predmetom je glavno vprašanje v raziskavah umetne inteligence.) Ugotovili so, da so posamezniki nagnjeni k pretirani uporabi človeških družbenih kategorij, uporabijo spolne stereotipe za računalnike in se etnično identificirajo z računalniškimi agenti. Njihove ugotovitve so tudi pokazale, da ljudje kažejo preveč naučeno družbeno vedenje, kot sta vljudnost in recipročnost do računalnikov. Pomembno je, da se ljudje nagibajo k temu vedenju – z roboti in drugimi inteligentnimi agenti ravnajo kot z ljudmi – tudi če vedo, da komunicirajo z računalniki in ne z ljudmi. Zdi se, da se naš kolektivni impulz po povezovanju z ljudmi pogosto prikrade v našo interakcijo s stroji.

Ta problem zamenjave računalnikov za ljudi se še poveča pri interakciji z umetnimi agenti prek pogovornih uporabniških vmesnikov. Vzemimo za primer študijo, ki smo jo izvedli z dvema podjetjema, ki sta uporabljali pomočnike AI, ki so zagotavljali odgovore na rutinska poslovna vprašanja. Ena je uporabila antropomorfizirano AI, ki je bila podobna človeku. Drugi ni bil.

Delavci v podjetju, ki so redno uporabljali antropomorfnega agenta, so se jezili na agenta, ko agent ni vrnil uporabnih odgovorov. Redno so rekli stvari, kot so: "On je zanič!" ali "Pričakoval bi, da bo šlo bolje", ko se nanaša na rezultate, ki jih daje stroj. Najpomembneje je, da so njihove strategije za izboljšanje odnosov s strojem odražale strategije, ki bi jih uporabljali z drugimi ljudmi v pisarni. Svoje vprašanje bi postavili bolj vljudno, preoblikovali bi ga v druge besede ali pa bi poskušali strateško določiti čas svojih vprašanj za čas, ko bi mislili, da agent, z izrazom ene osebe, "ne bi bil tako zaposlen". Nobena od teh strategij ni bila posebej uspešna.

Nasprotno pa so delavci v drugem podjetju poročali o veliko večjem zadovoljstvu s svojimi izkušnjami. Iskalne izraze so vnašali, kot da bi šlo za računalnik, in zelo podrobno črkovali stvari, da bi zagotovili, da bo umetna inteligenca, ki ni znala »brati med vrsticami« in zaznati odtenkov, upoštevala njihove želje. Druga skupina je rutinsko pripomnila, kako presenečeni so bili, ko so bile njihove poizvedbe vrnjene z uporabnimi ali celo presenetljivimi informacijami, in so vse težave, ki so se pojavile, označili za tipične napake v računalniku.

Za predvidljivo prihodnost so podatki jasni: ravnanje s tehnologijami – ne glede na to, kako podobne človeškim ali inteligentnim so videti – je ključno za uspeh pri interakciji s stroji. Velik del težave je v tem, da uporabnikom postavljajo pričakovanja, da se bodo odzvali na človeški način, in nas prisilijo k domnevi, da lahko sklepajo o naših namenih, čeprav ne morejo ne enega ne drugega. Za uspešno interakcijo s pogovornim uporabniškim vmesnikom je potrebna digitalna miselnost, ki razume, da smo še vedno oddaljeni od učinkovite človeške interakcije s tehnologijo. Če se zavedate, da posrednik z umetno inteligenco ne more natančno sklepati o vaših namerah, pomeni, da je pomembno, da navedete vsak korak postopka in jasno poveste, kaj želite doseči.