Hit the Books: Prečo musíme s robotmi zajtrajška zaobchádzať ako s nástrojmi

Nenechajte sa ukolísať jemnými oznamovacími tónmi zajtrajších AI a ich sirénovými piesňami singularity. Bez ohľadu na to, ako blízko sa môžu umelé inteligencie a androidi podobať na ľudí a správať sa ako ľudia, v skutočnosti nikdy nebudú be ľudia, tvrdia Paul Leonardi, profesor technologického manažmentu rodiny Duca na Kalifornskej univerzite v Santa Barbare, a Tsedal Neeley, profesor obchodnej správy Naylor Fitzhugh na Harvard Business School, vo svojej novej knihe. Digitálne myslenie: Čo je skutočne potrebné na prosperovanie vo veku dát, algoritmov a AI — a preto by sa s nimi nemalo zaobchádzať ako s ľuďmi. Dvojica v úryvku nižšie tvrdí, že to bráni interakcii s vyspelou technológiou a brzdí jej ďalší rozvoj.

Pretlačené so súhlasom Harvard Business Review Press. Výňatok z DIGITÁLNE MYSLENIE: Čo je skutočne potrebné na prosperovanie vo veku dát, algoritmov a AI od Paula Leonardiho a Tsedala Neeleyho. Copyright 2022 Harvard Business School Publishing Corporation. Všetky práva vyhradené.

Zaobchádzajte s AI ako so strojom, aj keď sa zdá, že sa správa ako človek

Sme zvyknutí na interakciu s počítačom vizuálnym spôsobom: tlačidlá, rozbaľovacie zoznamy, posúvače a ďalšie funkcie nám umožňujú zadávať počítaču príkazy. Pokroky v AI však posúvajú našu interakciu s digitálnymi nástrojmi k prirodzenejšej interakcii podobnej ľuďom. To, čo sa nazýva konverzačné používateľské rozhranie (UI), dáva ľuďom možnosť konať pomocou digitálnych nástrojov prostredníctvom písania alebo rozprávania, čo je oveľa viac spôsob, akým komunikujeme s inými ľuďmi, ako napríklad „konverzácia“ Burta Swansona s asistentkou Amy. Keď poviete „Ahoj Siri“, „Ahoj Alexa“ a „OK Google“, ide o konverzačné používateľské rozhranie. Nárast nástrojov ovládaných konverzačnými používateľskými rozhraniami je ohromujúci. Zakaždým, keď zavoláte na číslo 800 a budete požiadaní, aby ste vyhláskovali svoje meno, odpovedzte „Áno“ alebo povedzte posledné štyri čísla svojho čísla sociálneho zabezpečenia, s ktorým komunikujete s AI, ktorá používa konverzačné používateľské rozhranie. Konverzačné roboty sa stali všadeprítomnými čiastočne preto, že dávajú dobrý obchodný zmysel, a čiastočne preto, že nám umožňujú efektívnejšie a pohodlnejšie pristupovať k službám.

Ak ste si napríklad objednali cestu vlakom cez Amtrak, pravdepodobne ste interagovali s chatbotom AI. Volá sa Julie a odpovedá na viac ako 5 miliónov otázok ročne od viac ako 30 miliónov cestujúcich. Cestovanie vlakom s Julie si môžete zarezervovať tak, že poviete, kam a kedy idete. Julie môže predvyplniť formuláre v plánovacom nástroji Amtrak a poskytnúť sprievodcu zvyškom procesu rezervácie. Amtrak zaznamenal 800-percentnú návratnosť investície do Julie. Spoločnosť Amtrak ušetrí každý rok viac ako 1 milión dolárov na výdavkoch na služby zákazníkom tým, že Julie použije na kladenie nízkoúrovňových, predvídateľných otázok. Počet rezervácií sa zvýšil o 25 percent a rezervácie uskutočnené prostredníctvom Julie generujú o 30 percent vyššie príjmy ako rezervácie uskutočnené prostredníctvom webovej stránky, pretože Julie je dobrá v predaji zákazníkov!

Jedným z dôvodov Juliinho úspechu je, že Amtrak dáva používateľom jasne najavo, že Julie je agentka AI, a povedia vám, prečo sa rozhodli používať AI namiesto toho, aby vás priamo spojili s človekom. To znamená, že ľudia sa naň orientujú ako na stroj, nie mylne ako na človeka. Neočakávajú od toho príliš veľa a majú tendenciu klásť otázky spôsobom, ktorý im dáva užitočné odpovede. Rozhodnutie spoločnosti Amtrak môže znieť neintuitívne, pretože mnohé spoločnosti sa snažia vydávať svojich chatbotov za skutočných ľudí a zdalo by sa, že interakcia so strojom, ako keby to bol človek, by mala byť presne spôsob, ako dosiahnuť najlepšie výsledky. Digitálne myslenie si vyžaduje a shift v tom, ako uvažujeme o našom vzťahu k strojom. Aj keď sa stávajú ľudskejšími, musíme o nich uvažovať ako o strojoch – vyžadujúcich si jasné pokyny a zameraných na úzke úlohy.

x.ai, spoločnosť, ktorá vytvorila plánovač stretnutí Amy, vám umožňuje naplánovať si stretnutie v práci alebo pozvať priateľov na basketbalový zápas vašich detí jednoduchým odoslaním e-mailu Amy (alebo jej náprotivku Andrewovi) s vašou požiadavkou, ako keby boli živý osobný asistent. Napriek tomu Dennis Mortensen, generálny riaditeľ spoločnosti, poznamenáva, že viac ako 90 percent otázok, ktoré zákaznícka podpora spoločnosti dostáva, súvisí so skutočnosťou, že ľudia sa snažia používať prirodzený jazyk s robotmi a snažia sa dosiahnuť dobré výsledky.

Možno to bol dôvod, prečo sa plánovanie jednoduchého stretnutia s novým známym stalo profesorovi Swansonovi tak nepríjemným, pretože sa neustále snažil používať hovorové konvencie a konvencie z neformálnej konverzácie. Okrem spôsobu, akým rozprával, urobil veľa dokonale platných predpokladov o jeho interakcii s Amy. Predpokladal, že Amy rozumie jeho časovým obmedzeniam a že „ona“ bude schopná rozoznať, aké sú jeho preferencie z kontextu rozhovoru. Swanson bol neformálny a neformálny – robot to nechápe. Nerozumie tomu, že keď žiadate o čas inej osoby, najmä ak vám robí láskavosť, nie je efektívne často alebo náhle meniť logistiku stretnutia. Ukázalo sa, že náhodná interakcia s inteligentným robotom je náročnejšia, než si myslíme.

Výskumníci potvrdili myšlienku, že zaobchádzanie so strojmi ako so strojmi funguje lepšie, ako snažiť sa byť s nimi ľuďmi. Stanfordský profesor Clifford Nass a profesor Harvard Business School Youngme Moon uskutočnili sériu štúdií, v ktorých ľudia interagovali s antropomorfnými počítačovými rozhraniami. (Antropomorfizmus alebo priraďovanie ľudských atribútov neživým objektom je hlavným problémom výskumu AI.) Zistili, že jednotlivci majú tendenciu nadužívať ľudské sociálne kategórie, aplikujú rodové stereotypy na počítače a etnicky sa identifikujú s počítačovými agentmi. Ich zistenia tiež ukázali, že ľudia prejavujú príliš naučené sociálne správanie, ako je zdvorilosť a reciprocita voči počítačom. Dôležité je, že ľudia majú tendenciu zapojiť sa do tohto správania – zaobchádzať s robotmi a inými inteligentnými agentmi, akoby to boli ľudia – aj keď vedia, že komunikujú s počítačmi a nie s ľuďmi. Zdá sa, že náš kolektívny impulz spájať sa s ľuďmi sa často vkráda do našej interakcie so strojmi.

Tento problém pomýlenia si počítačov s ľuďmi sa znásobuje pri interakcii s umelými agentmi prostredníctvom konverzačných používateľských rozhraní. Vezmime si napríklad štúdiu, ktorú sme uskutočnili s dvoma spoločnosťami, ktoré používali asistentov AI, ktorí poskytovali odpovede na bežné obchodné otázky. Jeden používal antropomorfizovanú AI, ktorá bola podobná človeku. Druhý nebol.

Pracovníci spoločnosti, ktorí používali antropomorfného agenta, sa na agenta bežne hnevali, keď agent nevracal užitočné odpovede. Bežne hovorili veci ako: "Je na hovno!" alebo „Očakával by som, že sa mu bude dariť lepšie“, keď hovoríme o výsledkoch poskytnutých strojom. Najdôležitejšie je, že ich stratégie na zlepšenie vzťahov so strojom odzrkadľovali stratégie, ktoré by používali s ostatnými ľuďmi v kancelárii. Svoju otázku by položili zdvorilo, preformulovali by ju inými slovami alebo by sa pokúsili strategicky načasovať svoje otázky na obdobie, keď si mysleli, že agent nebude, povedané jedným človekom, „tak zaneprázdnený“. Žiadna z týchto stratégií nebola mimoriadne úspešná.

Naproti tomu pracovníci v druhej spoločnosti uvádzali oveľa väčšiu spokojnosť so svojimi skúsenosťami. Hľadané výrazy zadávali, akoby to bol počítač, a veci hláskovali veľmi podrobne, aby sa ubezpečili, že AI, ktorá nevie „čítať medzi riadkami“ a zachytiť nuansy, bude dbať na ich preferencie. Druhá skupina bežne poznamenala, akí boli prekvapení, keď sa ich dopyt vrátil s užitočnými alebo dokonca prekvapivými informáciami, a napísali všetky problémy, ktoré sa vyskytli pri typických chybách v počítači.

V dohľadnej budúcnosti sú údaje jasné: spracovanie technológií – bez ohľadu na to, ako ľudské alebo inteligentné vyzerajú – ako technológie je kľúčom k úspechu pri interakcii so strojmi. Veľká časť problému spočíva v tom, že nastavujú očakávania používateľov, že budú reagovať ľudskými spôsobmi, a nútia nás predpokladať, že môžu odvodiť naše zámery, keď nemôžu urobiť ani jedno. Úspešná interakcia s konverzačným používateľským rozhraním si vyžaduje digitálne myslenie, ktoré chápe, že sme stále vzdialení od efektívnej ľudskej interakcie s technológiou. Uvedomenie si, že agent AI nemôže presne odvodiť vaše zámery, znamená, že je dôležité vysvetliť každý krok procesu a mať jasno v tom, čo chcete dosiahnuť.