Hit the Books: Proč musíme s roboty zítřka zacházet jako s nástroji

Nenechte se ovlivnit melodickými oznamovacími tóny zítřejších AI a jejich sirénovými písněmi singularity. Bez ohledu na to, jak blízko mohou umělé inteligence a androidi vypadat a chovat se jako lidé, ve skutečnosti nikdy nebudou be lidé, tvrdí Paul Leonardi, profesor technologického managementu rodiny Duca na Kalifornské univerzitě v Santa Barbaře, a Tsedal Neeley, profesor obchodní administrativy Naylor Fitzhugh na Harvard Business School, ve své nové knize. Digitální myšlení: Co je skutečně potřeba k prosperitě ve věku dat, algoritmů a umělé inteligence — a proto by se s nimi nemělo zacházet jako s lidmi. Dvojice v níže uvedeném úryvku tvrdí, že to brání interakci s pokročilou technologií a brzdí její další rozvoj.

Přetištěno se svolením Harvard Business Review Press. Výňatek z DIGITÁLNÍ MYŠLENÍ: Co je skutečně potřeba k prosperitě ve věku dat, algoritmů a umělé inteligence od Paula Leonardiho a Tsedala Neeleyho. Copyright 2022 Harvard Business School Publishing Corporation. Všechna práva vyhrazena.

Zacházejte s AI jako se strojem, i když se zdá, že se chová jako člověk

Jsme zvyklí komunikovat s počítačem vizuálním způsobem: tlačítka, rozevírací seznamy, posuvníky a další funkce nám umožňují zadávat počítači příkazy. Pokroky v AI však posouvají naši interakci s digitálními nástroji k přirozenějším a lidským interakcím. To, co se nazývá konverzační uživatelské rozhraní (UI), dává lidem možnost jednat pomocí digitálních nástrojů prostřednictvím psaní nebo mluvení, což je mnohem více způsob, jakým komunikujeme s ostatními lidmi, jako je „konverzace“ Burta Swansona s asistentkou Amy. Když řeknete „Ahoj Siri“, „Ahoj Alexo“ a „OK Google“, jedná se o konverzační uživatelské rozhraní. Nárůst nástrojů řízených konverzačními uživatelskými rozhraními je ohromující. Pokaždé, když zavoláte na číslo 800 a budete požádáni, abyste hláskovali své jméno, odpovězte „Ano“ nebo řekněte poslední čtyři čísla svého čísla sociálního zabezpečení, že komunikujete s AI, která používá konverzační uživatelské rozhraní. Konverzační boti se stali všudypřítomnými částečně proto, že dávají dobrý obchodní smysl, a částečně proto, že nám umožňují efektivnější a pohodlnější přístup ke službám.

Pokud jste si například zarezervovali cestu vlakem přes Amtrak, pravděpodobně jste interagovali s chatbotem AI. Jmenuje se Julie a odpovídá na více než 5 milionů otázek ročně od více než 30 milionů cestujících. Cestování vlakem s Julií si můžete zarezervovat tak, že řeknete, kam a kdy jedete. Julie může předvyplnit formuláře v plánovacím nástroji Amtrak a poskytnout pokyny pro zbytek procesu rezervace. Amtrak zaznamenal 800procentní návratnost své investice do Julie. Společnost Amtrak ušetří každý rok více než 1 milion dolarů na výdajích na zákaznický servis tím, že Julie používá k pokládání nízkoúrovňových, předvídatelných otázek. Počet rezervací se zvýšil o 25 procent a rezervace provedené prostřednictvím Julie generují o 30 procent vyšší příjmy než rezervace provedené prostřednictvím webových stránek, protože Julie je dobrá v tom, aby zákazníkům dodávala vyšší ceny!

Jedním z důvodů Juliina úspěchu je to, že Amtrak dává uživatelům jasně najevo, že Julie je agentka umělé inteligence, a oni vám řeknou, proč se rozhodli používat umělou inteligenci, než aby vás přímo spojili s člověkem. To znamená, že se na něj lidé orientují jako na stroj, ne mylně jako na člověka. Neočekávají od toho příliš mnoho a mají tendenci klást otázky způsobem, který jim dává užitečné odpovědi. Rozhodnutí společnosti Amtrak může znít neintuitivně, protože mnoho společností se snaží vydávat své chatboty za skutečné lidi a zdálo by se, že interakce se strojem, jako by to byl člověk, by měla být přesně způsob, jak dosáhnout nejlepších výsledků. Digitální myšlení vyžaduje a shift v tom, jak přemýšlíme o našem vztahu ke strojům. I když se stávají lidštějšími, musíme o nich uvažovat jako o strojích – vyžadujících jasné instrukce a zaměřené na úzké úkoly.

x.ai, společnost, která vytvořila plánovač schůzek Amy, vám umožňuje naplánovat schůzku v práci nebo pozvat přítele na basketbalový zápas vašich dětí tím, že jednoduše pošlete Amy (nebo jejímu protějšku Andrewovi) e-mail s vaší žádostí, jako by byli živý osobní asistent. Přesto Dennis Mortensen, generální ředitel společnosti, poznamenává, že více než 90 procent dotazů, které firemní helpdesk dostává, souvisí se skutečností, že lidé se snaží používat přirozený jazyk s roboty a snaží se dosáhnout dobrých výsledků.

Možná to byl důvod, proč naplánování jednoduché schůzky s novým známým začalo být pro profesora Swansona tak nepříjemné, protože se neustále snažil používat hovorové výrazy a konvence z neformální konverzace. Kromě toho, jak mluvil, učinil o své interakci s Amy mnoho dokonale platných předpokladů. Předpokládal, že Amy rozumí jeho časovým omezením a že „ona“ bude z kontextu rozhovoru schopna rozpoznat, jaké jsou jeho preference. Swanson byl neformální a ležérní – bot to nechápe. Nechápe, že když žádáte někoho o čas, zvláště když vám dělá laskavost, není efektivní často nebo náhle měnit logistiku jednání. Ukázalo se, že je těžší, než si myslíme, náhodně komunikovat s inteligentním robotem.

Vědci potvrdili myšlenku, že zacházet se stroji jako se stroji funguje lépe, než se s nimi snažit být lidmi. Stanfordský profesor Clifford Nass a profesor Harvard Business School Youngme Moon provedli řadu studií, ve kterých lidé interagovali s antropomorfními počítačovými rozhraními. (Antropomorfismus neboli přiřazování lidských atributů neživým předmětům je hlavním problémem výzkumu AI.) Zjistili, že jednotlivci mají tendenci nadměrně používat lidské sociální kategorie, aplikují na počítače genderové stereotypy a etnicky se identifikují s počítačovými agenty. Jejich zjištění také ukázala, že lidé vykazují příliš naučené sociální chování, jako je zdvořilost a reciprocita vůči počítačům. Důležité je, že lidé mají tendenci se zapojit do tohoto chování – zacházejí s roboty a jinými inteligentními agenty, jako by to byli lidé – i když vědí, že spíše než s lidmi komunikují s počítači. Zdá se, že náš kolektivní impuls vztahovat se k lidem se často vkrádá do naší interakce se stroji.

Tento problém záměny počítačů s lidmi se zhoršuje při interakci s umělými agenty prostřednictvím konverzačních uživatelských rozhraní. Vezměte si například studii, kterou jsme provedli se dvěma společnostmi, které využívaly asistenty AI, kteří poskytovali odpovědi na běžné obchodní dotazy. Jeden používal antropomorfizovanou AI, která byla podobná člověku. Druhý nebyl.

Pracovníci společnosti, kteří používali antropomorfního agenta, se na agenta běžně naštvali, když agent nevracel užitečné odpovědi. Běžně říkali věci jako: "On je na hovno!" nebo „Očekával bych, že se mu povede lépe“, když se odkazuje na výsledky dané strojem. Nejdůležitější je, že jejich strategie ke zlepšení vztahů se strojem odrážely strategie, které by použili s ostatními lidmi v kanceláři. Položili by svou otázku zdvořileji, přeformulovali by ji do různých slov nebo by se pokusili strategicky načasovat své otázky na dobu, kdy si mysleli, že agent nebude, řečeno slovy jedné osoby, „tak zaneprázdněný“. Žádná z těchto strategií nebyla nijak zvlášť úspěšná.

Naproti tomu pracovníci ve druhé společnosti uvedli mnohem větší spokojenost se svými zkušenostmi. Zadávali hledané výrazy, jako by to byl počítač, a hláskovali věci velmi podrobně, aby se ujistili, že AI, která neumí „číst mezi řádky“ a zachytit nuance, bude dbát jejich preferencí. Druhá skupina běžně poznamenala, jak byli překvapeni, když se jejich dotazy vrátily s užitečnými nebo dokonce překvapivými informacemi, a uváděli jakékoli problémy, které se vyskytly u typických chyb v počítači.

Pro dohlednou budoucnost jsou data jasná: nakládání s technologiemi – bez ohledu na to, jak lidské nebo inteligentní vypadají – jako technologie je klíčem k úspěchu při interakci se stroji. Velká část problému spočívá v tom, že nastavují očekávání pro uživatele, že budou reagovat lidskými způsoby, a nutí nás předpokládat, že mohou odvodit naše záměry, když nemohou udělat ani jedno. Úspěšná interakce s konverzačním uživatelským rozhraním vyžaduje digitální myšlení, které chápe, že jsme stále ještě daleko od efektivní lidské interakce s technologií. Uvědomte si, že agent AI nemůže přesně odvodit vaše záměry, znamená, že je důležité upřesnit každý krok procesu a mít jasno v tom, čeho chcete dosáhnout.