Hitting the Books: Miért kell a holnap robotjait szerszámként kezelnünk

Ne hagyja magát megingatni a holnap mesterséges intelligenciainak tompa tárcsahangjai és a szingularitás szirénái. Nem számít, milyen közel állnak a mesterséges intelligenciák és az androidok ahhoz, hogy úgy nézzenek ki és úgy viselkedjenek, mint az emberek, valójában soha nem fognak be emberek, Paul Leonardi, a Duca család technológiai menedzsment professzora a Kaliforniai Santa Barbarai Egyetemen és Tsedal Neeley, Naylor Fitzhugh, a Harvard Business School üzleti adminisztráció professzora új könyvükben. A digitális gondolkodásmód: Mi kell igazán a boldoguláshoz az adatok, az algoritmusok és az AI korában – és ezért nem szabad emberként kezelni. A pár az alábbi kivonatban azt állítja, hogy ezzel akadályozza a fejlett technológiával való interakciót, és hátráltatja annak további fejlődését.

Újranyomva a Harvard Business Review Press engedélyével. Kivonat a A DIGITÁLIS GONDOLAT: Mi kell valójában a boldoguláshoz az adatok, algoritmusok és mesterséges intelligencia korában Paul Leonardi és Tsedal Neeley. Copyright 2022 Harvard Business School Publishing Corporation. Minden jog fenntartva.

Kezelje az AI-t, mint egy gépet, még akkor is, ha úgy tűnik, hogy úgy viselkedik, mint egy ember

Megszoktuk, hogy vizuális módon kommunikáljunk a számítógéppel: gombok, legördülő listák, csúszkák és egyéb funkciók lehetővé teszik számunkra, hogy parancsokat adjunk a számítógépnek. A mesterséges intelligencia fejlődése azonban a digitális eszközökkel való interakciónkat természetesebb és emberszerűbb interakciók felé tereli. Az úgynevezett társalgási felhasználói felület (UI) lehetővé teszi az emberek számára, hogy digitális eszközökkel dolgozzanak írásban vagy beszédben, ami sokkal inkább a másokkal való interakció módja, például Burt Swanson „beszélgetése” Amy asszisztenssel. Amikor azt mondja, hogy „Hey Siri”, „Hello Alexa” és „OK Google”, az egy párbeszédes felhasználói felület. A párbeszédes felhasználói felületek által vezérelt eszközök növekedése megdöbbentő. Minden alkalommal, amikor felhív egy 800-as számot, és megkérik, hogy írja be a nevét, válaszoljon „Igen”-re, vagy mondja ki társadalombiztosítási számának utolsó négy számát, Ön egy társalgási felületet használó mesterséges intelligenciával lép kapcsolatba. A beszélgetős botok részben azért váltak mindenütt elterjedtté, mert jó üzleti értelmet adnak nekik, részben pedig azért, mert lehetővé teszik számunkra, hogy hatékonyabban és kényelmesebben férhessünk hozzá a szolgáltatásokhoz.

Ha például vonatutat foglalt le az Amtrakon keresztül, akkor valószínűleg interakcióba lépett egy AI chatbottal. A neve Julie, és évente több mint 5 millió utas több mint 30 millió kérdésére válaszol. Julie-val vasúti utazást foglalhat, ha megmondja, hová és mikor mész. Julie előre kitöltheti az űrlapokat az Amtrak ütemező eszközén, és útmutatást nyújthat a foglalási folyamat többi részéhez. Az Amtrak 800 százalékos megtérülést ért el a Julie-ba való befektetése során. Az Amtrak évente több mint 1 millió dollárt takarít meg az ügyfélszolgálati költségeken azzal, hogy Julie segítségével alacsony szintű, kiszámítható kérdéseket tesz fel. A foglalások száma 25 százalékkal nőtt, a Julie-n keresztül végzett foglalások pedig 30 százalékkal több bevételt generálnak, mint a weboldalon keresztül lebonyolított foglalások, mert Julie ügyesen értékesíti az ügyfeleket!

Julie sikerének egyik oka, hogy az Amtrak világossá teszi a felhasználók számára, hogy Julie egy mesterséges intelligencia ügynök, és elmondják, miért döntöttek úgy, hogy a mesterséges intelligenciát használják, ahelyett, hogy közvetlenül emberrel hoznának kapcsolatba. Ez azt jelenti, hogy az emberek gépként orientálódnak hozzá, nem tévedésből emberként. Nem várnak el tőle túl sokat, és hajlamosak olyan kérdéseket feltenni, amelyek hasznos válaszokat kapnak. Az Amtrak döntése ellentmondásosnak tűnhet, mivel sok vállalat próbálja valódi embernek kiadni chatbotját, és úgy tűnik, hogy a gépekkel való interakciónak úgy kell lennie, mintha az ember lenne. A digitális gondolkodásmód megköveteli a shift abban, hogyan gondolkodunk a gépekhez való viszonyunkról. Még akkor is, amikor egyre emberibbé válnak, gépként kell tekintenünk rájuk – kifejezett utasításokat igényelnek, és szűk feladatokra összpontosítanak.

Az x.ai, az Amy találkozóütemezőt készítő cég lehetővé teszi, hogy munkahelyi találkozót ütemezzen be, vagy hívjon meg egy barátot a gyerekek kosárlabdameccsére úgy, hogy egyszerűen elküldi Amynek (vagy társának, Andrew-nak) a kérését, mintha ők lennének élő személyi asszisztens. Dennis Mortensen, a cég vezérigazgatója azonban megjegyzi, hogy a cég ügyfélszolgálatához érkező megkeresések több mint 90 százaléka azzal a ténnyel kapcsolatos, hogy az emberek természetes nyelvet próbálnak használni a robotokkal, és küzdenek a jó eredményekért.

Talán ezért vált olyan bosszantóvá Swanson professzor számára, hogy egy egyszerű találkozót tervezzen meg egy új ismerőssel, aki folyamatosan próbálta használni a köznyelvet és a kötetlen beszélgetésekből származó konvenciókat. A beszédmódon túlmenően számos tökéletesen érvényes feltételezést fogalmazott meg Amyvel való interakciójáról. Feltételezte, hogy Amy megérti az ütemezési korlátait, és hogy „ő” képes lesz megkülönböztetni a beszélgetés kontextusából, hogy mi a preferenciája. Swanson informális és hétköznapi volt – a bot ezt nem érti. Nem érti, hogy amikor egy másik személy idejét kéri, különösen akkor, ha szívességet tesz Önnek, nem hatékony gyakran vagy hirtelen megváltoztatni a találkozó logisztikáját. Kiderült, hogy egy intelligens robottal nehezebb, mint gondolnánk.

A kutatók igazolták azt az elképzelést, hogy a gépeket gépként kezelni jobban működik, mintha emberként próbálnának lenni velük. A stanfordi professzor, Clifford Nass és a Harvard Business School professzora, Youngme Moon végzett egy sor olyan vizsgálatot, amelyben az emberek antropomorf számítógépes interfészekkel léptek kapcsolatba. (Az antropomorfizmus, vagyis az emberi tulajdonságok élettelen tárgyakhoz való hozzárendelése a mesterséges intelligencia kutatásának egyik fő kérdése.) Azt találták, hogy az egyének hajlamosak túlzásba vinni az emberi társadalmi kategóriákat, nemi sztereotípiákat alkalmaznak a számítógépekre, és etnikailag azonosulnak számítógépes ügynökökkel. Eredményeik azt is kimutatták, hogy az emberek túltanult szociális viselkedést mutatnak, mint például az udvariasság és a kölcsönösség a számítógépekkel szemben. Fontos, hogy az emberek hajlamosak ilyen viselkedésre – a robotokat és más intelligens ügynököket emberekként kezelni – még akkor is, ha tudják, hogy számítógépekkel, nem pedig emberekkel kommunikálnak. Úgy tűnik, hogy az emberekkel való kapcsolatra irányuló kollektív késztetésünk gyakran beférkőzik a gépekkel való interakciónkba.

Ez a probléma, hogy a számítógépeket összetévesztik az emberekkel, még tovább súlyosbodik, ha mesterséges ágensekkel interakcióba lépnek társalgási felhasználói felületen keresztül. Vegyünk például egy tanulmányt, amelyet két olyan céggel végeztünk, akik mesterséges intelligencia asszisztenseket használtak, amelyek válaszokat adtak rutin üzleti kérdésekre. Az egyik emberhez hasonló antropomorfizált MI-t használt. A másik nem volt.

Az antropomorf szert használó cég dolgozói rendszeresen megharagudtak az ügynökre, amikor az ügynök nem adott hasznos válaszokat. Rutinszerűen mondogattak ilyeneket: „Szopás!” vagy „elvárnám tőle, hogy jobban teljesítsen”, amikor a gép által adott eredményekre utal. A legfontosabb az, hogy a géppel való kapcsolatok javítására irányuló stratégiáik tükrözik azokat a stratégiákat, amelyeket az irodában más emberekkel alkalmaznának. Udvariasabban tették fel kérdésüket, más szavakkal fogalmazták meg, vagy megpróbálták stratégiailag időzíteni a kérdéseiket arra az időszakra, amikor azt gondolták, hogy az ügynök – egy személy kifejezésével – „nem olyan elfoglalt”. E stratégiák egyike sem volt különösebben sikeres.

Ezzel szemben a másik cég dolgozói sokkal nagyobb elégedettségről számoltak be tapasztalataikkal. Úgy írták be a keresőkifejezéseket, mintha számítógépről lenne szó, és nagyon részletesen írták le a dolgokat, hogy megbizonyosodjanak arról, hogy egy mesterséges intelligencia, aki nem tud „olvasni a sorok között”, és nem tud árnyalatokat felfogni, figyelembe veszi a preferenciáikat. A második csoport rendszeresen megjegyezte, mennyire meglepődtek, amikor a lekérdezéseik hasznos vagy akár meglepő információkkal érkeztek vissza, és a felmerülő problémákat tipikus számítógépes hibáknak minősítették.

A belátható jövőben az adatok egyértelműek: a technológiák – függetlenül attól, hogy mennyire emberinek vagy intelligensnek tűnnek – kezelése kulcsfontosságú a sikerhez a gépekkel való interakció során. A probléma nagy része az, hogy elvárják a felhasználóktól, hogy emberszerűen reagáljanak, és azt feltételezik, hogy képesek következtetni a szándékainkra, miközben egyiket sem tehetik meg. A párbeszédes felhasználói felülettel való sikeres interakcióhoz olyan digitális gondolkodásmódra van szükség, amely megérti, hogy még mindig távol vagyunk a technológiával való hatékony emberszerű interakciótól. Annak felismerése, hogy egy AI-ügynök nem tud pontosan következtetni az Ön szándékaira, azt jelenti, hogy fontos a folyamat minden egyes lépését pontosan megfogalmazni, és világosan meghatározni, hogy mit szeretne elérni.