Hitting the Books: Varför vi behöver behandla morgondagens robotar som verktyg

Låt dig inte påverkas av de dova kopplingstonerna från morgondagens AI:er och deras sirenlåtar av singulariteten. Oavsett hur nära artificiell intelligens och androider kan komma att se ut och agera som människor, kommer de aldrig att be människor, hävdar Paul Leonardi, Duca Family Professor of Technology Management vid University of California Santa Barbara, och Tsedal Neeley, Naylor Fitzhugh professor i företagsekonomi vid Harvard Business School, i sin nya bok Det digitala tänkesättet: vad det verkligen krävs för att blomstra i en tidsålder av data, algoritmer och AI — och bör därför inte behandlas som människor. Paret hävdar i utdraget nedan att detta hindrar interaktion med avancerad teknologi och hindrar dess vidare utveckling.

Omtryckt med tillstånd av Harvard Business Review Press. Utdrag ur DET DIGITALA TÄNKET: Vad det verkligen krävs för att blomstra i en tidsålder av data, algoritmer och AI av Paul Leonardi och Tsedal Neeley. Copyright 2022 Harvard Business School Publishing Corporation. Alla rättigheter förbehållna.

Behandla AI som en maskin, även om den verkar agera som en människa

Vi är vana vid att interagera med en dator på ett visuellt sätt: knappar, rullgardinslistor, skjutreglage och andra funktioner låter oss ge datorn kommandon. Men framsteg inom AI flyttar vår interaktion med digitala verktyg till mer naturliga och mänskliga interaktioner. Det som kallas ett konversationsanvändargränssnitt (UI) ger människor möjligheten att agera med digitala verktyg genom att skriva eller prata, det är mycket mer sättet vi interagerar med andra människor, som Burt Swansons "konversation" med Amy assistenten. När du säger "Hej Siri", "Hej Alexa" och "OK Google", är det ett konversationsgränssnitt. Tillväxten av verktyg som kontrolleras av konversationsgränssnitt är häpnadsväckande. Varje gång du ringer ett 800-nummer och blir ombedd att stava ditt namn, svara "Ja" eller säg de fyra sista siffrorna i ditt personnummer interagerar du med en AI som använder konversationsgränssnitt. Konversationsrobotar har blivit allestädes närvarande dels för att de är affärsmässiga, och dels för att de tillåter oss att få tillgång till tjänster mer effektivt och bekvämare.

Till exempel, om du har bokat en tågresa genom Amtrak, har du förmodligen interagerat med en AI-chatbot. Dess namn är Julie, och den besvarar mer än 5 miljoner frågor årligen från mer än 30 miljoner passagerare. Du kan boka tågresor med Julie genom att bara säga vart du ska och när. Julie kan förfylla formulär på Amtraks schemaläggningsverktyg och ge vägledning genom resten av bokningsprocessen. Amtrak har sett en avkastning på 800 procent på sin investering i Julie. Amtrak sparar mer än 1 miljon dollar i kundtjänstkostnader varje år genom att använda Julie för att ställa förutsägbara frågor på låg nivå. Bokningarna har ökat med 25 procent, och bokningar gjorda genom Julie genererar 30 procent mer intäkter än bokningar som görs via hemsidan, eftersom Julie är bra på att merförsälja kunder!

En anledning till Julies framgång är att Amtrak gör det klart för användarna att Julie är en AI-agent, och de berättar varför de har bestämt sig för att använda AI istället för att koppla dig direkt med en människa. Det betyder att människor orienterar sig mot det som en maskin, inte felaktigt som en människa. De förväntar sig inte för mycket av det, och de tenderar att ställa frågor på ett sätt som lockar fram användbara svar. Amtraks beslut kan låta kontraintuitivt, eftersom många företag försöker släppa ut sina chatbots som riktiga människor och det verkar som att interagera med en maskin som om den vore en människa borde vara exakt hur man får de bästa resultaten. Ett digitalt tankesätt kräver en shift i hur vi tänker kring vårt förhållande till maskiner. Även när de blir mer mänskliga måste vi tänka på dem som maskiner – som kräver tydliga instruktioner och fokuserade på smala uppgifter.

x.ai, företaget som skapade mötesschemaläggaren Amy, gör det möjligt för dig att schemalägga ett möte på jobbet eller bjuda in en vän till dina barns basketmatch genom att helt enkelt maila Amy (eller hennes motsvarighet, Andrew) med din förfrågan som om de vore en live personlig assistent. Ändå konstaterar Dennis Mortensen, företagets vd, att mer än 90 procent av förfrågningarna som företagets helpdesk får är relaterade till det faktum att människor försöker använda naturligt språk med botarna och kämpar för att få bra resultat.

Kanske var det därför det blev så irriterande för professor Swanson att schemalägga ett enkelt möte med en ny bekantskap, som hela tiden försökte använda talspråk och konventioner från informella samtal. Förutom sättet han pratade på, gjorde han många helt giltiga antaganden om sin interaktion med Amy. Han antog att Amy kunde förstå hans schemaläggningsbegränsningar och att "hon" skulle kunna urskilja vad hans preferenser var utifrån konversationens kontext. Swanson var informell och avslappnad – boten förstår inte det. Det förstår inte att när man ber om en annan persons tid, särskilt om de gör dig en tjänst, är det inte effektivt att ofta eller plötsligt ändra möteslogistiken. Det visar sig att det är svårare än vi tror att interagera nonchalant med en intelligent robot.

Forskare har validerat idén att behandla maskiner som maskiner fungerar bättre än att försöka vara människa med dem. Stanford-professorn Clifford Nass och Harvard Business School-professorn Youngme Moon genomförde en serie studier där människor interagerade med antropomorfa datorgränssnitt. (Antropomorfism, eller att tilldela mänskliga attribut till livlösa föremål, är en stor fråga inom AI-forskning.) De fann att individer tenderar att överanvända mänskliga sociala kategorier, tillämpa könsstereotyper på datorer och etniskt identifiera sig med datoragenter. Deras resultat visade också att människor uppvisar överlärda sociala beteenden som artighet och ömsesidighet mot datorer. Viktigt är att människor tenderar att engagera sig i dessa beteenden - behandla robotar och andra intelligenta agenter som om de vore människor - även när de vet att de interagerar med datorer snarare än människor. Det verkar som om vår kollektiva impuls att relatera till människor ofta smyger sig in i vår interaktion med maskiner.

Detta problem med att missta datorer för människor förvärras när man interagerar med artificiella medel via konversationsgränssnitt. Ta till exempel en studie som vi genomförde med två företag som använde AI-assistenter som gav svar på rutinmässiga affärsfrågor. En använde en antropomorfiserad AI som var människoliknande. Den andra var inte det.

Arbetare på företaget som använde det antropomorfa medlet blev rutinmässigt arga på agenten när agenten inte returnerade användbara svar. De sa rutinmässigt saker som "Han suger!" eller "Jag skulle förvänta mig att han skulle göra bättre ifrån sig" när man hänvisar till resultaten från maskinen. Viktigast av allt, deras strategier för att förbättra relationerna med maskinen speglade strategier som de skulle använda med andra personer på kontoret. De skulle ställa sin fråga mer artigt, de skulle formulera om till andra ord, eller så skulle de försöka att strategiskt tajma sina frågor för när de trodde att agenten skulle vara, i en persons termer, "inte så upptagen." Ingen av dessa strategier var särskilt framgångsrik.

Däremot rapporterade anställda på det andra företaget att de var mycket mer nöjda med sin upplevelse. De skrev in söktermer som om det vore en dator och stavade saker i detalj för att se till att en AI, som inte kunde "läsa mellan raderna" och uppfatta nyanser, skulle följa deras preferenser. Den andra gruppen påpekade rutinmässigt hur förvånade de blev när deras frågor returnerades med användbar eller till och med överraskande information och de skrev upp eventuella problem som uppstod till typiska buggar med en dator.

Under överskådlig framtid är uppgifterna tydliga: att behandla teknologier – oavsett hur mänskliga eller intelligenta de verkar – som tekniker är nyckeln till framgång när man interagerar med maskiner. En stor del av problemet är att de sätter förväntningar på användarna att de ska svara på mänskliga sätt, och de får oss att anta att de kan sluta sig till våra avsikter, när de inte kan göra någotdera. Att interagera framgångsrikt med ett konversationsgränssnitt kräver ett digitalt tänkesätt som förstår att vi fortfarande är en bit bort från effektiv mänsklig interaktion med tekniken. Att inse att en AI-agent inte riktigt kan sluta sig till dina avsikter betyder att det är viktigt att beskriva varje steg i processen och vara tydlig med vad du vill åstadkomma.