Hit the Books: Waarom we de robots van morgen als gereedschap moeten behandelen

Laat u niet misleiden door de zachte kiestonen van de AI's van morgen en hun sireneliederen van de singulariteit. Hoe nauw kunstmatige intelligenties en androïden ook op mensen lijken en zich gedragen, dat zullen ze in werkelijkheid nooit worden be mensen, betogen Paul Leonardi, Duca Family Professor of Technology Management aan de Universiteit van Californië in Santa Barbara, en Tsedal Neeley, Naylor Fitzhugh Professor of Business Administration aan de Harvard Business School, in hun nieuwe boek De digitale mentaliteit: wat er echt nodig is om te gedijen in het tijdperk van data, algoritmen en AI – en mogen daarom niet als mensen worden behandeld. Het tweetal betoogt in het onderstaande fragment dat dit de interactie met geavanceerde technologie belemmert en de verdere ontwikkeling ervan belemmert.

Herdrukt met toestemming van Harvard Business Review Press. overgenomen uit DE DIGITALE MINDSET: wat er echt nodig is om te gedijen in het tijdperk van data, algoritmen en AI door Paul Leonardi en Tsedal Neeley. Copyright 2022 Harvard Business School Publishing Corporation. Alle rechten voorbehouden.

Behandel AI als een machine, zelfs als het zich als een mens lijkt te gedragen

We zijn gewend om op een visuele manier met een computer te communiceren: met knoppen, vervolgkeuzelijsten, schuifregelaars en andere functies kunnen we de computer opdrachten geven. De vooruitgang op het gebied van AI zorgt er echter voor dat onze interactie met digitale hulpmiddelen verandert in meer natuurlijk aanvoelende en mensachtige interacties. Wat een conversationele gebruikersinterface (UI) wordt genoemd, geeft mensen de mogelijkheid om met digitale hulpmiddelen te handelen door te schrijven of te praten, op een manier die veel meer lijkt op de manier waarop we met andere mensen omgaan, zoals het 'gesprek' van Burt Swanson met Amy de assistent. Als je 'Hey Siri', 'Hallo Alexa' en 'OK Google' zegt, is dat een conversatie-UI. De groei van tools die worden bestuurd door conversationele gebruikersinterfaces is duizelingwekkend. Elke keer dat u een 800-nummer belt en wordt gevraagd uw naam te spellen, antwoordt u 'Ja' of zegt u de laatste vier cijfers van uw burgerservicenummer, heeft u interactie met een AI die een conversatie-interface gebruikt. Conversationele bots zijn alomtegenwoordig geworden, deels omdat ze zakelijk gezien zinvol zijn, en deels omdat ze ons in staat stellen efficiënter en gemakkelijker toegang te krijgen tot diensten.

Als u bijvoorbeeld een treinreis via Amtrak heeft geboekt, heeft u waarschijnlijk interactie gehad met een AI-chatbot. Het heet Julie en beantwoordt jaarlijks meer dan 5 miljoen vragen van meer dan 30 miljoen passagiers. Je kunt een treinreis bij Julie boeken door simpelweg aan te geven waar je heen gaat en wanneer. Julie kan formulieren vooraf invullen via de planningstool van Amtrak en begeleiding bieden bij de rest van het boekingsproces. Amtrak heeft een rendement van 800 procent gezien op hun investering in Julie. Amtrak bespaart elk jaar meer dan $1 miljoen aan klantenservicekosten door Julie te gebruiken voor het beantwoorden van eenvoudige, voorspelbare vragen. Het aantal boekingen is met 25 procent gestegen en boekingen via Julie genereren 30 procent meer omzet dan boekingen via de website, omdat Julie goed is in het verkopen van klanten!

Eén reden voor het succes van Julie is dat Amtrak gebruikers duidelijk maakt dat Julie een AI-agent is, en dat ze je vertellen waarom ze besloten hebben om AI te gebruiken in plaats van je rechtstreeks in contact te brengen met een mens. Dat betekent dat mensen zich ernaar oriënteren als een machine, en niet ten onrechte als mens. Ze verwachten er niet te veel van en hebben de neiging om vragen te stellen op een manier die nuttige antwoorden uitlokt. De beslissing van Amtrak klinkt misschien contra-intuïtief, aangezien veel bedrijven proberen hun chatbots voor te doen als echte mensen en het lijkt erop dat interactie met een machine alsof deze een mens is precies de manier zou moeten zijn om de beste resultaten te behalen. Een digitale mindset vereist een shift in hoe we denken over onze relatie tot machines. Zelfs nu ze menselijker worden, moeten we ze beschouwen als machines, die expliciete instructies vereisen en zich op beperkte taken richten.

x.ai, het bedrijf dat de vergaderplanner Amy heeft gemaakt, stelt je in staat een vergadering op het werk te plannen, of een vriend uit te nodigen voor de basketbalwedstrijd van je kinderen door simpelweg Amy (of haar tegenhanger, Andrew) te e-mailen met je verzoek alsof ze een live persoonlijke assistent. Toch merkt Dennis Mortensen, de CEO van het bedrijf, op dat meer dan 90 procent van de vragen die de helpdesk van het bedrijf ontvangt, verband houden met het feit dat mensen natuurlijke taal proberen te gebruiken met de bots en moeite hebben om goede resultaten te behalen.

Misschien was dat de reden waarom het plannen van een eenvoudige ontmoeting met een nieuwe kennis zo vervelend werd voor professor Swanson, die bleef proberen de spreektaal en conventies uit informele gesprekken te gebruiken. Naast de manier waarop hij praatte, deed hij ook veel volkomen geldige aannames over zijn interactie met Amy. Hij ging ervan uit dat Amy zijn planningsbeperkingen kon begrijpen en dat ‘zij’ uit de context van het gesprek zou kunnen opmaken wat zijn voorkeuren waren. Swanson was informeel en ongedwongen – de bot snapt dat niet. Het begrijpt niet dat wanneer u om de tijd van iemand anders vraagt, vooral als deze u een plezier doet, het niet effectief is om de vergaderlogistiek vaak of plotseling te veranderen. Het blijkt moeilijker dan we denken om terloops met een intelligente robot om te gaan.

Onderzoekers hebben het idee bevestigd dat het beter werkt om machines als machines te behandelen dan te proberen er mens mee te zijn. Stanford-professor Clifford Nass en professor Youngme Moon van de Harvard Business School voerden een reeks onderzoeken uit waarin mensen interactie hadden met antropomorfe computerinterfaces. (Antropomorfisme, of het toekennen van menselijke eigenschappen aan levenloze objecten, is een belangrijk probleem in AI-onderzoek.) Ze ontdekten dat individuen de neiging hebben om menselijke sociale categorieën overmatig te gebruiken, genderstereotypen op computers toe te passen en zich etnisch te identificeren met computeragenten. Hun bevindingen toonden ook aan dat mensen overgeleerd sociaal gedrag vertonen, zoals beleefdheid en wederkerigheid ten opzichte van computers. Belangrijk is dat mensen de neiging hebben om zich met dit gedrag bezig te houden – robots en andere intelligente agenten behandelen alsof het mensen zijn – zelfs als ze weten dat ze met computers communiceren in plaats van met mensen. Het lijkt erop dat onze collectieve drang om met mensen om te gaan vaak doorsijpelt in onze interactie met machines.

Dit probleem van het verwarren van computers met mensen wordt nog verergerd bij interactie met kunstmatige agenten via conversatie-UI's. Neem bijvoorbeeld een onderzoek dat we hebben uitgevoerd bij twee bedrijven die AI-assistenten gebruikten die antwoorden gaven op routinematige zakelijke vragen. Eén gebruikte een antropomorfe AI die mensachtig was. De ander niet.

Werknemers bij het bedrijf die de antropomorfe agent routinematig gebruikten, werden boos op de agent als de agent geen bruikbare antwoorden gaf. Ze zeiden routinematig dingen als: "Hij is klote!" of “Ik zou van hem verwachten dat hij het beter zou doen” als hij verwijst naar de resultaten van de machine. Het allerbelangrijkste was dat hun strategieën om de relaties met de machine te verbeteren een weerspiegeling waren van de strategieën die ze bij andere mensen op kantoor zouden gebruiken. Ze zouden hun vraag beleefder stellen, ze zouden het in andere woorden herformuleren, of ze zouden proberen hun vragen strategisch te timen voor het moment waarop ze dachten dat de agent het, in de termen van één persoon, ‘niet zo druk’ zou hebben. Geen van deze strategieën was bijzonder succesvol.

De werknemers van het andere bedrijf rapporteerden daarentegen een veel grotere tevredenheid over hun ervaring. Ze typten zoektermen in alsof het een computer was en spelden de zaken tot in de kleinste details om er zeker van te zijn dat een AI, die niet ‘tussen de regels door kon lezen’ en nuances kon oppikken, naar hun voorkeuren zou luisteren. De tweede groep merkte regelmatig op hoe verbaasd ze waren als hun vragen nuttige of zelfs verrassende informatie bevatten en ze noteerden eventuele problemen die voortkwamen uit typische computerfouten.

Voor de nabije toekomst zijn de gegevens duidelijk: het behandelen van technologieën – hoe menselijk of intelligent ze ook lijken – als technologieën is de sleutel tot succes bij de interactie met machines. Een groot deel van het probleem is dat ze van gebruikers verwachten dat ze op een menselijke manier zullen reageren, en ze laten ons aannemen dat ze onze bedoelingen kunnen afleiden, terwijl ze geen van beide kunnen doen. Succesvol communiceren met een conversationele gebruikersinterface vereist een digitale mentaliteit die begrijpt dat we nog een eind verwijderd zijn van effectieve mensachtige interactie met de technologie. Als u erkent dat een AI-agent uw bedoelingen niet nauwkeurig kan afleiden, is het belangrijk om elke stap van het proces te beschrijven en duidelijk te zijn over wat u wilt bereiken.