Hitting the Books: Hvorfor vi skal behandle morgendagens robotter som værktøjer

Lad dig ikke påvirke af de dæmpede klartone fra morgendagens AI'er og deres sirenesange af singulariteten. Uanset hvor tæt kunstige intelligenser og androider kan komme til at se ud og opføre sig som mennesker, vil de faktisk aldrig be mennesker, hævder Paul Leonardi, Duca Family Professor of Technology Management ved University of California Santa Barbara, og Tsedal Neeley, Naylor Fitzhugh professor i Business Administration ved Harvard Business School, i deres nye bog Den digitale tankegang: hvad der virkelig skal til for at trives i en tidsalder af data, algoritmer og kunstig intelligens — og bør derfor ikke behandles som mennesker. Parret hævder i uddraget nedenfor, at dette hindrer interaktion med avanceret teknologi og hæmmer dets videre udvikling.

Genoptrykt med tilladelse fra Harvard Business Review Press. Uddrag fra DET DIGITALE MINDSET: Hvad der virkelig skal til for at trives i en tidsalder med data, algoritmer og kunstig intelligens af Paul Leonardi og Tsedal Neeley. Copyright 2022 Harvard Business School Publishing Corporation. Alle rettigheder forbeholdes.

Behandl AI som en maskine, selvom den ser ud til at opføre sig som et menneske

Vi er vant til at interagere med en computer på en visuel måde: knapper, dropdown-lister, skydere og andre funktioner giver os mulighed for at give computeren kommandoer. Fremskridt inden for kunstig intelligens flytter imidlertid vores interaktion med digitale værktøjer til mere naturligt følende og menneskelignende interaktioner. Det, der kaldes en konversationsbrugergrænseflade (UI) giver folk mulighed for at handle med digitale værktøjer gennem at skrive eller tale, det er meget mere måden, vi interagerer med andre mennesker på, som Burt Swansons "samtale" med assistenten Amy. Når du siger "Hej Siri", "Hej Alexa" og "OK Google", er det en samtalebrugergrænseflade. Væksten i værktøjer styret af samtalebrugergrænseflader er svimlende. Hver gang du ringer til et 800-nummer og bliver bedt om at stave dit navn, skal du svare "Ja" eller sige de sidste fire cifre på dit personnummer, du interagerer med en AI, der bruger samtale-UI. Samtalebots er blevet allestedsnærværende, dels fordi de giver god forretningsmæssig mening, og dels fordi de giver os mulighed for at få adgang til tjenester mere effektivt og bekvemt.

For eksempel, hvis du har bestilt en togtur gennem Amtrak, har du sandsynligvis interageret med en AI-chatbot. Dens navn er Julie, og den besvarer mere end 5 millioner spørgsmål årligt fra mere end 30 millioner passagerer. Du kan bestille togrejser med Julie blot ved at sige, hvor du skal hen og hvornår. Julie kan forhåndsudfylde formularer på Amtraks planlægningsværktøj og give vejledning gennem resten af ​​bookingprocessen. Amtrak har set et afkast på 800 procent af deres investering i Julie. Amtrak sparer mere end $1 million i kundeserviceudgifter hvert år ved at bruge Julie til at stille forudsigelige spørgsmål på lavt niveau. Bookinger er steget med 25 procent, og bookinger foretaget gennem Julie genererer 30 procent mere omsætning end bookinger foretaget via hjemmesiden, fordi Julie er god til at opsælge kunder!

En grund til Julies succes er, at Amtrak gør det klart for brugerne, at Julie er en AI-agent, og de fortæller dig, hvorfor de har besluttet at bruge AI i stedet for at forbinde dig direkte med et menneske. Det betyder, at folk orienterer sig efter det som en maskine, ikke fejlagtigt som et menneske. De forventer ikke for meget af det, og de har en tendens til at stille spørgsmål på måder, der fremkalder nyttige svar. Amtraks beslutning kan lyde kontraintuitiv, da mange virksomheder forsøger at udgive deres chatbots som rigtige mennesker, og det ser ud til, at interaktion med en maskine, som om den var et menneske, netop skulle være, hvordan man opnår de bedste resultater. Et digitalt mindset kræver en shift i hvordan vi tænker om vores forhold til maskiner. Selvom de bliver mere menneskelige, er vi nødt til at tænke på dem som maskiner – der kræver eksplicitte instruktioner og fokuseret på snævre opgaver.

x.ai, firmaet, der lavede mødeplanlæggeren Amy, giver dig mulighed for at planlægge et møde på arbejdet eller invitere en ven til dine børns basketballkamp ved blot at sende en e-mail til Amy (eller hendes modpart, Andrew) med din anmodning, som om de var en live personlig assistent. Alligevel bemærker Dennis Mortensen, virksomhedens administrerende direktør, at mere end 90 procent af de henvendelser, som virksomhedens helpdesk modtager, er relateret til, at folk forsøger at bruge naturligt sprog med bots og kæmper for at få gode resultater.

Måske var det derfor, at planlægningen af ​​et simpelt møde med et nyt bekendtskab blev så irriterende for professor Swanson, som blev ved med at forsøge at bruge dagligdags og konventioner fra uformel samtale. Ud over den måde han talte på, gjorde han mange fuldkommen gyldige antagelser om hans interaktion med Amy. Han antog, at Amy kunne forstå hans planlægningsbegrænsninger, og at "hun" ville være i stand til at skelne, hvad hans præferencer var ud fra konteksten af ​​samtalen. Swanson var uformel og afslappet - det forstår botten ikke. Det forstår ikke, at når man beder om en anden persons tid, især hvis de gør dig en tjeneste, er det ikke effektivt ofte eller pludseligt at ændre mødelogistikken. Det viser sig, at det er sværere, end vi tror, ​​at interagere afslappet med en intelligent robot.

Forskere har valideret ideen om, at det virker bedre at behandle maskiner som maskiner end at prøve at være menneske med dem. Stanford-professor Clifford Nass og Harvard Business School-professor Youngme Moon gennemførte en række undersøgelser, hvor mennesker interagerede med antropomorfe computergrænseflader. (Antropomorfisme, eller tildeling af menneskelige egenskaber til livløse genstande, er et stort problem i AI-forskning.) De fandt ud af, at individer har en tendens til at overbruge menneskelige sociale kategorier, anvende kønsstereotyper på computere og etnisk identificere sig med computeragenter. Deres resultater viste også, at folk udviser overlært social adfærd såsom høflighed og gensidighed over for computere. Det er vigtigt, at folk har en tendens til at engagere sig i denne adfærd - behandle robotter og andre intelligente agenter, som om de var mennesker - selv når de ved, at de interagerer med computere i stedet for mennesker. Det lader til, at vores kollektive impuls til at relatere til mennesker ofte kryber ind i vores interaktion med maskiner.

Dette problem med at forveksle computere med mennesker forværres, når man interagerer med kunstige midler via samtalebrugergrænseflader. Tag for eksempel en undersøgelse, vi udførte med to virksomheder, der brugte AI-assistenter, der gav svar på rutinemæssige forretningsforespørgsler. Man brugte en antropomorfiseret AI, der var menneskelignende. Den anden var ikke.

Arbejdere i virksomheden, der brugte det antropomorfe middel, blev rutinemæssigt sure på agenten, når agenten ikke returnerede nyttige svar. De sagde rutinemæssigt ting som: "Han stinker!" eller "Jeg ville forvente, at han gjorde det bedre", når man refererer til resultaterne givet af maskinen. Det vigtigste er, at deres strategier til at forbedre forholdet til maskinen afspejlede strategier, de ville bruge med andre mennesker på kontoret. De ville stille deres spørgsmål mere høfligt, de ville omformulere til andre ord, eller de ville forsøge strategisk at time deres spørgsmål til, hvornår de troede, at agenten ville have "ikke så travlt" i en persons udtryk. Ingen af ​​disse strategier var særlig vellykkede.

I modsætning hertil rapporterede arbejdere i den anden virksomhed meget større tilfredshed med deres oplevelse. De skrev søgetermer, som om det var en computer, og stavede tingene meget detaljeret for at sikre, at en AI, der ikke kunne "læse mellem linjerne" og opfatte nuancer, ville lytte til deres præferencer. Den anden gruppe bemærkede rutinemæssigt, hvor overraskede de var, da deres forespørgsler blev returneret med nyttige eller endda overraskende oplysninger, og de talte om eventuelle problemer, der opstod til typiske fejl med en computer.

I en overskuelig fremtid er dataene klare: at behandle teknologier - uanset hvor menneskelignende eller intelligente de fremstår - som teknologier er nøglen til succes, når de interagerer med maskiner. En stor del af problemet er, at de sætter forventningerne til brugerne om, at de vil reagere på menneskelignende måder, og de får os til at antage, at de kan udlede vores hensigter, når de ikke kan gøre noget af det. At interagere med succes med en samtalebrugergrænseflade kræver en digital tankegang, der forstår, at vi stadig er et stykke væk fra effektiv menneskelignende interaktion med teknologien. At erkende, at en AI-agent ikke nøjagtigt kan udlede dine hensigter, betyder, at det er vigtigt at præcisere hvert trin i processen og være klar over, hvad du ønsker at opnå.