Hitting the Books: Hvorfor vi trenger å behandle morgendagens roboter som verktøy

Ikke la deg påvirke av de dystre summetonene til morgendagens AI-er og deres sirenesanger av singularitet. Uansett hvor nært kunstig intelligens og androider kan komme til å se ut og oppføre seg som mennesker, vil de faktisk aldri be mennesker, argumenterer Paul Leonardi, Duca familieprofessor i teknologiledelse ved University of California Santa Barbara, og Tsedal Neeley, Naylor Fitzhugh professor i forretningsadministrasjon ved Harvard Business School, i sin nye bok Den digitale tankegangen: hva det virkelig skal til for å trives i en tidsalder av data, algoritmer og kunstig intelligens — og bør derfor ikke behandles som mennesker. Paret hevder i utdraget nedenfor at dette hindrer interaksjon med avansert teknologi og hindrer dens videre utvikling.

Gjengitt med tillatelse fra Harvard Business Review Press. Utdrag fra DET DIGITALTE TANKESETT: Hva det virkelig trengs for å trives i en tidsalder av data, algoritmer og kunstig intelligens av Paul Leonardi og Tsedal Neeley. Copyright 2022 Harvard Business School Publishing Corporation. Alle rettigheter forbeholdt.

Behandle kunstig intelligens som en maskin, selv om den virker som et menneske

Vi er vant til å samhandle med en datamaskin på en visuell måte: knapper, rullegardinlister, skyveknapper og andre funksjoner lar oss gi datamaskinen kommandoer. Fremskritt innen AI flytter imidlertid vår interaksjon med digitale verktøy til mer naturlig følelse og menneskelignende interaksjoner. Det som kalles et konversasjonsbrukergrensesnitt (UI) gir folk muligheten til å handle med digitale verktøy gjennom å skrive eller snakke, det er mye mer måten vi samhandler med andre mennesker på, som Burt Swansons "samtale" med Amy assistenten. Når du sier «Hei Siri», «Hei Alexa» og «OK Google», er det et brukergrensesnitt for samtale. Veksten av verktøy kontrollert av konversasjonsgrensesnitt er svimlende. Hver gang du ringer et 800-nummer og blir bedt om å stave navnet ditt, svar "Ja" eller si de fire siste tallene i personnummeret ditt, samhandler du med en AI som bruker konversasjonsgrensesnitt. Samtaleroboter har blitt allestedsnærværende delvis fordi de gir god forretningssans, og delvis fordi de lar oss få tilgang til tjenester mer effektivt og mer praktisk.

For eksempel, hvis du har bestilt en togtur gjennom Amtrak, har du sannsynligvis samhandlet med en AI-chatbot. Den heter Julie, og den svarer på mer enn 5 millioner spørsmål årlig fra mer enn 30 millioner passasjerer. Du kan bestille togreise med Julie bare ved å si hvor du skal og når. Julie kan forhåndsutfylle skjemaer på Amtraks planleggingsverktøy og gi veiledning gjennom resten av bestillingsprosessen. Amtrak har sett en 800 prosent avkastning på investeringen deres i Julie. Amtrak sparer mer enn 1 million dollar i kundeserviceutgifter hvert år ved å bruke Julie til å stille forutsigbare spørsmål på lavt nivå. Bestillingene har økt med 25 prosent, og bestillinger gjort gjennom Julie genererer 30 prosent mer inntekter enn bestillinger som gjøres via nettsiden, fordi Julie er flink til å oppselge kunder!

En grunn til Julies suksess er at Amtrak gjør det klart for brukerne at Julie er en AI-agent, og de forteller deg hvorfor de har bestemt seg for å bruke AI i stedet for å koble deg direkte til et menneske. Det betyr at folk orienterer seg mot det som en maskin, ikke feilaktig som et menneske. De forventer ikke for mye av det, og de har en tendens til å stille spørsmål på måter som gir nyttige svar. Amtraks avgjørelse kan høres motintuitiv ut, siden mange selskaper prøver å utgi chatbotene sine som ekte mennesker, og det ser ut til at det å samhandle med en maskin som om det var et menneske burde være nøyaktig hvordan man får de beste resultatene. En digital tankegang krever en shift i hvordan vi tenker om forholdet vårt til maskiner. Selv når de blir mer menneskelige, må vi tenke på dem som maskiner – som krever eksplisitte instruksjoner og fokusert på smale oppgaver.

x.ai, selskapet som laget møteplanleggeren Amy, lar deg planlegge et møte på jobben, eller invitere en venn til barnas basketballkamp ved å sende en e-post til Amy (eller hennes motpart, Andrew) med forespørselen din som om de var en live personlig assistent. Likevel observerer Dennis Mortensen, selskapets administrerende direktør, at mer enn 90 prosent av henvendelsene som selskapets helpdesk mottar, er knyttet til det faktum at folk prøver å bruke naturlig språk med robotene og sliter med å få gode resultater.

Kanskje det var derfor det å planlegge et enkelt møte med et nytt bekjentskap ble så irriterende for professor Swanson, som fortsatte å prøve å bruke samtaler og konvensjoner fra uformell samtale. I tillegg til måten han snakket på, gjorde han mange helt gyldige antakelser om samspillet med Amy. Han antok at Amy kunne forstå planleggingsbegrensningene hans og at "hun" ville være i stand til å skjelne hva hans preferanser var fra konteksten til samtalen. Swanson var uformell og uformell - roboten forstår det ikke. Det forstår ikke at når du ber om en annen persons tid, spesielt hvis de gjør deg en tjeneste, er det ikke effektivt å ofte eller plutselig endre møtelogistikken. Det viser seg at det er vanskeligere enn vi tror å samhandle tilfeldig med en intelligent robot.

Forskere har validert ideen om at det å behandle maskiner som maskiner fungerer bedre enn å prøve å være menneske med dem. Stanford-professor Clifford Nass og Harvard Business School-professor Youngme Moon gjennomførte en serie studier der mennesker samhandlet med antropomorfe datamaskingrensesnitt. (Antropomorfisme, eller å tildele menneskelige attributter til livløse objekter, er et stort problem i AI-forskningen.) De fant ut at individer har en tendens til å overbruke menneskelige sosiale kategorier, bruke kjønnsstereotypier på datamaskiner og etnisk identifisere seg med dataagenter. Funnene deres viste også at folk viser overlært sosial atferd som høflighet og gjensidighet mot datamaskiner. Viktigere, folk har en tendens til å engasjere seg i denne atferden – behandle roboter og andre intelligente agenter som om de var mennesker – selv når de vet at de samhandler med datamaskiner, i stedet for mennesker. Det ser ut til at vår kollektive impuls til å forholde seg til mennesker ofte kryper inn i vår interaksjon med maskiner.

Dette problemet med å forveksle datamaskiner med mennesker blir forsterket når man samhandler med kunstige midler via konversasjonsgrensesnitt. Ta for eksempel en studie vi utførte med to selskaper som brukte AI-assistenter som ga svar på rutinemessige forretningsspørsmål. En brukte en antropomorfisert AI som var menneskelignende. Den andre var ikke det.

Arbeidere ved selskapet som brukte det antropomorfe middelet ble rutinemessig sinte på agenten når agenten ikke ga nyttige svar. De sa rutinemessig ting som "Han suger!" eller "Jeg forventer at han skal gjøre det bedre" når det refereres til resultatene gitt av maskinen. Det viktigste er at deres strategier for å forbedre forholdet til maskinen speilet strategier de ville brukt med andre på kontoret. De ville stille spørsmålet sitt mer høflig, de ville omformulere til andre ord, eller de ville prøve å strategisk time spørsmålene deres for når de trodde agenten ville være, i en persons termer, "ikke så opptatt." Ingen av disse strategiene var spesielt vellykkede.

I motsetning til dette rapporterte arbeidere ved det andre selskapet mye større tilfredshet med opplevelsen. De skrev inn søkeord som om det var en datamaskin og stavet ting ut i detalj for å sikre at en AI, som ikke kunne "lese mellom linjene" og fange opp nyanser, ville følge deres preferanser. Den andre gruppen bemerket rutinemessig hvor overrasket de ble når forespørslene deres ble returnert med nyttig eller til og med overraskende informasjon, og de kalkulerte opp eventuelle problemer som oppsto til typiske feil med en datamaskin.

I overskuelig fremtid er dataene klare: å behandle teknologier – uansett hvor menneskelignende eller intelligente de fremstår – som teknologier er nøkkelen til suksess når man samhandler med maskiner. En stor del av problemet er at de setter forventningene til brukerne om at de vil reagere på menneskelignende måter, og de får oss til å anta at de kan utlede intensjonene våre, når de ikke kan gjøre noe av det. Vellykket interaksjon med et konversasjonsgrensesnitt krever en digital tankegang som forstår at vi fortsatt er et stykke unna effektiv menneskelignende interaksjon med teknologien. Å erkjenne at en AI-agent ikke kan utlede intensjonene dine nøyaktig, betyr at det er viktig å forklare hvert trinn i prosessen og være tydelig på hva du ønsker å oppnå.