Lovirea cărților: de ce trebuie să tratăm roboții de mâine ca pe niște instrumente

Nu vă lăsați influențați de tonurile de apel dulce ale AI-urilor de mâine și de cântecele lor de sirenă ale singularității. Indiferent cât de aproape ar fi inteligența artificială și androizii să arate și să se comporte ca oamenii, ei nu vor be oameni, susțin Paul Leonardi, profesor de management tehnologic al familiei Duca la Universitatea din California Santa Barbara, și Tsedal Neeley, profesor de administrare a afacerilor Naylor Fitzhugh la Harvard Business School, în noua lor carte Mentalitatea digitală: de ce este nevoie cu adevărat pentru a prospera în era datelor, algoritmilor și inteligenței artificiale — și, prin urmare, nu ar trebui tratați ca oamenii. Perechea susține în fragmentul de mai jos că, făcând acest lucru, acestea împiedică interacțiunea cu tehnologia avansată și împiedică dezvoltarea ulterioară a acesteia.

Retipărit cu permisiunea Harvard Business Review Press. Extras din MENTALITATEA DIGITALĂ: Ce este nevoie cu adevărat pentru a prospera în era datelor, algoritmilor și inteligenței artificiale de Paul Leonardi și Tsedal Neeley. Drepturi de autor 2022 Harvard Business School Publishing Corporation. Toate drepturile rezervate.

Tratează AI ca pe o mașină, chiar dacă pare să se comporte ca un om

Suntem obișnuiți să interacționăm cu un computer într-un mod vizual: butoanele, listele drop-down, glisoarele și alte caracteristici ne permit să dăm comenzi computerului. Cu toate acestea, progresele în domeniul inteligenței artificiale mută interacțiunea noastră cu instrumentele digitale către interacțiuni mai naturale și mai asemănătoare cu oamenii. Ceea ce se numește interfață de utilizator conversațională (UI) oferă oamenilor posibilitatea de a acționa cu instrumente digitale prin scriere sau vorbire, care este mult mai mult modul în care interacționăm cu alți oameni, cum ar fi „conversația” lui Burt Swanson cu asistentul Amy. Când spui „Hei Siri”, „Bună Alexa” și „OK Google”, aceasta este o interfață de utilizare conversațională. Creșterea instrumentelor controlate de interfețele de utilizator conversaționale este uluitoare. De fiecare dată când apelați un număr 800 și vi se cere să vă scrieți numele, răspundeți „Da” sau rostiți ultimele patru numere ale numărului dvs. de securitate socială, interacționați cu un AI care utilizează interfața de utilizare conversațională. Boții conversaționali au devenit omniprezenti, în parte pentru că au sens comercial și în parte pentru că ne permit să accesăm servicii mai eficient și mai convenabil.

De exemplu, dacă ați rezervat o călătorie cu trenul prin Amtrak, probabil că ați interacționat cu un chatbot AI. Numele său este Julie și răspunde la peste 5 milioane de întrebări anual de la peste 30 de milioane de pasageri. Puteți rezerva călătorii cu trenul cu Julie doar spunând unde mergeți și când. Julie poate completa formulare în avans cu instrumentul de programare Amtrak și poate oferi îndrumări în restul procesului de rezervare. Amtrak a înregistrat o rentabilitate de 800% a investiției lor în Julie. Amtrak economisește peste 1 milion de dolari în cheltuieli de servicii pentru clienți în fiecare an, folosind Julie pentru a răspunde întrebărilor previzibile de nivel scăzut. Rezervările au crescut cu 25 la sută, iar rezervările efectuate prin Julie generează cu 30 la sută mai multe venituri decât rezervările efectuate prin intermediul site-ului web, deoarece Julie se pricepe la vânzări superioare de clienți!

Unul dintre motivele pentru succesul lui Julie este că Amtrak le explică utilizatorilor că Julie este un agent AI și vă spun de ce au decis să folosească AI în loc să vă conecteze direct cu un om. Asta înseamnă că oamenii se orientează spre ea ca o mașină, nu în mod greșit ca un om. Nu se așteaptă prea mult de la ea și tind să pună întrebări în moduri care aduc răspunsuri utile. Decizia lui Amtrak poate suna contraintuitivă, deoarece multe companii încearcă să-și dezvăluie chatbot-urile drept oameni reali și s-ar părea că interacțiunea cu o mașină ca și cum ar fi un om ar trebui să fie exact modul de a obține cele mai bune rezultate. O mentalitate digitală necesită a shift în modul în care ne gândim la relația noastră cu mașinile. Chiar dacă devin mai omenești, trebuie să ne gândim la ele ca la niște mașini – care necesită instrucțiuni explicite și se concentrează pe sarcini înguste.

x.ai, compania care a creat programatorul de întâlniri Amy, vă permite să programați o întâlnire la serviciu sau să invitați un prieten la meciul de baschet al copiilor dvs. trimițând pur și simplu un e-mail lui Amy (sau omologului ei, Andrew) cu cererea dvs., ca și cum ar fi un asistent personal viu. Cu toate acestea, Dennis Mortensen, CEO-ul companiei, observă că peste 90% dintre întrebările primite de biroul de asistență al companiei sunt legate de faptul că oamenii încearcă să folosească limbajul natural cu roboții și se străduiesc să obțină rezultate bune.

Poate de aceea programarea unei simple întâlniri cu o nouă cunoștință a devenit atât de enervant pentru profesorul Swanson, care a tot încercat să folosească colocvialisme și convenții din conversația informală. Pe lângă felul în care vorbea, a făcut multe presupuneri perfect valide despre interacțiunea lui cu Amy. El a presupus că Amy ar putea să-și înțeleagă constrângerile de programare și că „ea” va putea discerne care sunt preferințele lui din contextul conversației. Swanson a fost informal și ocazional – botul nu înțelege asta. Nu înțelege că atunci când cereți timpul altei persoane, mai ales dacă vă face o favoare, nu este eficient să schimbați frecvent sau brusc logistica întâlnirii. Se pare că este mai greu decât credem să interacționezi lejer cu un robot inteligent.

Cercetătorii au validat ideea că a trata mașinile ca pe mașini funcționează mai bine decât a încerca să fii om cu ele. Profesorul de la Stanford Clifford Nass și profesorul de la Harvard Business School Youngme Moon au condus o serie de studii în care oamenii au interacționat cu interfețe antropomorfe ale computerelor. (Antropomorfismul, sau atribuirea atributelor umane obiectelor neînsuflețite, este o problemă majoră în cercetarea AI.) Ei au descoperit că indivizii tind să utilizeze excesiv categoriile sociale umane, aplicând stereotipuri de gen computerelor și identificându-se etnic cu agenții informatici. Descoperirile lor au arătat, de asemenea, că oamenii prezintă comportamente sociale supraînvățate, cum ar fi politețea și reciprocitatea față de computere. Important este că oamenii tind să se implice în aceste comportamente - tratând roboții și alți agenți inteligenți ca și cum ar fi oameni - chiar și atunci când știu că interacționează cu computerele, mai degrabă decât cu oamenii. Se pare că impulsul nostru colectiv de a relaționa cu oamenii se strecoară adesea în interacțiunea noastră cu mașinile.

Această problemă de a confunda computerele cu oameni este agravată atunci când interacționați cu agenți artificiali prin interfețele de utilizator conversaționale. Să luăm, de exemplu, un studiu pe care l-am efectuat cu două companii care au folosit asistenți AI care au oferit răspunsuri la întrebările de rutină de afaceri. Unul a folosit o IA antropomorfizată, asemănătoare omului. Celălalt nu era.

Lucrătorii de la compania care foloseau agentul antropomorf în mod obișnuit s-au supărat pe agent atunci când acesta nu a returnat răspunsuri utile. Ei spuneau în mod obișnuit lucruri de genul „Este nasol!” sau „M-aș aștepta să se descurce mai bine” când se referă la rezultatele date de mașină. Cel mai important, strategiile lor de a îmbunătăți relațiile cu mașina au reflectat strategiile pe care le-ar folosi cu alți oameni de la birou. Își puneau întrebarea mai politicos, o reformulau în cuvinte diferite sau încercau să-și cronometreze strategic întrebările pentru momentul în care credeau că agentul va fi, în termenii unei singure persoane, „nu atât de ocupat”. Niciuna dintre aceste strategii nu a avut un succes deosebit.

În schimb, lucrătorii de la cealaltă companie au raportat mult mai multă satisfacție cu experiența lor. Ei au tastat în termeni de căutare ca și cum ar fi un computer și au explicat lucrurile în detaliu pentru a se asigura că un AI, care nu putea „să citească printre rânduri” și să capteze nuanțe, le va ține seama de preferințele. Al doilea grup a remarcat în mod obișnuit cât de surprinși au fost atunci când interogările lor au fost returnate cu informații utile sau chiar surprinzătoare și a atribuit orice probleme care au apărut la erori tipice cu un computer.

Pentru viitorul previzibil, datele sunt clare: tratarea tehnologiilor – indiferent cât de asemănătoare oamenilor sau de inteligente par ele – tehnologii similare este cheia succesului atunci când interacționați cu mașinile. O mare parte a problemei este că ei stabilesc așteptările utilizatorilor că vor răspunde în moduri asemănătoare oamenilor și ne fac să presupunem că ne pot deduce intențiile, atunci când nu pot face niciuna dintre ele. Interacțiunea cu succes cu o interfață de utilizare conversațională necesită o mentalitate digitală care să înțeleagă că suntem încă la câteva distanțe de interacțiunea umană eficientă cu tehnologia. Recunoașterea faptului că un agent AI nu poate deduce cu exactitate intențiile dvs. înseamnă că este important să precizați fiecare pas al procesului și să fiți clar ce doriți să realizați.