Hitting the Books : Pourquoi nous devons traiter les robots de demain comme des outils

Ne vous laissez pas influencer par les tonalités douces des IA de demain et leurs chants de sirènes de la singularité. Peu importe à quel point les intelligences artificielles et les androïdes peuvent ressembler et agir comme des humains, ils ne le feront jamais réellement. be les humains, affirment Paul Leonardi, professeur de gestion technologique de la famille Duca à l'Université de Californie à Santa Barbara, et Tsedal Neeley, professeur Naylor Fitzhugh d'administration des affaires à la Harvard Business School, dans leur nouveau livre La mentalité numérique : ce qu'il faut vraiment pour prospérer à l'ère des données, des algorithmes et de l'IA – et ne devrait donc pas être traité comme des humains. Les deux hommes affirment dans l’extrait ci-dessous que, ce faisant, cela entrave l’interaction avec la technologie de pointe et entrave son développement ultérieur.

Réimprimé avec la permission de Harvard Business Review Press. Extrait de L’ESPRIT NUMÉRIQUE : ce qu’il faut vraiment pour prospérer à l’ère des données, des algorithmes et de l’IA par Paul Leonardi et Tsedal Neeley. Copyright 2022 Société d’édition de la Harvard Business School. Tous droits réservés.

Traitez l’IA comme une machine, même si elle semble agir comme un humain

Nous sommes habitués à interagir avec un ordinateur de manière visuelle : des boutons, des listes déroulantes, des curseurs et d’autres fonctionnalités nous permettent de donner des commandes à l’ordinateur. Cependant, les progrès de l’IA font évoluer notre interaction avec les outils numériques vers des interactions plus naturelles et plus humaines. Ce qu'on appelle une interface utilisateur (UI) conversationnelle donne aux gens la possibilité d'agir avec des outils numériques en écrivant ou en parlant, ce qui correspond bien davantage à la façon dont nous interagissons avec d'autres personnes, comme la « conversation » de Burt Swanson avec Amy l'assistante. Lorsque vous dites « Hey Siri », « Bonjour Alexa » et « OK Google », il s'agit d'une interface utilisateur conversationnelle. La croissance des outils contrôlés par les interfaces utilisateur conversationnelles est stupéfiante. Chaque fois que vous appelez un numéro 800 et qu’on vous demande d’épeler votre nom, de répondre « Oui » ou de prononcer les quatre derniers chiffres de votre numéro de sécurité sociale, vous interagissez avec une IA qui utilise une interface utilisateur conversationnelle. Les robots conversationnels sont devenus omniprésents, en partie parce qu’ils sont rentables et en partie parce qu’ils nous permettent d’accéder aux services de manière plus efficace et plus pratique.

Par exemple, si vous avez réservé un voyage en train via Amtrak, vous avez probablement interagi avec un chatbot IA. Son nom est Julie et il répond chaque année à plus de 5 millions de questions de plus de 30 millions de passagers. Vous pouvez réserver un voyage en train avec Julie en disant simplement où vous allez et quand. Julie peut pré-remplir des formulaires sur l'outil de planification d'Amtrak et fournir des conseils tout au long du processus de réservation. Amtrak a constaté un retour sur investissement de 800 % dans Julie. Amtrak économise plus d'un million de dollars en dépenses de service client chaque année en utilisant Julie pour répondre à des questions prévisibles et de bas niveau. Les réservations ont augmenté de 1 % et les réservations effectuées via Julie génèrent 25 % de revenus supplémentaires que les réservations effectuées via le site Web, car Julie est douée pour vendre des clients !

L'une des raisons du succès de Julie est qu'Amtrak indique clairement aux utilisateurs que Julie est un agent IA, et ils vous expliquent pourquoi ils ont décidé d'utiliser l'IA plutôt que de vous connecter directement avec un humain. Cela signifie que les gens le considèrent comme une machine et non comme un être humain. Ils n’en attendent pas grand-chose et ont tendance à poser des questions de manière à obtenir des réponses utiles. La décision d'Amtrak peut sembler contre-intuitive, car de nombreuses entreprises tentent de faire passer leurs chatbots pour de vraies personnes et il semblerait qu'interagir avec une machine comme s'il s'agissait d'un humain devrait être précisément la manière d'obtenir les meilleurs résultats. Une mentalité numérique nécessite un shift dans la façon dont nous pensons notre relation aux machines. Même s’ils deviennent plus humains, nous devons les considérer comme des machines exigeant des instructions explicites et concentrées sur des tâches précises.

x.ai, la société qui a créé le planificateur de réunions Amy, vous permet de planifier une réunion au travail ou d'inviter un ami au match de basket de vos enfants en envoyant simplement un e-mail à Amy (ou à son homologue, Andrew) avec votre demande comme s'il s'agissait d'un assistant personnel en direct. Pourtant, Dennis Mortensen, PDG de l'entreprise, observe que plus de 90 % des demandes reçues par le service d'assistance de l'entreprise sont liées au fait que les gens essaient d'utiliser le langage naturel avec les robots et ont du mal à obtenir de bons résultats.

C'est peut-être pour cette raison que planifier une simple réunion avec une nouvelle connaissance devenait si ennuyeux pour le professeur Swanson, qui continuait d'essayer d'utiliser des expressions familières et des conventions issues de conversations informelles. En plus de la façon dont il parlait, il faisait de nombreuses hypothèses parfaitement valables sur son interaction avec Amy. Il supposait qu'Amy pouvait comprendre ses contraintes d'horaire et qu'« elle » serait capable de discerner quelles étaient ses préférences à partir du contexte de la conversation. Swanson était informel et décontracté – le robot ne comprend pas ça. Il ne comprend pas que lorsque vous demandez du temps à une autre personne, surtout si elle vous rend service, il n'est pas efficace de modifier fréquemment ou soudainement la logistique de la réunion. Il s’avère qu’il est plus difficile qu’on ne le pense d’interagir de manière informelle avec un robot intelligent.

Les chercheurs ont validé l’idée selon laquelle traiter les machines comme des machines fonctionne mieux que d’essayer d’être humain avec elles. Clifford Nass, professeur à Stanford, et Youngme Moon, professeur à la Harvard Business School, ont mené une série d'études dans lesquelles des personnes interagissaient avec des interfaces informatiques anthropomorphes. (L’anthropomorphisme, ou l’attribution d’attributs humains à des objets inanimés, est un problème majeur dans la recherche sur l’IA.) Ils ont découvert que les individus ont tendance à abuser des catégories sociales humaines, en appliquant des stéréotypes de genre aux ordinateurs et en s’identifiant ethniquement aux agents informatiques. Leurs résultats ont également montré que les gens présentent des comportements sociaux surappris tels que la politesse et la réciprocité envers les ordinateurs. Il est important de noter que les gens ont tendance à adopter ces comportements – traiter les robots et autres agents intelligents comme s’ils étaient des personnes – même lorsqu’ils savent qu’ils interagissent avec des ordinateurs plutôt qu’avec des humains. Il semble que notre impulsion collective à interagir avec les gens s’insinue souvent dans notre interaction avec les machines.

Ce problème de confusion entre les ordinateurs et les humains est aggravé lors de l’interaction avec des agents artificiels via des interfaces utilisateur conversationnelles. Prenons par exemple une étude que nous avons menée auprès de deux entreprises qui utilisaient des assistants IA pour fournir des réponses aux requêtes commerciales courantes. L’un d’eux utilisait une IA anthropomorphisée qui ressemblait à un humain. L’autre ne l’était pas.

Les travailleurs de l’entreprise qui utilisaient l’agent anthropomorphe se mettaient régulièrement en colère contre l’agent lorsque celui-ci ne renvoyait pas de réponses utiles. Ils disaient régulièrement des choses comme : « Il est nul ! » ou "Je m'attendrais à ce qu'il fasse mieux" en se référant aux résultats donnés par la machine. Plus important encore, leurs stratégies pour améliorer les relations avec la machine reflétaient celles qu’ils utiliseraient avec d’autres personnes au bureau. Ils posaient leur question plus poliment, ils reformulaient avec des mots différents, ou ils essayaient de planifier stratégiquement leurs questions au moment où ils pensaient que l'agent serait, selon les termes d'une personne, « pas si occupé ». Aucune de ces stratégies n’a été particulièrement efficace.

En revanche, les travailleurs de l’autre entreprise se sont déclarés beaucoup plus satisfaits de leur expérience. Ils tapaient les termes de recherche comme s’il s’agissait d’un ordinateur et épelaient les choses avec beaucoup de détails pour s’assurer qu’une IA, qui ne pouvait pas « lire entre les lignes » et saisir les nuances, tiendrait compte de leurs préférences. Le deuxième groupe remarquait régulièrement à quel point ils étaient surpris lorsque leurs requêtes étaient renvoyées avec des informations utiles, voire surprenantes, et ils attribuaient tous les problèmes qui survenaient à des bogues typiques d'un ordinateur.

Dans un avenir prévisible, les données sont claires : traiter les technologies – aussi humaines ou intelligentes soient-elles – comme des technologies est la clé du succès lors de l’interaction avec les machines. Une grande partie du problème est qu'ils imposent aux utilisateurs des attentes selon lesquelles ils réagiront de manière humaine, et ils nous font supposer qu'ils peuvent déduire nos intentions, alors qu'ils ne peuvent faire ni l'un ni l'autre. Interagir avec succès avec une interface utilisateur conversationnelle nécessite un état d’esprit numérique qui comprend que nous sommes encore loin d’une interaction efficace de type humain avec la technologie. Reconnaître qu'un agent IA ne peut pas déduire avec précision vos intentions signifie qu'il est important de décrire chaque étape du processus et d'être clair sur ce que vous souhaitez accomplir.