Hitting the Books: Dlaczego musimy traktować roboty jutra jak narzędzia

Nie dajcie się zwieść słodkim sygnałom wybierania przyszłych AI i ich syrenim pieśniom osobliwości. Nieważne, jak bardzo sztuczne inteligencje i androidy będą wyglądać i zachowywać się jak ludzie, nigdy tak naprawdę nie będą be ludźmi – argumentują Paul Leonardi, profesor zarządzania technologią w rodzinie Duca na Uniwersytecie Kalifornijskim w Santa Barbara i Tsedal Neeley, profesor administracji biznesu Naylor Fitzhugh w Harvard Business School w swojej nowej książce Cyfrowy sposób myślenia: czego naprawdę potrzeba, aby odnieść sukces w dobie danych, algorytmów i sztucznej inteligencji — i dlatego nie należy ich traktować jak ludzi. W poniższym fragmencie para twierdzi, że utrudnia to interakcję z zaawansowaną technologią i utrudnia jej dalszy rozwój.

Przedruk za zgodą Harvard Business Review Press. Wyciąg z CYFROWY SPOSÓB MYŚLENIA: czego naprawdę potrzeba, aby odnieść sukces w epoce danych, algorytmów i sztucznej inteligencji autorstwa Paula Leonardiego i Tsedala Neeleya. Prawa autorskie 2022 Harvard Business School Publishing Corporation. Wszelkie prawa zastrzeżone.

Traktuj sztuczną inteligencję jak maszynę, nawet jeśli wydaje się, że zachowuje się jak człowiek

Jesteśmy przyzwyczajeni do interakcji z komputerem w sposób wizualny: przyciski, listy rozwijane, suwaki i inne funkcje pozwalają nam wydawać polecenia komputerowi. Jednak postępy w sztucznej inteligencji przenoszą naszą interakcję z narzędziami cyfrowymi do interakcji bardziej naturalnych i przypominających ludzkie. Tak zwany konwersacyjny interfejs użytkownika (UI) umożliwia użytkownikom korzystanie z narzędzi cyfrowych poprzez pisanie lub mówienie. W znacznie większym stopniu przypomina to interakcję z innymi ludźmi, jak „rozmowa” Burta Swansona z asystentką Amy. Kiedy powiesz „Hej Siri”, „Witaj Alexa” i „OK Google”, jest to interfejs konwersacyjny. Rozwój narzędzi kontrolowanych przez konwersacyjne interfejsy użytkownika jest oszałamiający. Za każdym razem, gdy dzwonisz pod numer 800 i jesteś proszony o przeliterowanie swojego imienia, odpowiedzi „Tak” lub wypowiedzenie czterech ostatnich cyfr swojego numeru ubezpieczenia społecznego, wchodzisz w interakcję z sztuczną inteligencją korzystającą z konwersacyjnego interfejsu użytkownika. Boty konwersacyjne stały się wszechobecne po części dlatego, że mają sens biznesowy, a po części dlatego, że umożliwiają nam wydajniejszy i wygodniejszy dostęp do usług.

Na przykład, jeśli zarezerwowałeś podróż pociągiem przez Amtrak, prawdopodobnie miałeś kontakt z chatbotem AI. Nazywa się Julie i odpowiada na ponad 5 milionów pytań rocznie od ponad 30 milionów pasażerów. Możesz zarezerwować podróż koleją u Julie, po prostu mówiąc, dokąd jedziesz i kiedy. Julie może wstępnie wypełnić formularze w narzędziu do planowania podróży Amtrak i udzielić wskazówek przez resztę procesu rezerwacji. Amtrak zaobserwował 800-procentowy zwrot z inwestycji w Julie. Amtrak oszczędza co roku ponad 1 milion dolarów na wydatkach na obsługę klienta, korzystając z pomocy Julie do zadawania przewidywalnych pytań na niskim poziomie. Rezerwacje wzrosły o 25 procent, a rezerwacje dokonane za pośrednictwem Julie generują o 30 procent więcej przychodów niż rezerwacje dokonane za pośrednictwem strony internetowej, ponieważ Julie jest dobra w zwiększaniu sprzedaży klientów!

Jednym z powodów sukcesu Julie jest to, że Amtrak wyjaśnia użytkownikom, że Julie jest agentką AI, i wyjaśnia, dlaczego zdecydowali się użyć sztucznej inteligencji, zamiast łączyć Cię bezpośrednio z człowiekiem. Oznacza to, że ludzie traktują go jak maszynę, a nie błędnie człowieka. Nie oczekują od niego zbyt wiele i mają tendencję do zadawania pytań w sposób, który pozwala uzyskać pomocne odpowiedzi. Decyzja Amtraka może wydawać się sprzeczna z intuicją, ponieważ wiele firm próbuje udawać swoje chatboty jako prawdziwych ludzi i wydaje się, że interakcja z maszyną tak, jakby to był człowiek, powinna być właśnie sposobem na uzyskanie najlepszych wyników. Cyfrowe nastawienie wymaga: shift w tym, jak myślimy o naszym stosunku do maszyn. Nawet gdy staną się bardziej humanitarne, musimy myśleć o nich jak o maszynach – wymagających wyraźnych instrukcji i skupiających się na wąskich zadaniach.

x.ai, firma, która stworzyła narzędzie do planowania spotkań Amy, umożliwia zaplanowanie spotkania w pracy lub zaproszenie przyjaciela na mecz koszykówki Twoich dzieci, po prostu wysyłając e-mail do Amy (lub jej odpowiednika, Andrew) z prośbą o kontakt tak, jakby był to osobisty asystent na żywo. Jednak Dennis Mortensen, dyrektor generalny firmy, zauważa, że ​​ponad 90 procent zapytań otrzymywanych przez dział pomocy technicznej firmy wynika z faktu, że ludzie próbują używać języka naturalnego w obsłudze botów i mają trudności z uzyskaniem dobrych wyników.

Być może dlatego umawianie się na proste spotkanie z nowym znajomym tak bardzo irytowało profesora Swansona, który cały czas próbował posługiwać się kolokwializmem i konwencjami z nieformalnych rozmów. Oprócz sposobu, w jaki mówił, przyjął wiele całkowicie uzasadnionych założeń na temat swojej interakcji z Amy. Zakładał, że Amy rozumie jego ograniczenia w zakresie harmonogramu i że „ona” będzie w stanie rozpoznać jego preferencje z kontekstu rozmowy. Swanson zachowywał się nieformalnie i swobodnie – bot tego nie rozumie. Nie rozumie, że prosząc drugą osobę o czas, zwłaszcza jeśli wyświadcza ci przysługę, nieskuteczne jest częste lub nagłe zmienianie logistyki spotkania. Okazuje się, że swobodna interakcja z inteligentnym robotem jest trudniejsza, niż nam się wydaje.

Naukowcy potwierdzili pogląd, że traktowanie maszyn jak maszyny działa lepiej niż próba bycia z nimi człowiekiem. Profesor Stanforda Clifford Nass i profesor Harvard Business School Youngme Moon przeprowadzili serię badań, w których ludzie wchodzili w interakcję z antropomorficznymi interfejsami komputerowymi. (Antropomorfizm, czyli przypisywanie ludzkich cech obiektom nieożywionym, to główny problem badań nad sztuczną inteligencją). Odkryli, że jednostki mają tendencję do nadużywania ludzkich kategorii społecznych, stosowania stereotypów płciowych do komputerów i identyfikowania się etnicznie z agentami komputerowymi. Odkrycia wykazały również, że ludzie wykazują przesadnie wyuczone zachowania społeczne, takie jak uprzejmość i wzajemność w stosunku do komputerów. Co ważne, ludzie mają tendencję do angażowania się w takie zachowania – traktując roboty i inne inteligentne agenty tak, jakby były ludźmi – nawet jeśli wiedzą, że wchodzą w interakcję z komputerami, a nie z ludźmi. Wygląda na to, że nasz zbiorowy impuls do nawiązania kontaktu z ludźmi często wkrada się w naszą interakcję z maszynami.

Problem polegający na myleniu komputerów z ludźmi pogłębia się w przypadku interakcji ze sztucznymi agentami za pośrednictwem konwersacyjnych interfejsów użytkownika. Weźmy na przykład badanie, które przeprowadziliśmy z dwiema firmami, które korzystały z asystentów AI, którzy udzielali odpowiedzi na rutynowe zapytania biznesowe. Jeden z nich wykorzystywał antropomorficzną sztuczną inteligencję przypominającą człowieka. Drugi nie był.

Pracownicy firmy, którzy używali agenta antropomorficznego, rutynowo wściekali się na agenta, gdy ten nie zwracał przydatnych odpowiedzi. Rutynowo mówili takie rzeczy jak: „On jest do bani!” lub „Spodziewałbym się, że poradzi sobie lepiej”, odnosząc się do wyników uzyskanych przez maszynę. Co najważniejsze, ich strategie poprawy relacji z maszyną odzwierciedlały strategie, które stosowaliby w stosunku do innych osób w biurze. Zadawali pytania bardziej uprzejmie, formułowali je innymi słowami lub starali się strategicznie zaplanować swoje pytania w czasie, kiedy sądzili, że agent będzie, mówiąc jedną osobą, „niezbyt zajęty”. Żadna z tych strategii nie była szczególnie skuteczna.

Natomiast pracownicy drugiej firmy zgłaszali znacznie większe zadowolenie ze swojego doświadczenia. Wpisali wyszukiwane hasła tak, jakby to był komputer, i szczegółowo opisali wszystko, aby mieć pewność, że sztuczna inteligencja, która nie potrafi „czytać między wierszami” i wychwytywać niuanse, zastosuje się do ich preferencji. Druga grupa rutynowo zauważała, jak bardzo była zaskoczona, gdy na ich zapytania otrzymywano przydatne, a nawet zaskakujące informacje, i wypisywała wszelkie problemy wynikające z typowych błędów w komputerze.

Dane na najbliższą przyszłość są jasne: traktowanie technologii – niezależnie od tego, jak bardzo przypominają człowieka lub wydają się inteligentne – jak technologie, jest kluczem do sukcesu w interakcji z maszynami. Główną częścią problemu jest to, że stawiają użytkownikom oczekiwania, że ​​zareagują w sposób ludzki, i każą nam zakładać, że mogą wywnioskować nasze intencje, podczas gdy nie mogą tego zrobić. Skuteczna interakcja z konwersacyjnym interfejsem użytkownika wymaga cyfrowego sposobu myślenia, który rozumie, że wciąż jesteśmy daleko od skutecznej interakcji z technologią na poziomie człowieka. Świadomość, że agent sztucznej inteligencji nie jest w stanie dokładnie wywnioskować Twoich zamiarów, oznacza, że ​​ważne jest, aby szczegółowo opisać każdy etap procesu i jasno określić, co chcesz osiągnąć.