Перегляд книг: чому нам потрібно ставитися до роботів завтрашнього дня як до інструментів

Не піддавайтеся солодким тонам набору завтрашнього штучного інтелекту та їхнім сиренам сингулярності. Незалежно від того, наскільки штучний інтелект і андроїди виглядатимуть і поводитимуться як люди, вони ніколи насправді не be люди, стверджують у своїй новій книзі Пол Леонарді, професор управління технологіями сім’ї Дука в Каліфорнійському університеті Санта-Барбара, і Цедал Нілі, професор бізнес-адміністрування Гарвардської бізнес-школи. Цифрове мислення: що насправді потрібно для процвітання в епоху даних, алгоритмів і ШІ — і тому з ними не слід поводитися як з людьми. У наведеному нижче уривку пара стверджує, що таким чином перешкоджає взаємодії з передовою технологією та перешкоджає її подальшому розвитку.

Передруковано з дозволу Harvard Business Review Press. Витяг із ЦИФРОВЕ МИСЛЕННЯ: що насправді потрібно для процвітання в епоху даних, алгоритмів і ШІ Пола Леонарді та Цедала Нілі. Авторське право 2022 Harvard Business School Publishing Corporation. Всі права захищені.

Ставтеся до ШІ як до машини, навіть якщо здається, що вона діє як людина

Ми звикли взаємодіяти з комп’ютером візуально: кнопки, розкривні списки, повзунки та інші функції дозволяють нам віддавати комп’ютеру команди. Однак прогрес у ШІ переміщує нашу взаємодію з цифровими інструментами до більш природної та людської взаємодії. Те, що називається розмовним користувальницьким інтерфейсом (UI), дає людям можливість працювати з цифровими інструментами шляхом письма чи розмови, що значно більше є способом взаємодії з іншими людьми, як-от «розмова» Берта Свонсона з помічником Емі. Коли ви говорите «Hey Siri», «Hello Alexa» і «OK Google», це розмовний інтерфейс. Ріст інструментів, керованих розмовними інтерфейсами користувача, приголомшливий. Щоразу, коли ви телефонуєте на номер 800 і вас просять назвати своє ім’я, дайте відповідь «Так» або промовте останні чотири цифри свого номера соціального страхування, ви взаємодієте зі штучним інтелектом, який використовує розмовний інтерфейс. Боти для розмови стали повсюдними частково тому, що вони мають хороший бізнес-сенс, а частково тому, що вони дозволяють нам отримувати доступ до послуг ефективніше та зручніше.

Наприклад, якщо ви забронювали поїздку на поїзді через Amtrak, ви, ймовірно, взаємодіяли з чат-ботом ШІ. Його ім'я Джулі, і він відповідає на понад 5 мільйонів запитань щорічно від понад 30 мільйонів пасажирів. Ви можете замовити поїздку залізницею з Джулі, просто сказавши, куди ви їдете і коли. Джулі може попередньо заповнювати форми в інструменті планування Amtrak і надавати вказівки протягом решти процесу бронювання. Компанія Amtrak окупила 800 відсотків своїх інвестицій у Джулі. Компанія Amtrak щороку економить понад 1 мільйон доларів на витратах на обслуговування клієнтів, використовуючи Джулі для постановки передбачуваних запитань низького рівня. Кількість бронювань зросла на 25 відсотків, а бронювання, здійснені через Джулі, приносять на 30 відсотків більше доходу, ніж бронювання, здійснені через веб-сайт, тому що Джулі добре продає клієнтам більше!

Однією з причин успіху Джулі є те, що Amtrak чітко пояснює користувачам, що Джулі є агентом штучного інтелекту, і вони розповідають вам, чому вони вирішили використовувати штучний інтелект, а не зв’язувати вас безпосередньо з людиною. Це означає, що люди орієнтуються на нього як на машину, а не помилково як на людину. Вони не очікують від цього надто багато, і вони, як правило, ставлять запитання таким чином, щоб отримати корисні відповіді. Рішення Amtrak може здатися нерозумним, оскільки багато компаній намагаються видати своїх чат-ботів за реальних людей, і, здавалося б, взаємодія з машиною, наче це людина, має бути саме тим, щоб отримати найкращі результати. Цифрове мислення вимагає a shift у тому, як ми думаємо про наше ставлення до машин. Навіть коли вони стають більш гуманними, ми повинні думати про них як про машини, що вимагають чітких інструкцій і зосереджені на вузьких завданнях.

x.ai, компанія, яка розробила планувальник зустрічей Емі, дає вам змогу запланувати зустріч на роботі або запросити друга на баскетбольний матч ваших дітей, просто надіславши електронний лист Емі (або її колезі, Ендрю) із вашим запитом, наче вони були живий персональний помічник. Проте Денніс Мортенсен, генеральний директор компанії, зауважує, що понад 90 відсотків запитів, які отримує довідкова служба компанії, пов’язані з тим, що люди намагаються використовувати природну мову з ботами та намагаються отримати хороші результати.

Можливо, саме тому планування простої зустрічі з новим знайомим стало таким неприємним для професора Свонсона, який постійно намагався використовувати просторіччя та умовності з неофіційної розмови. Крім того, як він говорив, він зробив багато цілком обґрунтованих припущень щодо своєї взаємодії з Емі. Він припускав, що Емі може зрозуміти його обмеження щодо розкладу, і що «вона» зможе визначити його вподобання з контексту розмови. Свонсон був неформальним і випадковим — бот цього не розуміє. Він не розуміє, що коли ви просите час іншої людини, особливо якщо вона робить вам послугу, неефективно часто або раптово змінювати логістику зустрічі. Виявляється, невимушено взаємодіяти з розумним роботом важче, ніж ми думаємо.

Дослідники підтвердили ідею, що ставлення до машин як до машин працює краще, ніж намагання бути з ними людьми. Професор Стенфордського університету Кліффорд Насс і професор Гарвардської бізнес-школи Янгме Мун провели серію досліджень, під час яких люди взаємодіяли з антропоморфними комп’ютерними інтерфейсами. (Антропоморфізм або присвоєння людських властивостей неживим об’єктам є основною проблемою в дослідженнях штучного інтелекту.) Вони виявили, що люди схильні надмірно використовувати людські соціальні категорії, застосовуючи до комп’ютерів гендерні стереотипи та етнічно ідентифікуючи себе з комп’ютерними агентами. Їхні висновки також показали, що люди демонструють надмірно навчені соціальні поведінки, такі як ввічливість і взаємність по відношенню до комп’ютерів. Важливо те, що люди схильні брати участь у такій поведінці — ставитися до роботів та інших розумних агентів як до людей — навіть коли вони знають, що вони взаємодіють із комп’ютерами, а не з людьми. Здається, що наш колективний імпульс спілкуватися з людьми часто прокрадається до нашої взаємодії з машинами.

Ця проблема помилкового сприйняття комп’ютерів за людей ускладнюється під час взаємодії зі штучними агентами через розмовні інтерфейси користувача. Візьмемо, наприклад, дослідження, яке ми провели з двома компаніями, які використовували помічників AI, які надавали відповіді на рутинні бізнес-запити. Один використовував антропоморфний ШІ, схожий на людину. Іншого не було.

Працівники компанії, які регулярно використовували антропоморфний агент, злилися на агента, коли той не давав корисних відповідей. Вони регулярно казали такі речі, як: «Він відстой!» або «Я б очікував, що він зробить краще», коли йдеться про результати, які дає машина. Найголовніше те, що їхні стратегії покращення стосунків із машиною відображали стратегії, які вони використовували б з іншими людьми в офісі. Вони ставили б своє запитання більш ввічливо, вони б перефразували його іншими словами або вони намагалися б стратегічно розрахувати свої запитання на той момент, коли, на їхню думку, агент, з точки зору однієї людини, буде «не настільки зайнятий». Жодна з цих стратегій не була особливо успішною.

Навпаки, працівники іншої компанії повідомили про набагато більше задоволення своїм досвідом. Вони вводили пошукові терміни так, ніби це був комп’ютер, і описували їх дуже детально, щоб переконатися, що штучний інтелект, який не вміє «читати між рядків» і вловлювати нюанси, прислухається до їхніх уподобань. Друга група регулярно відзначала, наскільки вони були здивовані, коли їхні запити отримували корисну або навіть дивовижну інформацію, і вони відносили будь-які проблеми, що виникали до типових помилок комп’ютера.

У найближчому майбутньому дані очевидні: поводження з технологіями — незалежно від того, наскільки схожими на людину чи розумними вони здаються — подібними до технологій є ключем до успіху під час взаємодії з машинами. Велика частина проблеми полягає в тому, що вони встановлюють очікування для користувачів, що вони відповідатимуть у людський спосіб, і вони змушують нас вважати, що вони можуть зробити висновок про наші наміри, коли вони не можуть зробити ні те, ні інше. Для успішної взаємодії з розмовним інтерфейсом потрібне цифрове мислення, яке розуміє, що ми ще далеко від ефективної людської взаємодії з технологією. Усвідомлення того, що агент штучного інтелекту не може точно визначити ваші наміри, означає, що важливо описати кожен крок процесу та чітко визначити, чого ви хочете досягти.