Попадание в книги: почему мы должны относиться к роботам завтрашнего дня как к инструментам

Не поддавайтесь на сладкие гудки ИИ завтрашнего дня и их песни сирен сингулярности. Независимо от того, насколько искусственный интеллект и андроиды могут выглядеть и вести себя как люди, на самом деле они никогда не будут be люди, утверждают Пол Леонарди, семейный профессор управления технологиями Дука в Калифорнийском университете в Санта-Барбаре, и Цедал Нили, профессор делового администрирования Нейлора Фитцхью в Гарвардской школе бизнеса, в своей новой книге Цифровое мышление: что на самом деле нужно для процветания в эпоху данных, алгоритмов и искусственного интеллекта — и поэтому не следует относиться к ним как к людям. В приведенном ниже отрывке пара утверждает, что это препятствует взаимодействию с передовыми технологиями и препятствует их дальнейшему развитию.

Перепечатано с разрешения Harvard Business Review Press. Выдержки из ЦИФРОВОЕ МЫШЛЕНИЕ: что на самом деле нужно для процветания в эпоху данных, алгоритмов и искусственного интеллекта Пол Леонарди и Цедал Нили. Copyright 2022 Издательская корпорация Гарвардской школы бизнеса. Все права защищены.

Относитесь к ИИ как к машине, даже если кажется, что он ведет себя как человек

Мы привыкли взаимодействовать с компьютером визуально: кнопки, выпадающие списки, ползунки и другие функции позволяют нам отдавать компьютеру команды. Тем не менее, достижения в области искусственного интеллекта переводят наше взаимодействие с цифровыми инструментами в более естественное и человеческое взаимодействие. То, что называется диалоговым пользовательским интерфейсом (UI), дает людям возможность действовать с цифровыми инструментами посредством письма или разговора, что гораздо больше похоже на то, как мы взаимодействуем с другими людьми, как «разговор» Берта Суонсона с Эми-ассистенткой. Когда вы говорите «Привет, Siri», «Привет, Алекса» и «ОК, Google», это диалоговый пользовательский интерфейс. Рост инструментов, управляемых диалоговыми пользовательскими интерфейсами, ошеломляет. Каждый раз, когда вы звоните по номеру 800 и вас просят назвать свое имя по буквам, отвечайте «Да» или произносите последние четыре цифры своего номера социального страхования, вы взаимодействуете с ИИ, который использует диалоговый пользовательский интерфейс. Разговорные боты стали повсеместными отчасти потому, что они выгодны для бизнеса, а отчасти потому, что они позволяют нам более эффективно и удобно получать доступ к услугам.

Например, если вы забронировали поездку на поезде через Amtrak, вы, вероятно, взаимодействовали с чат-ботом с искусственным интеллектом. Его зовут Джули, и ежегодно он отвечает более чем на 5 миллионов вопросов от более чем 30 миллионов пассажиров. Вы можете забронировать поездку на поезде с Джули, просто сказав, куда и когда вы едете. Джули может предварительно заполнить формы в инструменте планирования Amtrak и дать рекомендации по остальной части процесса бронирования. Компания Amtrak получила 800-процентную отдачу от своих инвестиций в Джули. Amtrak ежегодно экономит более 1 миллиона долларов на обслуживании клиентов, используя Джули для ответов на простые и предсказуемые вопросы. Количество бронирований увеличилось на 25 процентов, а заказы, сделанные через Джулию, приносят на 30 процентов больше дохода, чем заказы, сделанные через веб-сайт, потому что Джули умеет продавать клиентам больше!

Одна из причин успеха Джули заключается в том, что Amtrak дает понять пользователям, что Джули — агент ИИ, и они объясняют вам, почему они решили использовать ИИ, а не связывать вас напрямую с человеком. Это значит, что люди ориентируются на него как на машину, а не ошибочно как на человека. Они не ожидают от него слишком многого и склонны задавать вопросы таким образом, чтобы получить полезные ответы. Решение Amtrak может показаться нелогичным, поскольку многие компании пытаются выдать своих чат-ботов за реальных людей, и кажется, что взаимодействие с машиной, как если бы это был человек, должно быть именно тем, как получить наилучшие результаты. Цифровое мышление требует shift в том, как мы думаем о наших отношениях с машинами. Даже когда они становятся более человечными, нам нужно думать о них как о машинах, требующих четких инструкций и сосредоточенных на узких задачах.

x.ai, компания, которая создала планировщик встреч Эми, позволяет вам запланировать встречу на работе или пригласить друга на баскетбольный матч ваших детей, просто написав Эми (или ее коллеге Эндрю) по электронной почте с вашим запросом, как если бы они были живой личный помощник. Тем не менее Деннис Мортенсен, генеральный директор компании, отмечает, что более 90 процентов запросов, которые получает служба поддержки компании, связаны с тем фактом, что люди пытаются использовать естественный язык с ботами и изо всех сил пытаются получить хорошие результаты.

Возможно, именно поэтому назначение простой встречи с новым знакомым так раздражало профессора Суонсона, который то и дело пытался использовать разговорные выражения и условности из неформальной беседы. В дополнение к тому, как он говорил, он сделал много совершенно обоснованных предположений о своем общении с Эми. Он полагал, что Эми могла понять его ограничения в расписании и что «она» сможет определить его предпочтения из контекста разговора. Суонсон был неформальным и небрежным — бот этого не понимает. Он не понимает, что, когда вы просите у другого человека время, особенно если он делает вам одолжение, часто или внезапно менять логистику встречи неэффективно. Оказывается, небрежно взаимодействовать с интеллектуальным роботом сложнее, чем мы думаем.

Исследователи подтвердили идею о том, что обращение с машинами как с машинами работает лучше, чем попытки быть с ними людьми. Профессор Стэнфорда Клиффорд Насс и профессор Гарвардской школы бизнеса Янгми Мун провели серию исследований, в ходе которых люди взаимодействовали с антропоморфными компьютерными интерфейсами. (Антропоморфизм, или присвоение неодушевленным объектам человеческих качеств, является серьезной проблемой в исследованиях ИИ.) Они обнаружили, что люди склонны злоупотреблять человеческими социальными категориями, применяя гендерные стереотипы к компьютерам и этнически отождествляя себя с компьютерными агентами. Их результаты также показали, что люди проявляют чрезмерно усвоенное социальное поведение, такое как вежливость и взаимность по отношению к компьютерам. Важно отметить, что люди склонны к такому поведению — относятся к роботам и другим интеллектуальным агентам так, как если бы они были людьми, — даже если они знают, что взаимодействуют с компьютерами, а не с людьми. Кажется, что наше коллективное стремление общаться с людьми часто прокрадывается в наше взаимодействие с машинами.

Эта проблема ошибочного принятия компьютеров за людей усугубляется при взаимодействии с искусственными агентами через диалоговые пользовательские интерфейсы. Возьмем, к примеру, исследование, которое мы провели с двумя компаниями, которые использовали помощников ИИ, которые давали ответы на обычные бизнес-запросы. Один использовал антропоморфизированный ИИ, похожий на человека. Другой не был.

Работники компании, использовавшие антропоморфного агента, обычно злились на агента, когда тот не давал полезных ответов. Они обычно говорили что-то вроде: «Он отстой!» или «Я ожидаю, что он справится лучше», когда речь идет о результатах, выдаваемых машиной. Что наиболее важно, их стратегии по улучшению отношений с машиной отражали стратегии, которые они использовали бы с другими людьми в офисе. Они задавали свой вопрос более вежливо, перефразировали его другими словами или пытались стратегически рассчитать время для своих вопросов, когда, по их мнению, агент будет, говоря словами одного человека, «не так занят». Ни одна из этих стратегий не была особенно успешной.

Напротив, работники другой компании гораздо больше удовлетворены своим опытом. Они вводили поисковые запросы, как если бы это был компьютер, и описывали их в мельчайших подробностях, чтобы убедиться, что ИИ, который не может «читать между строк» ​​и улавливать нюансы, прислушается к их предпочтениям. Вторая группа обычно отмечала, как они были удивлены, когда на их запросы возвращалась полезная или даже неожиданная информация, и они списывали любые возникающие проблемы на типичные ошибки компьютера.

На обозримое будущее данные ясны: обращение с технологиями — какими бы человекоподобными или интеллектуальными они ни казались — как с технологиями является ключом к успеху при взаимодействии с машинами. Большая часть проблемы заключается в том, что они заставляют пользователей ожидать, что они будут реагировать по-человечески, и заставляют нас предположить, что они могут сделать вывод о наших намерениях, когда они не могут сделать ни того, ни другого. Для успешного взаимодействия с диалоговым пользовательским интерфейсом требуется цифровое мышление, которое понимает, что мы все еще далеки от эффективного человеческого взаимодействия с технологией. Признание того, что агент ИИ не может точно определить ваши намерения, означает, что важно подробно описать каждый шаг процесса и четко представлять, чего вы хотите достичь.