Натискане на книгите: Защо трябва да се отнасяме към роботите на утрешния ден като към инструменти

Не се поддавайте на приятните тонове на утрешния изкуствен интелект и техните песни на сирените на уникалността. Колкото и да изглеждат изкуствените интелекти и андроидите като хора, те никога няма be хора, твърдят Пол Леонарди, професор по технологичен мениджмънт на фамилията Дука в Калифорнийския университет в Санта Барбара, и Цедал Нийли, професор по бизнес администрация Нейлър Фицхю в бизнес училището на Харвард, в новата си книга Дигиталното мислене: какво наистина е необходимо, за да процъфтява в ерата на данните, алгоритмите и AI — и следователно не трябва да се третират като хора. Двойката твърди в откъса по-долу, че по този начин възпрепятства взаимодействието с напредналите технологии и възпрепятства по-нататъшното им развитие.

Препечатано с разрешение на Harvard Business Review Press. Извадка от ДИГИТАЛНОТО МЪСТЕНЕ: Какво наистина е необходимо, за да просперираме в ерата на данните, алгоритмите и изкуствения интелект от Пол Леонарди и Цедал Нийли. Авторско право 2022 Harvard Business School Publishing Corporation. Всички права запазени.

Отнасяйте се към AI като към машина, дори ако изглежда, че действа като човек

Ние сме свикнали да взаимодействаме с компютъра по визуален начин: бутони, падащи списъци, плъзгачи и други функции ни позволяват да даваме команди на компютъра. Напредъкът в ИИ обаче придвижва взаимодействието ни с дигиталните инструменти към по-естествено усещане и човешки взаимодействия. Това, което се нарича разговорен потребителски интерфейс (UI), дава на хората възможността да действат с цифрови инструменти чрез писане или говорене, което е много повече начинът, по който взаимодействаме с други хора, като „разговора“ на Бърт Суонсън с асистента Ейми. Когато кажете „Hey Siri“, „Hello Alexa“ и „OK Google“, това е потребителски интерфейс за разговор. Ръстът на инструментите, управлявани от разговорни потребителски интерфейси, е зашеметяващ. Всеки път, когато се обадите на номер 800 и бъдете помолени да напишете името си, отговорете с „Да“ или кажете последните четири цифри от номера на социалната си осигуровка, вие взаимодействате с AI, който използва потребителски интерфейс за разговор. Разговорните ботове станаха повсеместни отчасти защото имат добър бизнес смисъл и отчасти защото ни позволяват да имаме достъп до услугите по-ефективно и по-удобно.

Например, ако сте резервирали пътуване с влак чрез Amtrak, вероятно сте взаимодействали с AI чатбот. Името му е Джули и отговаря на повече от 5 милиона въпроса годишно от повече от 30 милиона пътници. Можете да резервирате пътуване с влак с Джули само като кажете къде отивате и кога. Джули може да попълва предварително формуляри в инструмента за планиране на Amtrak и да предоставя насоки през останалата част от процеса на резервация. Amtrak е видял 800 процента възвръщаемост на инвестицията си в Julie. Amtrak спестява повече от $1 милион разходи за обслужване на клиенти всяка година, като използва Julie за задаване на ниско ниво, предвидими въпроси. Резервациите са се увеличили с 25 процента, а резервациите, направени чрез Джули, генерират 30 процента повече приходи от резервациите, направени през уебсайта, защото Джули е добра в предлагането на повече клиенти!

Една от причините за успеха на Джули е, че Amtrak изяснява на потребителите, че Джули е AI агент, и те ви казват защо са решили да използват AI, вместо да ви свързват директно с човек. Това означава, че хората се ориентират към него като машина, а не погрешно като човек. Те не очакват твърде много от него и са склонни да задават въпроси по начини, които предизвикват полезни отговори. Решението на Amtrak може да звучи контраинтуитивно, тъй като много компании се опитват да представят своите чатботове за истински хора и изглежда, че взаимодействието с машина, сякаш е човек, трябва да бъде точно начинът за постигане на най-добри резултати. Дигиталното мислене изисква a shift в начина, по който мислим за връзката си с машините. Дори когато стават по-хуманни, трябва да мислим за тях като за машини - изискващи ясни инструкции и фокусирани върху тесни задачи.

x.ai, компанията, която направи програмата за планиране на срещи на Ейми, ви позволява да насрочите среща на работа или да поканите приятел на баскетболния мач на децата си, като просто изпратите имейл до Ейми (или нейния колега, Андрю) с вашата заявка, сякаш са личен асистент на живо. И все пак Денис Мортенсен, главен изпълнителен директор на компанията, отбелязва, че повече от 90 процента от запитванията, които получава бюрото за помощ на компанията, са свързани с факта, че хората се опитват да използват естествен език с ботовете и се борят да получат добри резултати.

Може би затова насрочването на обикновена среща с нов познат стана толкова досадно за професор Суонсън, който продължаваше да се опитва да използва разговорни изрази и условности от неформалния разговор. В допълнение към начина, по който говореше, той направи много напълно валидни предположения за взаимодействието си с Ейми. Той предположи, че Ейми може да разбере неговите ограничения в графика и че „тя“ ще може да различи какви са предпочитанията му от контекста на разговора. Суонсън беше неформален и непринуден - ботът не разбира това. Не разбира, че когато молите за време на друг човек, особено ако той ви прави услуга, не е ефективно често или внезапно да променяте логистиката на срещата. Оказва се, че е по-трудно, отколкото си мислим, да си взаимодействаме небрежно с интелигентен робот.

Изследователите потвърдиха идеята, че третирането на машини като машини работи по-добре, отколкото да се опитвате да бъдете хора с тях. Професорът от Станфорд Клифърд Нас и професорът от бизнес училището в Харвард Янгме Мун проведоха серия от проучвания, в които хората взаимодействаха с антропоморфни компютърни интерфейси. (Антропоморфизмът или приписването на човешки атрибути на неодушевени предмети е основен проблем в изследванията на ИИ.) Те откриха, че хората са склонни да използват прекомерно човешки социални категории, прилагайки полови стереотипи към компютрите и етнически идентифицирайки се с компютърни агенти. Техните открития също така показват, че хората проявяват прекалено заучено социално поведение като учтивост и реципрочност към компютрите. Важно е, че хората са склонни да се ангажират с тези поведения - третират роботи и други интелигентни агенти като хора - дори когато знаят, че взаимодействат с компютри, а не с хора. Изглежда, че нашият колективен импулс да общуваме с хората често се прокрадва във взаимодействието ни с машините.

Този проблем с объркването на компютри с хора се усложнява при взаимодействие с изкуствени агенти чрез разговорни потребителски интерфейси. Вземете за пример проучване, което проведохме с две компании, които използваха AI асистенти, които предоставяха отговори на рутинни бизнес запитвания. Единият използва антропоморфизиран AI, който приличаше на човек. Другото не беше.

Работниците в компанията, които използваха антропоморфния агент, рутинно се ядосваха на агента, когато агентът не връщаше полезни отговори. Те редовно казваха неща като „Той е гаден!“ или „Бих очаквал той да се справи по-добре“, когато се говори за резултатите, дадени от машината. Най-важното е, че техните стратегии за подобряване на отношенията с машината отразяват стратегиите, които биха използвали с други хора в офиса. Те щяха да зададат въпроса си по-учтиво, щяха да го перифразират с различни думи или щяха да се опитат стратегически да определят времето на въпросите си за момента, в който смятат, че агентът ще бъде, казано на един човек, „не толкова зает“. Нито една от тези стратегии не беше особено успешна.

За разлика от тях работниците в другата компания съобщават за много по-голямо удовлетворение от опита си. Те въведоха термини за търсене, сякаш беше компютър, и изписаха нещата много подробно, за да се уверят, че AI, който не може да „чете между редовете“ и да улавя нюанси, ще се съобрази с техните предпочитания. Втората група редовно отбелязваше колко са били изненадани, когато запитванията им са били върнати с полезна или дори изненадваща информация и те са записали всички възникнали проблеми като типични грешки в компютъра.

В обозримо бъдеще данните са ясни: третирането на технологиите - без значение колко човешки или интелигентни изглеждат - като технологии е ключът към успеха при взаимодействие с машини. Голяма част от проблема е, че те задават очакванията на потребителите, че ще реагират по начини, подобни на човешки, и ни карат да приемем, че могат да изведат нашите намерения, когато не могат да направят нито едното, нито другото. Успешното взаимодействие с разговорен потребителски интерфейс изисква дигитален начин на мислене, който разбира, че все още сме много далеч от ефективното човешко взаимодействие с технологията. Признаването, че AI агент не може точно да направи изводи за вашите намерения, означава, че е важно да посочите всяка стъпка от процеса и да сте наясно какво искате да постигнете.