Націск на кнігі: чаму нам трэба ставіцца да робатаў заўтрашняга дня як да інструментаў

Не паддавайцеся пяшчотным сігналам набору AI заўтрашняга дня і іх песням сірэны асаблівасці. Незалежна ад таго, наколькі блізка штучны інтэлект і андроіды могуць выглядаць і паводзіць сябе як людзі, яны ніколі не будуць be людзі, сцвярджаюць Пол Леанардзі, прафесар кіравання тэхналогіямі сям'і Дука ў Каліфарнійскім універсітэце Санта-Барбары, і Цэдал Нілі, прафесар дзелавога адміністравання Гарвардскай школы бізнесу Нэйлар Фіцх'ю, у сваёй новай кнізе Лічбавае мысленне: што сапраўды трэба для росквіту ў эпоху даных, алгарытмаў і штучнага інтэлекту — і таму не варта ставіцца да іх як да людзей. У прыведзеным ніжэй урыўку пара сцвярджае, што такім чынам гэта перашкаджае ўзаемадзеянню з перадавой тэхналогіяй і перашкаджае яе далейшаму развіццю.

Друкуецца з дазволу Harvard Business Review Press. Урывак з ЛІЧБАВАЕ МЫСЛЕННЕ: што сапраўды трэба для росквіту ў эпоху даных, алгарытмаў і штучнага інтэлекту Пола Леанардзі і Цэдала Нілі. Аўтарскія правы, 2022 г. Выдавецкая карпарацыя Гарвардскай школы бізнесу. Усе правы ахоўваюцца.

Ставіцеся да штучнага інтэлекту як да машыны, нават калі здаецца, што ён дзейнічае як чалавек

Мы прывыклі ўзаемадзейнічаць з камп'ютарам візуальна: кнопкі, выпадаючыя спісы, паўзункі і іншыя функцыі дазваляюць даваць кампутару каманды. Аднак прагрэс у галіне штучнага інтэлекту перамяшчае наша ўзаемадзеянне з лічбавымі інструментамі да больш натуральнага і падобнага на чалавека ўзаемадзеяння. Тое, што называецца гутарковым карыстальніцкім інтэрфейсам (UI), дае людзям магчымасць працаваць з лічбавымі інструментамі праз пісьмовую або размову, што значна больш з'яўляецца спосабам нашага ўзаемадзеяння з іншымі людзьмі, як «размова» Берта Суонсана з памочнікам Эмі. Калі вы кажаце «Прывітанне, Siri», «Прывітанне, Alexa» і «ОК, Google», гэта карыстальніцкі інтэрфейс для размовы. Рост інструментаў, якія кіруюцца гутарковымі інтэрфейсамі, ашаламляе. Кожны раз, калі вы тэлефануеце на нумар 800 і вас просяць напісаць сваё імя, адкажыце «Так» або скажыце апошнія чатыры лічбы вашага нумара сацыяльнага страхавання, вы ўзаемадзейнічаеце з AI, які выкарыстоўвае гутарковы інтэрфейс. Размоўныя боты сталі паўсюднымі часткова таму, што яны маюць добры бізнес-сэнс, а часткова таму, што яны дазваляюць нам атрымліваць доступ да паслуг больш эфектыўна і зручней.

Напрыклад, калі вы забраніравалі паездку на цягніку праз Amtrak, вы, верагодна, узаемадзейнічалі з чат-ботам AI. Яго завуць Джулі, і ён штогод адказвае на больш чым 5 мільёнаў пытанняў ад больш чым 30 мільёнаў пасажыраў. Вы можаце забраніраваць паездку на чыгунцы з Джулі, проста сказаўшы, куды і калі едзеце. Джулі можа папярэдне запоўніць формы ў сродку планавання Amtrak і даць рэкамендацыі па астатняй частцы працэсу браніравання. Кампанія Amtrak атрымала 800-працэнтную рэнтабельнасць сваіх інвестыцый у Джулі. Amtrak штогод эканоміць больш за 1 мільён долараў на абслугоўванні кліентаў, выкарыстоўваючы Джулі для задавання прадказальных пытанняў нізкага ўзроўню. Колькасць браніраванняў павялічылася на 25 працэнтаў, а браніраванні, зробленыя праз Джулі, прыносяць на 30 працэнтаў больш даходу, чым браніраванні, зробленыя праз вэб-сайт, таму што Джулі добра прадае кліентам больш высокі кошт!

Адной з прычын поспеху Джулі з'яўляецца тое, што Amtrak дае зразумець карыстальнікам, што Джулі з'яўляецца агентам штучнага інтэлекту, і яны кажуць вам, чаму яны вырашылі выкарыстоўваць штучны інтэлект, а не звязваць вас непасрэдна з чалавекам. Гэта значыць, што людзі арыентуюцца на яго як на машыну, а не памылкова як на чалавека. Яны не чакаюць ад гэтага занадта шмат, і яны, як правіла, задаюць пытанні такім чынам, каб атрымаць карысныя адказы. Рашэнне Amtrak можа здацца неразумным, паколькі многія кампаніі спрабуюць выдаць сваіх чат-ботаў за рэальных людзей, і, здавалася б, узаемадзеянне з машынай, як з чалавекам, павінна быць менавіта тым, каб атрымаць лепшыя вынікі. Лічбавае мысленне патрабуе a shift у тым, як мы думаем пра нашы адносіны да машын. Нават калі яны становяцца больш гуманнымі, мы павінны думаць пра іх як пра машыны, якія патрабуюць выразных інструкцый і сканцэнтраваны на вузкіх задачах.

x.ai, кампанія, якая зрабіла планавальнік сустрэч з Эмі, дазваляе вам запланаваць сустрэчу на працы або запрасіць сябра на баскетбольны матч вашых дзяцей, проста адправіўшы Эмі (ці яе калегу, Эндру) па электроннай пошце з вашым запытам, як быццам яны былі жывы асабісты памочнік. Тым не менш Дэніс Мортэнсэн, генеральны дырэктар кампаніі, заўважае, што больш за 90 працэнтаў запытаў, якія атрымлівае служба падтрымкі кампаніі, звязаныя з тым, што людзі спрабуюць выкарыстоўваць натуральную мову з ботамі і з усіх сіл імкнуцца атрымаць добрыя вынікі.

Магчыма, менавіта таму планаванне простай сустрэчы з новым знаёмым так раздражняла прафесара Свэнсана, які працягваў выкарыстоўваць прастамоўі і ўмоўнасці з неафіцыйнай размовы. У дадатак да таго, як ён размаўляў, ён зрабіў шмат цалкам абгрунтаваных здагадак аб сваім зносінах з Эмі. Ён меркаваў, што Эмі можа зразумець яго абмежаванні ў раскладзе і што «яна» зможа вызначыць яго перавагі з кантэксту размовы. Свэнсан быў нефармальным і нязмушаным — бот гэтага не разумее. Яно не разумее, што калі вы просіце час іншага чалавека, асабліва калі ён робіць вам паслугу, неэфектыўна часта або раптоўна мяняць лагістыку сустрэчы. Аказваецца, выпадкова ўзаемадзейнічаць з разумным робатам складаней, чым мы думаем.

Даследчыкі пацвердзілі ідэю, што абыходжанне з машынамі як з машынамі працуе лепш, чым спробы быць з імі людзьмі. Прафесар Стэнфардскага універсітэта Кліфард Насс і прафесар Гарвардскай школы бізнесу Янгме Мун правялі серыю даследаванняў, падчас якіх людзі ўзаемадзейнічалі з антрапаморфнымі кампутарнымі інтэрфейсамі. (Антрапамарфізм, або прысваенне чалавечых атрыбутаў неадушаўлёным аб'ектам, з'яўляецца галоўнай праблемай у даследаваннях штучнага інтэлекту.) Яны выявілі, што людзі схільныя празмерна выкарыстоўваць сацыяльныя катэгорыі чалавека, ужываючы гендэрныя стэрэатыпы да камп'ютараў і этнічна ідэнтыфікуючы сябе з кампутарнымі агентамі. Іх высновы таксама паказалі, што людзі праяўляюць празмерна вывучаныя сацыяльныя паводзіны, такія як ветлівасць і ўзаемнасць у адносінах да кампутараў. Важна адзначыць, што людзі, як правіла, займаюцца такімі паводзінамі - ставяцца да робатаў і іншых інтэлектуальных агентаў як да людзей - нават калі ведаюць, што ўзаемадзейнічаюць з кампутарамі, а не з людзьмі. Падобна на тое, што наш калектыўны імпульс зносін з людзьмі часта ўкрадаецца ў наша ўзаемадзеянне з машынамі.

Гэтая праблема памылковага прыняцця кампутараў за людзей ускладняецца пры ўзаемадзеянні са штучнымі агентамі праз гутарковы інтэрфейс. Возьмем, напрыклад, даследаванне, якое мы правялі з дзвюма кампаніямі, якія выкарыстоўвалі памочнікаў штучнага інтэлекту, якія давалі адказы на звычайныя бізнес-запыты. У адным выкарыстоўваўся антрапамарфізаваны штучны інтэлект, падобны на чалавека. Другога не было.

Работнікі кампаніі, якія рэгулярна выкарыстоўвалі антрапаморфны агент, злаваліся на агента, калі той не даваў карысных адказаў. Яны рэгулярна казалі такія рэчы, як: «Ён адстой!» або «Я чакаю, што ён будзе лепш», калі гаворка ідзе пра вынікі, якія дае машына. Самае галоўнае, што іх стратэгіі паляпшэння адносін з машынай адлюстроўваюць стратэгіі, якія яны будуць выкарыстоўваць з іншымі людзьмі ў офісе. Яны задавалі б сваё пытанне больш ветліва, яны б перафармулявалі іх іншымі словамі, або яны паспрабавалі б стратэгічна вызначыць час сваіх пытанняў да таго часу, калі яны лічылі, што агент будзе, з пункту гледжання аднаго чалавека, «не вельмі заняты». Ні адна з гэтых стратэгій не была асабліва паспяховай.

Наадварот, работнікі іншай кампаніі паведамілі пра значна большую задаволенасць сваім вопытам. Яны ўводзілі ўмовы пошуку так, нібы гэта быў камп'ютар, і вельмі падрабязна прапісвалі рэчы, каб пераканацца, што ІІ, які не можа «чытаць паміж радкоў» і ўлоўліваць нюансы, прыслухаецца да іх пераваг. Другая група рэгулярна адзначала, наколькі яны былі здзіўлены, калі на іх запыты атрымлівалі карысную ці нават нечаканую інфармацыю, і яны адносілі любыя праблемы, якія ўзнікалі, да тыповых памылак з кампутарам.

У агляднай будучыні дадзеныя відавочныя: абыходжанне з тэхналогіямі - незалежна ад таго, наколькі падобнымі на чалавека ці разумнымі яны выглядаюць - як з тэхналогіямі, з'яўляецца ключом да поспеху пры ўзаемадзеянні з машынамі. Вялікая частка праблемы заключаецца ў тым, што яны чакаюць ад карыстальнікаў, што яны будуць рэагаваць чалавечымі спосабамі, і яны прымушаюць нас меркаваць, што яны могуць зрабіць выснову аб нашых намерах, калі яны не могуць зрабіць ні таго, ні іншага. Для паспяховага ўзаемадзеяння з гутарковым карыстальніцкім інтэрфейсам патрабуецца лічбавае мысленне, якое разумее, што мы яшчэ далёка ад эфектыўнага чалавечага ўзаемадзеяння з тэхналогіяй. Прызнанне таго, што агент штучнага інтэлекту не можа дакладна зрабіць выснову аб вашых намерах, азначае, што важна прапісаць кожны этап працэсу і дакладна ўказаць, чаго вы хочаце дасягнуць.