Хитинг тхе Боокс: Зашто морамо да третирамо роботе сутрашњице као алат

Немојте да вас поколебају пријатни тонови сутрашњих АИ и њихове песме сирена сингуларности. Без обзира колико блиско вештачка интелигенција и андроиди могу да изгледају и понашају се као људи, они никада неће be људи, тврде Пол Леонарди, професор технологије менаџмента породице Дуца на Калифорнијском универзитету у Санта Барбари, и Тседал Неелеи, професор пословне администрације Наилор Фитзхугх на Харвард Бусинесс Сцхоол, у својој новој књизи Дигитални начин размишљања: шта је заиста потребно за напредовање у доба података, алгоритама и вештачке интелигенције — и стога их не треба третирати као људе. Пар тврди у одломку испод да то омета интеракцију са напредном технологијом и кочи њен даљи развој.

Поново штампано уз дозволу Харвард Бусинесс Ревиев Пресс. Извод из ДИГИТАЛНИ РАЗМИШЉАЊЕ: Шта је заиста потребно за напредовање у доба података, алгоритама и вештачке интелигенције аутора Пола Леонардија и Цедала Нилија. Ауторска права 2022 Харвард Бусинесс Сцхоол Публисхинг Цорпоратион. Сва права задржана.

Третирајте АИ као машину, чак и ако изгледа да се понаша као човек

Навикли смо да комуницирамо са рачунаром на визуелни начин: дугмад, падајуће листе, клизачи и друге функције нам омогућавају да дајемо команде рачунару. Међутим, напредак у вештачкој интелигенцији помера нашу интеракцију са дигиталним алатима ка природнијим осећањима и интеракцијама налик људима. Оно што се зове конверзацијски кориснички интерфејс (УИ) даје људима могућност да делују помоћу дигиталних алата кроз писање или разговор, што је много више начин на који комуницирамо са другим људима, као што је „разговор“ Бурта Свонсона са Ејми асистенткињом. Када кажете „Хеј Сири“, „Здраво Алека“ и „ОК Гоогле“, то је кориснички интерфејс за разговор. Раст алата које контролишу конверзацијски кориснички интерфејси је запањујући. Сваки пут када позовете број 800 и од вас се затражи да спелујете своје име, одговорите са „Да“ или изговорите последња четири броја свог броја социјалног осигурања, ви комуницирате са АИ која користи конверзацијски интерфејс. Ботови за разговор постали су свеприсутни делом зато што имају добар пословни смисао, а делом зато што нам омогућавају да ефикасније и повољније приступамо услугама.

На пример, ако сте резервисали путовање возом кроз Амтрак, вероватно сте ступили у интеракцију са АИ цхатботом. Зове се Јулие и одговара на више од 5 милиона питања годишње од више од 30 милиона путника. Можете резервисати путовање железницом са Џули само тако што ћете рећи где идете и када. Џули може унапред да попуни обрасце на Амтраковом алату за заказивање и пружи смернице кроз остатак процеса резервације. Амтрак је остварио поврат од 800 посто на њихову инвестицију у Јулие. Амтрак сваке године уштеди више од милион долара на трошковима за корисничку подршку користећи Јулие за постављање предвидљивих питања ниског нивоа. Резервације су порасле за 1 процената, а резервације извршене преко Јулие остварују 25 процената више прихода од резервација направљених преко веб странице, јер Јулие је добра у повећању продаје купаца!

Један од разлога за Јулијин успех је тај што Амтрак јасно ставља до знања корисницима да је Јулие агент АИ, и они вам говоре зашто су одлучили да користе АИ уместо да вас директно повежу са човеком. То значи да се људи на њега оријентишу као на машину, а не грешком као на човека. Не очекују превише од тога и имају тенденцију да постављају питања на начине који извлаче корисне одговоре. Амтракова одлука може звучати контраинтуитивно, пошто многе компаније покушавају да своје цхатботе представе као праве људе и чини се да интеракција са машином као да је човек треба да буде управо начин за постизање најбољих резултата. Дигитални начин размишљања захтева а shift у томе како размишљамо о нашем односу према машинама. Чак и када постану хуманији, морамо о њима размишљати као о машинама – које захтевају експлицитна упутства и фокусиране на уске задатке.

к.аи, компанија која је направила планер састанака Ејми, омогућава вам да закажете састанак на послу или да позовете пријатеља на кошаркашку утакмицу своје деце тако што ћете једноставно послати Ејми (или њеном колеги, Ендру) е-поруку са вашим захтевом као да су живи лични асистент. Ипак, Денис Мортенсен, генерални директор компаније, примећује да је више од 90 одсто упита које добија служба за подршку компаније повезано са чињеницом да људи покушавају да користе природни језик са ботовима и боре се да постигну добре резултате.

Можда је зато заказивање једноставног састанка са новим познаником постало толико досадно професору Свонсону, који је покушавао да користи колоквијализам и конвенције из неформалног разговора. Поред начина на који је говорио, изнео је многе савршено валидне претпоставке о својој интеракцији са Ејми. Претпоставио је да Ејми може да разуме његова ограничења у распореду и да ће „она“ моћи да разазна шта су његове преференције из контекста разговора. Свансон је био неформалан и лежеран - бот то не схвата. Не разуме да када тражите време друге особе, посебно ако вам чини услугу, није ефикасно често или нагло мењати логистику састанка. Испоставило се да је теже него што мислимо лежерно комуницирати са интелигентним роботом.

Истраживачи су потврдили идеју да третирање машина као машина ради боље него покушај да се буде човек са њима. Професор са Станфорда Клифорд Нас и професор са Харвардске пословне школе Јангми Мун спровели су серију студија у којима су људи комуницирали са антропоморфним рачунарским интерфејсима. (Антропоморфизам, или додељивање људских атрибута неживим објектима, је главни проблем у истраживању вештачке интелигенције.) Открили су да појединци имају тенденцију да претерано користе људске друштвене категорије, примењујући родне стереотипе на рачунаре и етнички се идентификујући са компјутерским агентима. Њихови налази су такође показали да људи показују превише научено друштвено понашање као што су љубазност и реципроцитет према рачунарима. Важно је да људи имају тенденцију да се баве овим понашањем - третирајући роботе и друге интелигентне агенте као да су људи - чак и када знају да комуницирају са рачунарима, а не са људима. Чини се да се наш колективни импулс за односом са људима често увлачи у нашу интеракцију са машинама.

Овај проблем погрешног разумевања рачунара за људе се погоршава када се комуницира са вештачким агенсима преко конверзацијских корисничких интерфејса. Узмимо за пример студију коју смо спровели са две компаније које су користиле АИ асистенте који су давали одговоре на рутинска пословна питања. Један је користио антропоморфизовани АИ који је био сличан човеку. Други није био.

Радници у компанији који су користили антропоморфни агенс рутински су се љутили на агента када агент није давао корисне одговоре. Рутински су говорили ствари попут: "Он је безвезе!" или „Очекивао бих да ће он бити бољи“ када се говори о резултатима које је дала машина. Што је најважније, њихове стратегије за побољшање односа са машином одражавале су стратегије које би користили са другим људима у канцеларији. Постављали би своја питања љубазније, преформулисали би у различите речи, или би покушали да стратешки темпирају своја питања за време када су мислили да агент, речено по једној особи, „није тако заузет“. Ниједна од ових стратегија није била посебно успешна.

Насупрот томе, радници друге компаније су изјавили да су много више задовољни својим искуством. Укуцали су термине за претрагу као да је у питању рачунар и детаљно су навели ствари како би били сигурни да ће вештачка интелигенција, која не може да „чита између редова“ и да разуме нијансе, пазити на њихове преференције. Друга група је рутински примећивала колико су били изненађени када су им упити били враћени корисним или чак изненађујућим информацијама и све проблеме који су се појавили приписали су типичним грешкама са рачунаром.

У догледној будућности, подаци су јасни: третирање технологија — без обзира колико изгледају попут људи или интелигентне — као технологија је кључ успеха у интеракцији са машинама. Велики део проблема је у томе што постављају очекивања корисницима да ће одговорити на људски начин, и терају нас да претпоставимо да они могу закључити наше намере, када не могу ни једно ни друго. Успешна интеракција са конверзацијским корисничким интерфејсом захтева дигитални начин размишљања који разуме да смо још увек удаљени од ефективне људске интеракције са технологијом. Препознавање да АИ агент не може тачно да закључи ваше намере значи да је важно да наведете сваки корак процеса и да будете јасни шта желите да постигнете.