Lêdana Pirtûkan: Çima pêdivî ye ku em robotên sibê wekî amûran derman bikin

Ji ber dengên dial-dilce yên AI-yên sibê û stranên wan ên siren ên yekjimariyê nehejînin. Her çi qas îstîxbaratên çêkirî û android ji nêz ve mîna mirovan xuya bikin û tevbigerin jî, ew ê çu carî ne rast bin be mirov, Paul Leonardi, Profesorê Rêveberiya Teknolojiyê ya Malbata Duca li Zanîngeha California Santa Barbara, û Tsedal Neeley, Naylor Fitzhugh Profesorê Rêvebiriya Karsaziyê li Dibistana Karsaziyê ya Harvardê, di pirtûka xwe ya nû de nîqaş dikin. Hişmendiya Dîjîtal: Di Serdema Dane, Algorîtma û AI-ê de Ya ku Bi rastî Pêşve diçe - û ji ber vê yekê divê wekî mirovan neyê derman kirin. Heval di beşa jêrîn de îdia dike ku bi vî rengî, bi vî rengî têkiliya bi teknolojiya pêşkeftî re asteng dike û pêşkeftina wê ya pêşdetir asteng dike.

Bi destûra Harvard Business Review Press ve hatî çap kirin. Derketî ji HIŞYÊ DÎGÎTAL: Di Serdema Dane, Algorîtma û AI-ê de ji bo pêşkeftina bi rastî çi hewce dike ji hêla Paul Leonardi û Tsedal Neeley ve. Copyright 2022 Pargîdaniya Weşanxaneya Dibistana Karsaziya Harvard. Hemû maf parastî ne.

AI-ê Mîna Makîneyekê Bikin, Tewra ku Xuya ye ku Mîna Mirovan tevdigere

Em fêr bûne ku bi komputerek bi rengek dîtbar re têkilî daynin: bişkok, navnîşên dakêşan, slider û taybetmendiyên din dihêlin ku em emrên komputerê bidin. Lêbelê, pêşkeftinên di AI-ê de danûstendina me bi amûrên dîjîtal re berbi têkiliyên xwezayî-hesttir û mîna mirovan ve diçin. Tiştê ku jê re têkiliyek bikarhêner a danûstendinê (UI) tê gotin, ji mirovan re şiyana ku bi navgîniya nivîsandinê an axaftinê re bi amûrên dîjîtal tevbigerin, pirtir awayê ku em bi mirovên din re têkilî dikin, mîna "axaftina" Burt Swanson bi Amy arîkar re. Gava ku hûn dibêjin, "Hey Siri", "Silav Alexa," û "OK Google", ew UI-ya danûstendinê ye. Mezinbûna amûrên ku ji hêla UI-yên danûstendinê ve têne kontrol kirin ecêb e. Her gava ku hûn gazî jimareyek 800 dikin û ji we tê xwestin ku hûn navê xwe binivîsin, bersiv bidin "Erê", an jî çar hejmarên paşîn ên jimara ewlehiya civakî bibêjin hûn bi AI-yek ku UI-ya axaftinê bikar tîne re têkilî dikin. Botên danûstendinê ji ber ku ew hestek karsaziyek baş çêdikin, û beşek jî ji ber ku ew dihêlin ku em bigihîjin karûbaran bi bandortir û rehettir tevde bûne.

Mînakî, heke we rêwîtiyek trênê bi navgîniya Amtrak veqetandibe, we belkî bi chatbotek AI-ê re têkilî daniye. Navê wê Julie ye, û ew her sal ji zêdetirî 5 mîlyon rêwiyan bersiva zêdetirî 30 mîlyon pirsan dide. Hûn dikarin rêwîtiya trênê bi Julie re tenê bi gotina ku hûn diçin û kengî veqetînin. Julie dikare formên li ser amûra plansazkirinê ya Amtrak-ê pêşdixe û di pêvajoya mayî ya veqetandinê de rêberiyê peyda bike. Amtrak ji sedî 800 vegera veberhênana xwe ya li Julie dîtiye. Amtrak her sal zêdetirî 1 mîlyon dolar di lêçûnên karûbarê xerîdar de bi karanîna Julie ve di warê pirsên nizm, pêşbînîkirî de xilas dike. Veqetandin ji sedî 25 zêde bûne, û veqetandinên ku bi navgîniya Julie têne kirin ji sedî 30 bêtir dahatê ji veqetandinên ku bi navgîniya malperê ve têne çêkirin peyda dikin, ji ber ku Julie di firotina xerîdar de baş e!

Yek ji sedemên serkeftina Julie ev e ku Amtrak ji bikarhêneran re eşkere dike ku Julie nûnerek AI-ê ye, û ew ji we re dibêjin çima wan biryar daye ku AI-ê bikar bînin ne ku hûn rasterast bi mirovek ve girêbidin. Ev tê wê wateyê ku mirov wê wekî makîneyek, ne bi xeletî wekî mirovek araste dike. Ew ji wê pir zêde hêvî nakin, û ew mêl dikin ku pirsan bi awayên ku bersivên alîkar derxînin bipirsin. Dibe ku biryara Amtrak dijber xuya bike, ji ber ku gelek pargîdan hewl didin ku chatbotên xwe wekî mirovên rastîn derbas bikin û wusa dixuye ku têkiliya bi makîneyek re mîna ku ew mirovek be divê bi rastî çawa be ku meriv encamên çêtirîn bi dest bixe. Hişmendiyek dîjîtal hewce dike a shift em çawa li ser têkiliya xwe ya bi makîneyan re difikirin. Tewra ku ew mirovahîtir dibin, divê em li ser wan wekî makîneyan bifikirin- ku rêwerzên eşkere hewce dikin û li ser karên teng hûr dibin.

x.ai, pargîdaniya ku plansazkerê civînê Amy çêkir, dihêle hûn li ser kar civînekê plansaz bikin, an jî hevalek xwe vexwînin lîstika basketbolê ya zarokên xwe bi tenê bi e-nameyê Amy (an hevtayê wê, Andrew) bi daxwaziya we re wekî ku ew in. bijî alîkarê şexsî. Lê dîsa jî Dennis Mortensen, CEO yê pargîdanî, dibîne ku ji sedî 90-ê lêpirsînên ku maseya alîkariyê ya pargîdanî werdigire bi vê yekê ve girêdayî ye ku mirov hewl didin ku zimanê xwezayî bi botan bikar bînin û têdikoşin ku encamên baş bistînin.

Dibe ku ji ber vê yekê bû ku plansazkirina civînek hêsan a bi nasek nû re ji Profesor Swanson re ew qas aciz bû, yê ku hewil dida ku devok û peymanên ji danûstendina nefermî bikar bîne. Digel awayê ku wî dipeyivî, wî di derbarê têkiliya xwe ya bi Amy re gelek texmînên bêkêmasî rast kir. Wî texmîn kir ku Amy dikaribû astengiyên plansaziya xwe fam bike û ku "ew" dê bikaribe tercihên wî ji çarçoweya danûstendinê fam bike. Swanson nefermî û casual bû - bot wiya fam nake. Fêm nake ku dema ku wextê kesek din dipirse, nemaze heke ew qenciyekê li we dikin, ne bandorker e ku hûn bi gelemperî an ji nişka ve lojîstîka civînê biguhezînin. Derket holê ku ew ji ya ku em difikirin dijwartir e ku meriv bi robotek jîr re bi rengek bêserûber têkilî daynin.

Lekolînwanan ev raman pejirand ku dermankirina makîneyên mîna makîneyan ji hewldana ku meriv bi wan re bibe mirov çêtir dixebite. Profesorê Stanford Clifford Nass û profesorê Dibistana Karsaziyê ya Harvardê Youngme Moon rêze lêkolîn kirin ku tê de mirov bi navgînên komputerê yên antropomorfîk re têkilî danî. (Antropomorfîzm, an danasîna taybetmendiyên mirovî ji tiştên bêcan re, di lêkolîna AI-ê de pirsgirêkek sereke ye.) Wan dît ku kes meyla zêde karanîna kategoriyên civakî yên mirovan dikin, stereotipên zayendî li ser komputeran bicîh dikin û ji hêla etnîkî ve bi ajanên kompîturê re nas dikin. Encamên wan her weha destnîşan kirin ku mirov reftarên civakî yên zêde fêrbûyî yên wekî dilşewatî û bertengiya li hember komputeran nîşan didin. Ya girîng, mirov mêl dikin ku van reftaran bikin - bi robotan û ajanên din ên aqilmend wekî ku ew mirov in - derman bikin - tewra gava ku ew dizanin ku ew bi komputeran re têkilî dikin, ne bi mirovan. Wusa dixuye ku îhtîmala meya kolektîf a ku bi mirovan re têkildar dibe, pir caran dikeve nav danûstendina me ya bi makîneyan re.

Pirsgirêka şaşkirina komputeran ji mirovan re dema ku bi navgîniya UI-yên danûstendinê re bi ajanên sûnî re têkilî daynin tevlihev dibe. Mînakî lêkolînek ku me bi du pargîdaniyan re kir ku arîkarên AI-yê bikar anîn ku bersivên pirsên karsaziya rûtîn peyda kirin. Yekî AI-ya antropomorfîzekirî ku mîna mirovan bû bikar anî. Ya din ne bû.

Karkerên li pargîdaniya ku kargêrê antropomorfîk bikar tînin bi rêkûpêk ji ajanê dîn bûne dema ku ajan bersivên kêrhatî venagerîne. Wan bi rêkûpêk tiştên wekî, "Ew dişewite!" an "Ez ê hêvî dikim ku ew çêtir bike" dema ku behsa encamên ku ji hêla makîneyê ve têne dayîn. Ya herî girîng, stratejiyên wan ji bo baştirkirina têkiliyên bi makîneyê re stratejiyên ku ew ê bi mirovên din ên li nivîsgehê re bikar bînin neynikê ne. Ew ê pirsa xwe bi nermî bipirsin, ew ê bi peyvên cihêreng ji nû ve binivîsin, an jî ew ê hewl bidin ku pirsên xwe bi stratejî ji bo dema ku ew difikirin ku ajan dê, bi şertên yek kesan, "ne ewqas mijûl be." Yek ji van stratejiyan bi taybetî serkeftî nebû.

Berevajî vê, karkerên li pargîdaniya din ji ezmûna xwe kêfxweşiyek pir mezintir ragihandin. Wan peyvên lêgerînê wekî ku ew komputerek be dinivîsin û tiştan bi hûrgulî dinivîsin da ku pê ewle bibin ku AI-yek, ku nikaribe "di navbera rêzan de bixwîne" û nuwazeyan hilde, dê guh bide tercîhên wan. Koma duyemîn bi rêkûpêk destnîşan kir ku ew çiqas ecêbmayî man dema ku pirsên wan bi agahdariya kêrhatî an jî sosret hatin vegerandin û wan pirsgirêkên ku ji xeletiyên tîpîk ên bi komputerê re derketin holê rakir.

Ji bo pêşerojek pêşbînîkirî, dane zelal in: dermankirina teknolojiyên - ferq nake ku ew çiqasî mirovî an jî aqilmend xuya dikin - teknolojiyên mîna gava ku bi makîneyan re têkilî daynin serketinê mifteya serkeftinê ye. Beşek mezin a pirsgirêkê ev e ku ew ji bikarhêneran re hêviyan danîne ku ew ê bi awayên mîna mirovan bersivê bidin, û ew me dikin ku em texmîn bikin ku ew dikarin niyeta me derxînin, dema ku ew nikaribin yek jî bikin. Têkiliya bi serfirazî bi UI-ya danûstendinê re hişmendiyek dîjîtal hewce dike ku fêm dike ku em hîn jî hin awayan ji danûstendina bi bandor a mîna mirovan a bi teknolojiyê re dûr in. Naskirina ku karmendek AI-ê nikare rast niyeta we derxe tê vê wateyê ku girîng e ku hûn her gavê pêvajoyê diyar bikin û li ser tiştê ku hûn dixwazin bi dest bixin zelal bin.