Microsoft posodablja svoj standard za odgovorno umetno inteligenco in je razkril, da umika zmožnosti Azure Face za prepoznavanje čustev in obraza (večinoma).
O Standard odgovornega umetne inteligence (odpre se v novem zavihku) je Microsoftov interni nabor pravil, ko gre za gradnjo sistemov AI. Podjetje želi, da bi bila umetna inteligenca pozitivna sila v svetu in da je slabi akterji nikoli ne bi zlorabili. To je standard, ki še nikoli ni bil predstavljen javnosti. Vendar se je Microsoft s to novo spremembo odločil, da je zdaj pravi čas.
Programska oprema za prepoznavanje čustev in obrazov je bila, milo rečeno, kontroverzna. Obstaja več organizacij, ki pozivajo k prepovedi te tehnologije. Boj za prihodnost , Na primer, maja napisal odprto pismo, v katerem je prosil Zoom, naj ustavi lasten razvoj programske opreme za sledenje čustvom, in jo označil za "invazivno" ter "kršitev zasebnosti in človekovih pravic."
Sprememba politike
Kot je navedeno, bo Microsoft preoblikoval svojo storitev Azure Face, da bo izpolnjevala zahteve svojega novega standarda za odgovorno umetno inteligenco. Prvič, podjetje odpravlja javni dostop do zmožnosti skeniranja čustev AI. Drugič, Azure Face ne bo več mogel prepoznati značilnosti obraza osebe, vključno s »spolom, starostjo, [nasmehom], dlakami na obrazu, lasmi in ličili«.
Razlog za upokojitev je, ker svetovna znanstvena skupnost še vedno nima jasnega "konsenza o definiciji 'čustev'". Natasha Cramption, glavna odgovorna direktorica za AI pri Microsoftu, je dejala, da so strokovnjaki znotraj in zunaj podjetja izrazili svoje pomisleke. Težava so »izzivi v tem, kako sklepanje posplošuje po primerih uporabe, regijah in demografskih podatkih, ter večji pomisleki glede zasebnosti ...«
Poleg Azure Face bo podobne omejitve imel Microsoftov Custom Neural Voice. Nevralni glas po meri (odpre se v novem zavihku) je aplikacija za pretvorbo besedila v govor, ki je šokantno resnična. Zdaj bo storitev omejena na nekaj izbranih »upravljanih strank in partnerjev«, ki so ljudje, ki delajo neposredno z Microsoftovimi skupinami za račune. Podjetje navaja, da ima tehnologija velik potencial, vendar se lahko uporablja za lažno predstavljanje. Da bi imeli še naprej dostop do Neural Voice, morajo vse obstoječe stranke predložiti obrazec za sprejem in pridobiti odobritev Microsofta. Odobreni morajo biti do 30. junija 2023 in če ne bodo izbrani, te stranke ne bodo imele več dostopa do Neural Voice.
Še vedno v delu
Kljub vsemu, kar je bilo povedano, Microsoft ne opušča popolnoma svoje tehnologije za prepoznavanje obraza. Obvestilo se nanaša samo na javni dostop. Sarah Bird, ki je vodja projektov glavne skupine pri Azure AI, pisal o odgovornem prepoznavanju obraza (odpre se v novem zavihku) . In v tej objavi navaja, da "Microsoft priznava, da so te zmogljivosti lahko dragocene, če se uporabljajo za nabor scenarijev nadzorovane dostopnosti." Eden od teh scenarijev je po besedah predstavnika Videti AI (odpre se v novem zavihku) ki je aplikacija za iOS, ki pomaga slabovidnim pri prepoznavanju ljudi in predmetov okoli njih.
Lepo je videti še enega tehnološkega velikana, ki se zaveda težav s prepoznavanjem obraza in možnosti zlorabe. Nekaj podobnega je IBM naredil že leta 2020, čeprav je bil njegov pristop bolj absoluten.
Nazaj v 2020, IBM je sporočil, da opušča delo o prepoznavanju obraza, ker se je podjetje balo, da bi ga lahko zlorabili za množični nadzor. Videti, da sta se ta dva titana v industriji znebila te tehnologije, je zmaga za kritike, ki ne razmišljajo o prepoznavanju obraza. Če vas zanima več o AI, je TechRadar pred kratkim objavil članek o tem, kaj lahko naredi za kibernetsko varnost.