Ina-update ng Microsoft ang Responsible AI Standard nito at inihayag na ihihinto nito ang emosyonal at facial recognition na kakayahan ng Azure Face (sa karamihan).
Ang Responsableng AI Standard (bubukas sa bagong tab) ay panloob na ruleset ng Microsoft pagdating sa pagbuo ng mga AI system. Nais ng kumpanya na ang AI ay maging isang positibong puwersa sa mundo at hindi kailanman maabuso ng masasamang aktor. Ito ay isang pamantayan na hindi kailanman naibahagi sa publiko. Gayunpaman, sa bagong pagbabagong ito, nagpasya ang Microsoft na ngayon na ang oras.
Ang emosyonal at facial recognition software ay naging kontrobersyal, upang sabihin ang hindi bababa sa. Mayroong maraming mga organisasyon na nananawagan para sa teknolohiyang ito na ipagbawal. Labanan para sa Kinabukasan , Halimbawa, nagsulat ng isang bukas na liham noong Mayo na humihiling kay Zoom na ihinto ang sarili nitong pagbuo ng software sa pagsubaybay sa emosyonal at tinawag itong "invasive" at "isang paglabag sa privacy at karapatang pantao."
Pagbabago ng patakaran
Tulad ng inilatag, muling gagawin ng Microsoft ang serbisyong Azure Face nito upang matugunan ang mga kinakailangan ng bago nitong Responsible AI Standard. Una, inaalis ng kumpanya ang pampublikong access sa kakayahan sa pag-scan ng emosyon ng AI. Pangalawa, hindi na matutukoy ng Azure Face ang mga katangian ng mukha ng isang tao, kabilang ang "kasarian, edad, [a] ngiti, buhok sa mukha, buhok, at pampaganda."
Ang dahilan ng pagreretiro ay dahil ang pandaigdigang komunidad ng agham ay wala pa ring malinaw na "kasunduan sa kahulugan ng 'emosyon'". Natasha Cramption, Chief Responsible AI Officer sa Microsoft, sinabi na ang mga eksperto mula sa loob at labas ng kumpanya ay nagpahayag ng kanilang mga alalahanin. Ang problema ay "ang mga hamon sa kung paano nagsa-generalize ang mga hinuha sa mga kaso ng paggamit, rehiyon, at demograpiko, at ang mga mas mataas na alalahanin sa privacy..."
Bilang karagdagan sa Azure Face, ang Custom Neural Voice ng Microsoft ay makakakita ng mga katulad na paghihigpit. Custom na Neural Voice (bubukas sa bagong tab) ay isang text-to-speech app na nakakagulat na parang buhay. Ngayon ang serbisyo ay magiging limitado sa ilang piling “pinamamahalaang mga customer at kasosyo,” na mga taong direktang nakikipagtulungan sa mga team ng account ng Microsoft. Sinasabi ng kumpanya na habang ang teknolohiya ay may malaking potensyal, maaari itong gamitin upang magpanggap. Upang patuloy na magkaroon ng access sa Neural Voice, lahat ng umiiral na customer ay dapat magsumite ng form ng paggamit at maaprubahan ng Microsoft. Kailangang maaprubahan sila hanggang Hunyo 30, 2023, at kung hindi sila pipiliin, hindi na magkakaroon ng access ang mga customer na ito sa Neural Voice.
Inaayos pa
Sa kabila ng lahat ng sinabi, hindi lubos na tinatalikuran ng Microsoft ang teknolohiyang pagkilala sa mukha nito. Ang anunsyo ay nauukol lamang sa pampublikong pag-access. Si Sarah Bird, na siyang Principal Group Project Manager sa Azure AI, nagsulat tungkol sa responsableng pagkilala sa mukha (bubukas sa bagong tab) . At sa post na iyon, sinabi niya na "Kinikilala ng Microsoft ang mga kakayahan na ito ay maaaring maging mahalaga kapag ginamit para sa isang hanay ng mga kontroladong sitwasyon ng accessibility." Isa sa mga senaryo na ito, ayon sa isang kinatawan, ay Nakikita ang Ai (bubukas sa bagong tab) na isang iOS app na tumutulong sa mga may kapansanan sa paningin sa pagtukoy ng mga tao at bagay sa kanilang paligid.
Nakatutuwang makita ang isa pang higanteng tech na kinikilala ang mga problema sa pagkilala sa mukha at ang potensyal ng pang-aabuso. May ginawa ang IBM na katulad noong 2020, kahit na ang diskarte nito ay mas ganap.
Bumalik sa 2020, Inanunsyo ng IBM na inabandona nito ang trabaho sa facial recognition dahil natatakot ang kumpanya na baka magamit ito sa maling paraan para sa mass surveillance. Isang panalo para sa mga kritiko sa anti-facial recognition na makita ang dalawang titans ng industriya na inalis ang teknolohiyang ito. Kung interesado kang matuto nang higit pa tungkol sa AI, nag-publish kamakailan ang TechRadar ng isang piraso sa kung ano ang magagawa nito para sa cybersecurity.