Microsoft aktualizuje svoj štandard Responsible AI a odhalil, že ukončuje emocionálne schopnosti Azure Face a rozpoznávanie tváre (z väčšej časti).
Zodpovedný štandard AI (otvorí sa na novej karte) je súbor interných pravidiel spoločnosti Microsoft, pokiaľ ide o budovanie systémov AI. Spoločnosť chce, aby AI bola pozitívnou silou vo svete a aby ju nikdy nezneužívali zlí herci. Je to štandard, ktorý ešte nikdy nebol zdieľaný s verejnosťou. S touto novou zmenou sa však Microsoft rozhodol, že teraz je ten správny čas.
Softvér na rozpoznávanie emócií a tváre bol prinajmenšom kontroverzný. Existuje viacero organizácií, ktoré žiadajú zákaz tejto technológie. Boj o budúcnosť , Napríklad, v máji napísal otvorený list, v ktorom žiadal spoločnosť Zoom, aby zastavila vlastný vývoj softvéru na sledovanie emócií, a nazvala ho „invazívnym“ a „porušovaním súkromia a ľudských práv“.
Zmena zásad
Ako je uvedené, Microsoft prepracuje svoju službu Azure Face, aby spĺňala požiadavky svojho nového štandardu Responsible AI Standard. Po prvé, spoločnosť ruší verejný prístup k schopnosti AI skenovať emócie. Po druhé, Azure Face už nebude môcť identifikovať vlastnosti tváre osoby vrátane „pohlavia, veku, úsmevu, ochlpenia na tvári, vlasov a make-upu“.
Dôvodom odchodu do dôchodku je, že globálna vedecká komunita stále nemá jasný „konsenzus o definícii „emócií“. Natasha Cramption, hlavná zodpovedná riaditeľka pre AI v Microsofte, uviedla, že svoje obavy vyjadrili odborníci z vnútra aj mimo spoločnosti. Problémom sú „výzvy v tom, ako sa závery zovšeobecňujú naprieč prípadmi použitia, regiónmi a demografickými údajmi, a zvýšené obavy o súkromie...“
Okrem Azure Face budú podobné obmedzenia zaznamenať aj Custom Neural Voice od Microsoftu. Vlastný neurónový hlas (otvorí sa na novej karte) je aplikácia na prevod textu na reč, ktorá je šokujúco realistická. Teraz bude služba obmedzená na niekoľko vybraných „spravovaných zákazníkov a partnerov“, čo sú ľudia, ktorí priamo spolupracujú s tímom účtov spoločnosti Microsoft. Spoločnosť uvádza, že hoci má táto technológia veľký potenciál, môže byť použitá na odcudzenie identity. Ak si chcete zachovať prístup k Neural Voice, všetci existujúci zákazníci musia odoslať formulár prijatia a získať schválenie spoločnosťou Microsoft. Musia byť schválené do 30. júna 2023 a ak nebudú vybratí, títo zákazníci už nebudú mať prístup k Neural Voice.
Stále sa pracuje
Napriek všetkému, čo bolo povedané, Microsoft úplne neopúšťa svoju technológiu rozpoznávania tváre. Oznámenie sa týka len verejného prístupu. Sarah Bird, ktorá je hlavnou projektovou manažérkou skupiny v Azure AI, napísal o zodpovednom rozpoznávaní tváre (otvorí sa na novej karte) . A v tomto príspevku uvádza: „Microsoft si uvedomuje, že tieto schopnosti môžu byť cenné, keď sa použijú pre súbor scenárov s riadenou dostupnosťou. Jedným z týchto scenárov podľa zástupcu je Vidieť AI (otvorí sa na novej karte) čo je aplikácia pre iOS, ktorá pomáha zrakovo postihnutým identifikovať ľudí a predmety okolo nich.
Je dobré vidieť, že ďalší technologický gigant si uvedomuje problémy s rozpoznávaním tváre a potenciálom zneužitia. IBM urobila niečo podobné už v roku 2020, hoci jej prístup bol absolútnejší.
Späť v 2020, IBM oznámila, že opúšťa prácu o rozpoznávaní tváre, pretože sa spoločnosť obávala, že by mohol byť zneužitý na hromadné sledovanie. Vidieť, ako sa títo dvaja titáni tohto odvetvia zbavujú tejto technológie, je výhrou pre kritikov rozpoznávania tváre. Ak máte záujem dozvedieť sa viac o AI, TechRadar nedávno zverejnil článok o tom, čo môže urobiť pre kybernetickú bezpečnosť.