Microsoft už nechce, aby umělá inteligence rozpoznávala vaše emoce – většinou

Microsoft aktualizuje svůj Responsible AI Standard a odhalil, že ukončuje emocionální schopnosti Azure Face a rozpoznávání obličejů (z větší části).

Projekt Odpovědný standard AI (otevře se na nové kartě) je interní sada pravidel společnosti Microsoft, pokud jde o vytváření systémů umělé inteligence. Společnost chce, aby umělá inteligence byla ve světě pozitivní silou a aby ji nikdy nezneužívali špatní herci. Je to standard, který ještě nikdy nebyl sdílen s veřejností. S touto novou změnou se však Microsoft rozhodl, že nyní je ten správný čas.

Software pro rozpoznávání emocí a obličejů byl přinejmenším kontroverzní. Existuje několik organizací, které požadují zákaz této technologie. Boj o budoucnost, Například, napsal v květnu otevřený dopis, v němž požádal Zoom, aby zastavil vlastní vývoj softwaru pro sledování emocí, a označil jej za „invazivní“ a „porušování soukromí a lidských práv“.

Změna zásad

Jak je uvedeno, Microsoft přepracuje svou službu Azure Face, aby splňovala požadavky svého nového standardu Responsible AI Standard. Za prvé, společnost odstraňuje veřejný přístup ke schopnosti AI skenovat emoce. Za druhé, Azure Face již nebude schopen identifikovat obličejové charakteristiky člověka, včetně „pohlaví, věku, úsměvu, vousů, vlasů a make-upu“.

Důvodem odchodu do důchodu je skutečnost, že globální vědecká komunita stále nemá jasnou „shodu na definici „emocí“. Natasha Cramption, hlavní odpovědná ředitelka pro umělou inteligenci ve společnosti Microsoft, uvedla, že své obavy vyjádřili odborníci ze společnosti i mimo ni. Problémem jsou „problémy v tom, jak se závěry zobecňují napříč případy použití, regiony a demografickými údaji, a zvýšené obavy o soukromí…“

Kromě Azure Face se podobná omezení dočká i Custom Neural Voice společnosti Microsoft. Vlastní neurální hlas (otevře se na nové kartě) je aplikace pro převod textu na řeč, která je překvapivě realistická. Nyní bude služba omezena na několik vybraných „spravovaných zákazníků a partnerů“, což jsou lidé, kteří pracují přímo s týmy účtů společnosti Microsoft. Společnost uvádí, že i když má tato technologie velký potenciál, může být použita k předstírání identity. Aby si všichni stávající zákazníci zachovali přístup k Neural Voice, musí odeslat vstupní formulář a nechat si je schválit společností Microsoft. Musí být schváleni do 30. června 2023, a pokud nebudou vybráni, tito zákazníci již nebudou mít přístup k Neural Voice.

Stále se pracuje

Navzdory všemu, co bylo řečeno, Microsoft zcela neopouští svou technologii rozpoznávání obličeje. Oznámení se týká pouze veřejného přístupu. Sarah Bird, která je hlavní projektovou manažerkou skupiny v Azure AI, napsal o zodpovědném rozpoznávání obličeje (otevře se na nové kartě). A v tomto příspěvku uvádí: „Microsoft uznává, že tyto schopnosti mohou být cenné, když se používají pro sadu scénářů řízené dostupnosti. Jedním z těchto scénářů podle zástupce je Vidět AI (otevře se na nové kartě)což je aplikace pro iOS, která pomáhá zrakově postiženým identifikovat lidi a předměty kolem nich.

Je dobré vidět dalšího technologického giganta, který si uvědomuje problémy s rozpoznáváním obličeje a potenciálem zneužití. IBM udělala něco podobného už v roce 2020, i když její přístup byl více absolutní.

Zpátky v 2020, IBM oznámila, že opouští práci o rozpoznávání obličejů, protože se společnost obávala, že by mohlo být zneužito k hromadnému sledování. Vidět, jak se tito dva titáni tohoto průmyslu zbavují této technologie, je výhrou pro kritiky rozpoznávání obličeje. Pokud se chcete dozvědět více o AI, TechRadar nedávno zveřejnil článek o tom, co může udělat pro kybernetickou bezpečnost.

Zdroj