Microsoft omezí některé ze svých schopností rozpoznávání obličeje ve jménu „Zodpovědná umělá inteligence“

Společnost Microsoft odstraňuje některé funkce ze své služby AI, aby zajistila, že její technologie rozpoznávání obličeje splňuje etické zásady AI. Microsoft plánuje omezit některé funkce rozpoznávání obličeje pro nové uživatele od tohoto týdne a pro stávající uživatele do jednoho roku.

Počínaje dneškem, 21. června, budou noví zákazníci muset žádat o přístup k používání operací rozpoznávání obličeje v rozhraní pro programování aplikací Azure Face, Computer Vision a Video Indexer, podle nového příspěvku na blogu a stávající zákazníci mají rok na to, aby požádali a získali schválení dalšího přístupu k těmto službám na základě případů jejich použití. Představitelé Microsoftu uvedli, že věří, že omezení přístupu přidá další vrstvu kontroly pro jeho služby rozpoznávání obličeje, které se spojí se službami společnosti. Odpovědný standard AI. Od 30. června 2023 nebudou mít stávající zákazníci přístup k funkcím rozpoznávání obličeje, pokud jejich aplikace nebude schválena. 

Existují některé technologie rozpoznávání obličeje, jako je detekce rozostření, expozice, brýlí, pozice hlavy, orientačních bodů, hluku, okluze a ohraničení obličeje, které nevyžadují aplikaci.

Představitelé společnosti Microsoft také uvedli, že se zbavují funkcí analýzy obličeje navržených tak, aby odvodily emoční stavy a atributy, jako je pohlaví, věk, úsměv, vousy a make-up. Řekli, že tyto druhy schopností vyvolávají otázky týkající se soukromí, nedostatku dohodnutých definic a neschopnosti zobecnit vazby. Tyto druhy funkcí by mohly být snadněji zneužity a mohly by vytvářet stereotypy, diskriminační problémy a nespravedlivé odepření služeb, uvedli úředníci. Tyto funkce již nejsou k dispozici novým zákazníkům od 21. června tohoto roku a stávajícím uživatelům nebudou k dispozici po 30. červnu 2023. Společnost Microsoft bude i nadále umožňovat, aby některé z těchto technologií byly dostupné prostřednictvím integrace do určitých služeb pro osoby se zdravotním postižením. jako jeho aplikace Seeing AI.

Microsoft radí zákazníkům, aby používali nástroje a zdroje, jako je open-source balíček Fairlearn a Microsoft Fairness Dashboard, aby pochopili, jak lze Azure Cognitive Services co nejlépe využívat spravedlivě. Microsoft má také nové programovací rozhraní Recognition Quality pro označení potenciálních problémů s osvětlením, rozostřením a dalšími problémy s kvalitou obrazu, které mohou ovlivnit určité demografické skupiny více než jiné, uvedli úředníci.