Microsoft ще намали някои от възможностите си за разпознаване на лица в името на „Отговорен AI“

Microsoft премахва някои функции от своята AI услуга, за да гарантира, че нейната технология за разпознаване на лица отговаря на етичните указания за AI. Microsoft планира да ограничи някои възможности за лицево разпознаване за нови потребители от тази седмица и за съществуващи потребители в рамките на една година.

От днес, 21 юни, новите клиенти ще трябва да кандидатстват за достъп, за да използват операции за разпознаване на лица в интерфейса за програмиране на приложения Azure Face, Computer Vision и Video Indexer, според нова публикация в блог, а съществуващите клиенти имат една година, за да кандидатстват и да получат одобрение за продължителен достъп до тези услуги въз основа на техните случаи на употреба. Представители на Microsoft казаха, че вярват, че ограничаването на достъпа ще добави допълнителен слой на контрол за услугите за разпознаване на лица, които ще се съюзят с услугите на компанията Стандарт за отговорен AI. От 30 юни 2023 г. съществуващите клиенти няма да имат достъп до възможностите за разпознаване на лица, ако приложението им не е одобрено. 

Има някои технологии за разпознаване на лица, като откриване на замъгляване, експозиция, очила, поза на главата, ориентири, шум, оклузия и лицево очертаване, които няма да изискват приложение.

Представители на Microsoft също казаха, че се отърват от възможностите за анализ на лицето, предназначени да определят емоционални състояния и атрибути като пол, възраст, усмивка, окосмяване по лицето и грим. Те казаха, че тези видове възможности повдигат въпроси относно поверителността, липсата на съгласувани дефиниции и невъзможността за обобщаване на връзките. Тези видове функции могат да бъдат по-лесно злоупотребени и да създадат стереотипи, дискриминационни проблеми и несправедлив отказ от услуги, казаха служители. Тези възможности вече не са достъпни за нови клиенти от 21 юни тази година и няма да бъдат достъпни за съществуващи потребители след 30 юни 2023 г. Microsoft ще продължи да позволява някои от тези технологии да бъдат достъпни чрез интегриране в определени услуги за хора с увреждания като приложението Seeing AI.

Microsoft съветва клиентите да използват инструменти и ресурси като пакета Fairlearn с отворен код и Fairness Dashboard на Microsoft, за да разберат как Azure Cognitive Services могат да бъдат използвани най-добре справедливо. Microsoft също има нов програмен интерфейс за качество на разпознаване, за да маркира потенциални проблеми с осветление, замъгляване и други проблеми с качеството на изображението, които могат да засегнат определени демографски групи повече от други, казаха служители.