Microsoft сократит некоторые из своих возможностей распознавания лиц во имя «ответственного ИИ»

Microsoft удаляет некоторые функции из своей службы искусственного интеллекта, чтобы гарантировать, что ее технология распознавания лиц соответствует этическим принципам искусственного интеллекта. Microsoft планирует сократить некоторые возможности распознавания лиц для новых пользователей, начиная с этой недели, и для существующих пользователей в течение года.

Начиная с сегодняшнего дня, 21 июня, новым клиентам необходимо будет подать заявку на доступ к использованию операций распознавания лиц в интерфейсе программирования приложений Azure Face, Computer Vision и Video Indexer, согласно новому сообщению в блоге, а у существующих клиентов есть год, чтобы подать заявку и получить разрешение на постоянный доступ к этим услугам на основе вариантов их использования. Чиновники Microsoft заявили, что, по их мнению, ограничение доступа добавит дополнительный уровень контроля за ее службами распознавания лиц, которые будут в союзе с компанией. Стандарт ответственного ИИ. С 30 июня 2023 года существующие клиенты не смогут получить доступ к функциям распознавания лиц, если их заявка не была одобрена. 

Существуют некоторые технологии распознавания лиц, такие как обнаружение размытия, экспозиции, очков, положения головы, ориентиров, шума, окклюзии и границ лица, для которых не требуется приложение.

Чиновники Microsoft также заявили, что избавляются от возможностей анализа лица, предназначенных для определения эмоциональных состояний и атрибутов, таких как пол, возраст, улыбка, растительность на лице и макияж. Они сказали, что такие возможности вызывают вопросы о конфиденциальности, отсутствии согласованных определений и невозможности обобщить связи. По словам официальных лиц, такими функциями легче злоупотреблять и создавать стереотипы, дискриминационные проблемы и несправедливый отказ в обслуживании. Эти возможности больше не будут доступны для новых клиентов с 21 июня этого года и не будут доступны для существующих пользователей после 30 июня 2023 года. Microsoft продолжит предоставлять доступ к некоторым из этих технологий посредством интеграции в определенные службы для людей с ограниченными возможностями. например, приложение Seeing AI.

Microsoft рекомендует клиентам использовать такие инструменты и ресурсы, как пакет Fairlearn с открытым исходным кодом и панель Microsoft Fairness Dashboard, чтобы понять, как разумно использовать Azure Cognitive Services. По словам официальных лиц, у Microsoft также есть новый программный интерфейс Recognition Quality, чтобы отмечать потенциальные проблемы с освещением, размытием и другими проблемами качества изображения, которые могут повлиять на определенные демографические группы больше, чем на другие.