Microsoft актуализира своя стандарт за отговорен изкуствен интелект и разкри, че оттегля способностите за емоционално и лицево разпознаване на Azure Face (в по-голямата си част).
- Стандарт за отговорен AI (отваря се в нов раздел) е вътрешен набор от правила на Microsoft, когато става въпрос за изграждане на AI системи. Компанията иска AI да бъде положителна сила в света и никога да не бъде злоупотребяван от лоши актьори. Това е стандарт, който никога преди не е бил споделян с обществеността. С тази нова промяна обаче Microsoft реши, че сега е моментът.
Софтуерът за емоционално и лицево разпознаване е меко казано спорен. Има множество организации, които призовават тази технология да бъде забранена. Борба за бъдещето , Например, написа отворено писмо през май, в което поиска от Zoom да спре собственото си разработване на софтуер за проследяване на емоционални преживявания и го нарече „инвазивен“ и „нарушение на неприкосновеността на личния живот и човешките права“.
Промяна на политиката
Както е посочено, Microsoft ще преработи своята услуга Azure Face, за да отговори на изискванията на своя нов стандарт за отговорен AI. Първо, компанията премахва публичния достъп до способността на AI за сканиране на емоции. Второ, Azure Face вече няма да може да идентифицира характеристиките на лицето на човек, включително „пол, възраст, усмивка, окосмяване по лицето, прическа и грим“.
Причината за пенсионирането е, че световната научна общност все още няма ясен „консенсус относно определението за „емоции““. Наташа Крампион, главен отговорен директор по изкуствен интелект в Microsoft, каза, че експерти отвътре и извън компанията са изразили своите опасения. Проблемът е „предизвикателствата в начина, по който изводите се обобщават в случаи на употреба, региони и демографски данни, и повишените опасения за поверителността…“
В допълнение към Azure Face, Custom Neural Voice на Microsoft ще има подобни ограничения. Персонализиран невронен глас (отваря се в нов раздел) е приложение за преобразуване на текст в говор, което е шокиращо реалистично. Сега услугата ще бъде ограничена до няколко избрани „управлявани клиенти и партньори“, които са хора, които работят директно с екипите за акаунти на Microsoft. Компанията заявява, че въпреки че технологията има голям потенциал, тя може да бъде използвана за имитиране. За да продължат да имат достъп до Neural Voice, всички съществуващи клиенти трябва да изпратят формуляр за прием и да получат одобрение от Microsoft. Те трябва да бъдат одобрени до 30 юни 2023 г. и ако не бъдат избрани, тези клиенти вече няма да имат достъп до Neural Voice.
Все още се работи
Въпреки всичко казано, Microsoft не се отказва напълно от технологията си за разпознаване на лица. Съобщението се отнася само за публичен достъп. Сара Бърд, която е главният мениджър на групови проекти в Azure AI, писа за отговорното лицево разпознаване (отваря се в нов раздел) . И в тази публикация тя заявява, че „Microsoft признава, че тези възможности могат да бъдат ценни, когато се използват за набор от сценарии за контролирана достъпност.“ Един от тези сценарии, според представител, е Виждайки AI (отваря се в нов раздел) което е приложение за iOS, което помага на хората с увредено зрение да идентифицират хората и предметите около тях.
Хубаво е да видим друг технологичен гигант, който разпознава проблемите с лицевото разпознаване и потенциала за злоупотреба. IBM направи нещо подобно през 2020 г., въпреки че подходът й беше по-абсолютен.
Назад в 2020, IBM обяви, че прекратява работа върху лицевото разпознаване, тъй като компанията се страхуваше, че може да бъде злоупотребено за масово наблюдение. Виждането на тези двама титани в индустрията да се отърват от тази технология е победа за критиците против разпознаването на лица. Ако се интересувате да научите повече за AI, TechRadar наскоро публикува материал за това какво може да направи за киберсигурността.
English
Arabic
Belarusian
Bengali
Bosnian
Bulgarian
Chinese (Simplified)
Croatian
Czech
Danish
Dutch
English
Estonian
Filipino
Finnish
French
Georgian
German
Greek
Gujarati
Hausa
Hebrew
Hindi
Hmong
Hungarian
Igbo
Indonesian
Italian
Japanese
Javanese
Kazakh
Korean
Kurdish (Kurmanji)
Kyrgyz
Lao
Latvian
Lithuanian
Macedonian
Malagasy
Norwegian
Persian
Polish
Portuguese
Punjabi
Romanian
Russian
Serbian
Slovak
Slovenian
Spanish
Swedish
Thai
Turkish
Ukrainian
Vietnamese
Yoruba