Майкрософт өзінің жауапты AI стандартын жаңартып жатыр және Azure Face эмоционалды және бет-әлпетті тану мүмкіндіктерін (көбінесе) өшіретінін көрсетті.
The Жауапты AI стандарты (жаңа қойындыда ашылады) AI жүйелерін құруға қатысты Microsoft корпорациясының ішкі ережелер жинағы. Компания AI әлемде оң күш болғанын және ешқашан жаман актерлердің теріс пайдаланбауын қалайды. Бұл бұрын-соңды жұртшылықпен бөлісілмеген стандарт. Дегенмен, осы жаңа өзгеріспен Microsoft корпорациясы дәл қазір уақыт деп шешті.
Эмоционалды және бет-әлпетті тану бағдарламалық жасақтамасы, аз дегенде, даулы болды. Бұл технологияға тыйым салуды талап ететін көптеген ұйымдар бар. Болашақ үшін күрес , Мысалға, Мамыр айында Zoom-тан эмоционалды бақылау бағдарламалық жасақтамасын әзірлеуді тоқтатуды сұраған ашық хат жазды және оны «инвазивті» және «құпиялылық пен адам құқықтарын бұзу» деп атады.
Саясаттың өзгеруі
Белгіленгендей, Microsoft корпорациясы жаңа Жауапты AI стандартының талаптарына сәйкес келетін Azure Face қызметін қайта өңдейді. Біріншіден, компания AI-ның эмоцияларды сканерлеу мүмкіндігіне қоғамдық қолжетімділікті жояды. Екіншіден, Azure Face бұдан былай адамның бет ерекшеліктерін, соның ішінде «жынысы, жасы, [a] күлкі, бет шашы, шашы және макияжын» анықтай алмайды.
Зейнеткерлікке шығу себебі – әлемдік ғылыми қауымдастықтың әлі күнге дейін «эмоциялардың» анықтамасы бойынша нақты консенсусқа ие болмауында. Наташа Крамптион, Microsoft корпорациясының AI жөніндегі бас жауапты қызметкері компанияның ішінен және сыртындағы сарапшылар өздерінің алаңдаушылықтарын білдіргенін айтты. Мәселе «пайдалану жағдайлары, аймақтар және демографиялық көрсеткіштер бойынша қорытындыларды қалай жалпылаудағы қиындықтар және құпиялылыққа қатысты мәселелердің күшеюі...»
Azure Face-тен басқа, Microsoft корпорациясының пайдаланушы нейрондық дауысы ұқсас шектеулерді көреді. Арнаулы нейрондық дауыс (жаңа қойындыда ашылады) мәтіннен сөйлеуге арналған қолданба, ол таң қалдырарлықтай өмірге ұқсайды. Енді қызмет Microsoft тіркелгі топтарымен тікелей жұмыс істейтін адамдар болып табылатын таңдаулы бірнеше «басқарылатын тұтынушылар мен серіктестермен» шектеледі. Компания бұл технологияның әлеуеті зор болғанымен, оның кейпін көрсету үшін қолданылуы мүмкін екенін айтады. Нейрондық дауысқа қол жеткізуді жалғастыру үшін барлық бар тұтынушылар қабылдау пішінін жіберуі және Microsoft корпорациясының мақұлдауын алуы керек. Олар 30 жылдың 2023 маусымына дейін мақұлдануы керек және олар таңдалмаса, бұл тұтынушылар енді Neural Voice қолданбасын пайдалана алмайды.
Әлі жұмыс үстінде
Айтылғанның бәріне қарамастан, Microsoft бет-әлпетті тану технологиясынан мүлде бас тартқан жоқ. Хабарландыру тек жалпыға қолжетімділікке қатысты. Сара Берд, Azure AI компаниясының негізгі топ жобасының менеджері. жауапты тұлғаны тану туралы жазды (жаңа қойындыда ашылады) . Және бұл постта ол «Microsoft бұл мүмкіндіктерді басқарылатын қол жетімділік сценарийлері үшін пайдаланған кезде құнды болуы мүмкін екенін мойындайды» дейді. Өкілдің айтуынша, осы сценарийлердің бірі AI көру (жаңа қойындыда ашылады) Бұл көру қабілеті нашар адамдарға айналадағы адамдар мен заттарды анықтауға көмектесетін iOS қолданбасы.
Басқа технологиялық алпауыттың бет-әлпетті тану проблемалары мен теріс пайдалану мүмкіндігін мойындайтынын көру жақсы. IBM 2020 жылы ұқсас нәрсені жасады, дегенмен оның тәсілі абсолютті болды.
Артқа 2020, IBM жұмыстан бас тартқанын хабарлады бет-әлпетті тану туралы, өйткені компания оны жаппай бақылау үшін теріс пайдаланылуы мүмкін деп қорықты. Саланың осы екі титанының осы технологиядан құтылғанын көру - бет-әлпетті тануға қарсы сыншылар үшін жеңіс. Егер сіз AI туралы көбірек білгіңіз келсе, TechRadar жақында киберқауіпсіздік үшін не істей алатыны туралы мақала жариялады.