Microsoft werkt zijn Responsible AI-standaard bij en onthulde dat het de emotionele en gezichtsherkenningsmogelijkheden van Azure Face (voor het grootste deel) met pensioen gaat.
De Verantwoordelijke AI-standaard (opent in nieuw tabblad) is de interne regelset van Microsoft als het gaat om het bouwen van AI-systemen. Het bedrijf wil dat AI een positieve kracht in de wereld is en nooit misbruikt wordt door slechte acteurs. Het is een standaard die nog nooit eerder met het publiek is gedeeld. Met deze nieuwe wijziging besloot Microsoft echter dat dit het juiste moment zou zijn.
Software voor emotionele en gezichtsherkenning is op zijn zachtst gezegd controversieel. Er zijn meerdere organisaties die oproepen om deze technologie te verbieden. Vecht voor de toekomst Bijvoorbeeld schreef in mei een open brief waarin hij Zoom vroeg om te stoppen met zijn eigen ontwikkeling van software voor het volgen van emoties en noemde het "invasief" en "een schending van privacy en mensenrechten".
Beleidswijziging
Zoals het is uiteengezet, zal Microsoft zijn Azure Face-service herwerken om te voldoen aan de vereisten van zijn nieuwe Responsible AI-standaard. Ten eerste verwijdert het bedrijf de openbare toegang tot de emotiescanfunctie van de AI. Ten tweede kan Azure Face niet langer de gezichtskenmerken van een persoon identificeren, waaronder "geslacht, leeftijd, [een] glimlach, gezichtshaar, haar en make-up."
De reden voor de pensionering is dat de wereldwijde wetenschappelijke gemeenschap nog steeds geen duidelijke "consensus heeft over de definitie van 'emoties'". Natasha Cramption, Chief Responsible AI Officer bij Microsoft, zei dat experts van binnen en buiten het bedrijf hun zorgen hebben geuit. Het probleem is "de uitdagingen in hoe gevolgtrekkingen generaliseren over use cases, regio's en demografische gegevens, en de verhoogde privacyzorgen..."
Naast Azure Face krijgt de Custom Neural Voice van Microsoft vergelijkbare beperkingen. Aangepaste neurale stem (opent in nieuw tabblad) is een tekst-naar-spraak-app die schokkend levensecht is. Nu is de service beperkt tot een select aantal 'beheerde klanten en partners', dit zijn mensen die rechtstreeks met de accountteams van Microsoft werken. Het bedrijf stelt dat hoewel de technologie een groot potentieel heeft, deze kan worden gebruikt om zich voor te doen. Om toegang te houden tot Neural Voice, moeten alle bestaande klanten een intakeformulier indienen en worden goedgekeurd door Microsoft. Ze moeten vóór 30 juni 2023 worden goedgekeurd en als ze niet worden geselecteerd, hebben deze klanten geen toegang meer tot Neural Voice.
Nog steeds in de maak
Ondanks alles wat er is gezegd, laat Microsoft zijn gezichtsherkenningstechnologie niet helemaal varen. De aankondiging heeft alleen betrekking op openbare toegang. Sarah Bird, de Principal Group Project Manager bij Azure AI, schreef over verantwoorde gezichtsherkenning (opent in nieuw tabblad) . En in die post zegt ze: "Microsoft erkent dat deze mogelijkheden waardevol kunnen zijn wanneer ze worden gebruikt voor een reeks gecontroleerde toegankelijkheidsscenario's." Een van deze scenario's is volgens een vertegenwoordiger AI zien (opent in nieuw tabblad) dat is een iOS-app die slechtzienden helpt bij het identificeren van mensen en objecten om hen heen.
Het is goed om te zien dat een andere technologiegigant de problemen met gezichtsherkenning en het potentieel voor misbruik erkent. IBM deed in 2020 iets soortgelijks, hoewel de aanpak absoluter was.
Terug in 2020, IBM kondigde aan het werk stop te zetten op gezichtsherkenning omdat het bedrijf bang was dat het zou kunnen worden misbruikt voor massasurveillance. Zien hoe deze twee titanen van de industrie van deze technologie afkomen, is een overwinning voor critici die tegen gezichtsherkenning zijn. Als u meer wilt weten over AI: TechRadar heeft onlangs een stuk gepubliceerd over wat het kan doen voor cyberbeveiliging.
English
Arabic
Belarusian
Bengali
Bosnian
Bulgarian
Chinese (Simplified)
Croatian
Czech
Danish
Dutch
English
Estonian
Filipino
Finnish
French
Georgian
German
Greek
Gujarati
Hausa
Hebrew
Hindi
Hmong
Hungarian
Igbo
Indonesian
Italian
Japanese
Javanese
Kazakh
Korean
Kurdish (Kurmanji)
Kyrgyz
Lao
Latvian
Lithuanian
Macedonian
Malagasy
Norwegian
Persian
Polish
Portuguese
Punjabi
Romanian
Russian
Serbian
Slovak
Slovenian
Spanish
Swedish
Thai
Turkish
Ukrainian
Vietnamese
Yoruba