Microsoft beperkt enkele van zijn gezichtsherkenningsmogelijkheden in naam van 'Responsible AI'

Microsoft verwijdert enkele functies uit zijn AI-service om ervoor te zorgen dat zijn gezichtsherkenningstechnologie voldoet aan ethische AI-richtlijnen. Microsoft is van plan om bepaalde mogelijkheden voor gezichtsherkenning in te perken voor nieuwe gebruikers vanaf deze week en voor bestaande gebruikers binnen een jaar.

Vanaf vandaag, 21 juni, moeten nieuwe klanten toegang aanvragen om gezichtsherkenningsbewerkingen te gebruiken in de Azure Face Application Programming Interface, Computer Vision en Video Indexer, volgens een nieuwe blogpost, en bestaande klanten hebben een jaar de tijd om zich aan te melden en toegang te krijgen goedkeuring voor blijvende toegang tot deze services op basis van hun use cases. Microsoft-functionarissen zeiden dat ze denken dat het beperken van de toegang een extra controlelaag zal toevoegen voor haar gezichtsherkenningsdiensten die zullen samenwerken met de Verantwoordelijke AI-standaard. Vanaf 30 juni 2023 hebben bestaande klanten geen toegang tot gezichtsherkenningsmogelijkheden als hun aanvraag niet is goedgekeurd. 

Er zijn enkele gezichtsherkenningstechnologieën, zoals het detecteren van onscherpte, belichting, bril, hoofdhouding, oriëntatiepunten, ruis, occlusie en gezichtsbegrenzing waarvoor geen toepassing nodig is.

Microsoft-functionarissen zeiden ook dat ze de mogelijkheden voor gezichtsanalyse die zijn ontworpen om emotionele toestanden en kenmerken zoals geslacht, leeftijd, glimlach, gezichtshaar en make-up af te leiden, afschaffen. Ze zeiden dat dit soort mogelijkheden vragen oproept over privacy, gebrek aan overeengekomen definities en het onvermogen om verbanden te generaliseren. Dit soort functies kunnen gemakkelijker worden misbruikt en leiden tot stereotypering, discriminerende kwesties en oneerlijke weigering van diensten, aldus ambtenaren. Deze mogelijkheden zijn vanaf 21 juni van dit jaar niet meer beschikbaar voor nieuwe klanten en zullen na 30 juni 2023 niet meer beschikbaar zijn voor bestaande gebruikers. Microsoft blijft toestaan ​​dat sommige van deze technologieën beschikbaar zijn via integratie in bepaalde services voor mensen met een handicap. zoals de Seeing AI-app.

Microsoft adviseert klanten om tools en bronnen zoals het open-source Fairlearn-pakket en het Fairness Dashboard van Microsoft te gebruiken om te begrijpen hoe Azure Cognitive Services het beste eerlijk kan worden gebruikt. Microsoft heeft ook een nieuwe programmeerinterface voor herkenningskwaliteit om mogelijke problemen met belichting, onscherpte en andere problemen met de beeldkwaliteit te signaleren die bepaalde demografische groepen meer kunnen treffen dan andere, aldus functionarissen.