Microsoft vil begrense noen av funksjonene for ansiktsgjenkjenning i navnet "Responsible AI"

Microsoft fjerner noen funksjoner fra AI-tjenesten for å sikre at ansiktsgjenkjenningsteknologien oppfyller etiske AI-retningslinjer. Microsoft planlegger å begrense visse funksjoner for ansiktsgjenkjenning for nye brukere som starter denne uken og for eksisterende brukere innen et år.

Fra og med i dag, 21. juni, må nye kunder søke om tilgang for å bruke ansiktsgjenkjenningsoperasjoner i Azure Face-applikasjonsprogrammeringsgrensesnittet, Computer Vision og Video Indexer, ifølge et nytt blogginnlegg, og eksisterende kunder har et år på seg til å søke og få godkjenning for fortsatt tilgang til disse tjenestene basert på deres brukstilfeller. Microsoft-tjenestemenn sa at de tror å begrense tilgangen vil legge til et ekstra lag med gransking for ansiktsgjenkjenningstjenestene som vil alliere seg med selskapets Ansvarlig AI-standard. Fra og med 30. juni 2023 vil ikke eksisterende kunder få tilgang til funksjoner for ansiktsgjenkjenning hvis søknaden deres ikke er godkjent. 

Det er noen ansiktsgjenkjenningsteknologier, for eksempel å oppdage uskarphet, eksponering, briller, hodepositur, landemerker, støy, okklusjon og ansiktsavgrensning som ikke krever en applikasjon.

Microsofts tjenestemenn sa også at de kvitter seg med funksjoner for ansiktsanalyse designet for å utlede følelsesmessige tilstander og attributter som kjønn, alder, smil, ansiktshår og sminke. De sa at denne typen evner reiser spørsmål rundt personvern, mangel på avtalte definisjoner og manglende evne til å generalisere koblinger. Slike funksjoner kan lettere misbrukes og skape stereotypier, diskriminerende problemer og urettferdig nektelse av tjenester, sa tjenestemenn. Disse funksjonene er ikke lenger tilgjengelige for nye kunder fra og med 21. juni i år og vil ikke være tilgjengelige for eksisterende brukere etter 30. juni 2023. Microsoft vil fortsette å tillate at noen av disse teknologiene er tilgjengelige via integrering i visse tjenester for funksjonshemmede som Seeing AI-appen.

Microsoft råder kunder til å bruke verktøy og ressurser som Fairlearn-pakken med åpen kildekode og Microsofts Fairness Dashboard for å forstå hvordan Azure Cognitive Services best kan brukes rettferdig. Microsoft har også et nytt programmeringsgrensesnitt for anerkjennelseskvalitet for å flagge potensielle problemer med belysning, uskarphet og andre bildekvalitetsproblemer som kan påvirke visse demografiske grupper mer enn andre, sa tjenestemenn.