Microsoft oppdaterer sin Responsible AI-standard og avslørte at den trekker tilbake Azure Faces evner til følelsesmessig og ansiktsgjenkjenning (for det meste).
De Ansvarlig AI-standard (åpnes i ny fane) er Microsofts interne regelsett når det gjelder å bygge AI-systemer. Selskapet ønsker at AI skal være en positiv kraft i verden og aldri bli misbrukt av dårlige skuespillere. Det er en standard som aldri har blitt delt med offentligheten før. Men med denne nye endringen bestemte Microsoft seg for at nå ville være på tide.
Programvare for følelsesmessig og ansiktsgjenkjenning har vært kontroversiell, for å si det mildt. Det er flere organisasjoner som krever at denne teknologien skal forbys. Kjemp for fremtiden , For eksempel, skrev et åpent brev i mai der de ba Zoom om å stoppe sin egen utvikling av emosjonell sporingsprogramvare og kalte det «invasivt» og «et brudd på personvern og menneskerettigheter».
Retningslinjer
Slik det er lagt opp, vil Microsoft omarbeide Azure Face-tjenesten for å oppfylle kravene i den nye Responsible AI-standarden. For det første fjerner selskapet offentlig tilgang til AIs evne til følelsesskanning. For det andre vil Azure Face ikke lenger kunne identifisere en persons ansiktsegenskaper, inkludert «kjønn, alder, [et] smil, ansiktshår, hår og sminke».
Årsaken til pensjoneringen er fordi det globale vitenskapssamfunnet fortsatt ikke har en klar "konsensus om definisjonen av 'følelser'". Natasha Cramption, Chief Responsible AI Officer i Microsoft, sa at eksperter fra og utenfor selskapet har gitt uttrykk for bekymringene sine. Problemet er "utfordringene i hvordan slutninger generaliserer på tvers av brukstilfeller, regioner og demografi, og de økte personvernbekymringene ..."
I tillegg til Azure Face, vil Microsofts Custom Neural Voice se lignende begrensninger. Tilpasset nevral stemme (åpnes i ny fane) er en tekst-til-tale-app som er sjokkerende naturtro. Nå vil tjenesten være begrenset til noen få utvalgte "administrerte kunder og partnere", som er personer som jobber direkte med Microsofts kontoteam. Selskapet uttaler at selv om teknologien har et stort potensial, kan den brukes til å etterligne. For å fortsette å ha tilgang til Neural Voice, må alle eksisterende kunder sende inn et inntaksskjema og bli godkjent av Microsoft. De må godkjennes innen 30. juni 2023, og hvis de ikke velges, vil disse kundene ikke lenger ha tilgang til Neural Voice.
Fortsatt i arbeid
Til tross for alt som er blitt sagt, forlater ikke Microsoft ansiktsgjenkjenningsteknologien fullstendig. Kunngjøringen gjelder kun offentlighet. Sarah Bird, som er hovedgruppeprosjektleder ved Azure AI, skrev om ansvarlig ansiktsgjenkjenning (åpnes i ny fane) . Og i det innlegget uttaler hun "Microsoft innser at disse egenskapene kan være verdifulle når de brukes for et sett med kontrollerte tilgjengelighetsscenarier." Et av disse scenariene, ifølge en representant, er Ser AI (åpnes i ny fane) som er en iOS-app som hjelper synshemmede med å identifisere personer og gjenstander rundt dem.
Det er godt å se en annen teknologigigant som gjenkjenner problemene med ansiktsgjenkjenning og potensialet for misbruk. IBM gjorde noe lignende tilbake i 2020, selv om tilnærmingen var mer absolutt.
Tilbake i 2020, IBM kunngjorde at de ville forlate arbeidet på ansiktsgjenkjenning fordi selskapet var redd det kunne misbrukes til masseovervåking. Å se disse to titanene i bransjen bli kvitt denne teknologien er en seier for kritikere mot ansiktsgjenkjenning. Hvis du er interessert i å lære mer om AI, har TechRadar nylig publisert et stykke om hva det kan gjøre for cybersikkerhet.