Microsoft memperbarui Standar AI yang Bertanggung Jawab dan mengungkapkan bahwa itu menghentikan kemampuan pengenalan emosi dan wajah Azure Face (sebagian besar).
Grafik Standar AI yang Bertanggung Jawab (terbuka di tab baru) adalah aturan internal Microsoft dalam hal membangun sistem AI. Perusahaan ingin AI menjadi kekuatan positif di dunia dan tidak pernah disalahgunakan oleh aktor jahat. Ini adalah standar yang belum pernah dibagikan kepada publik sebelumnya. Namun, dengan perubahan baru ini, Microsoft memutuskan sekaranglah saatnya.
Perangkat lunak pengenalan emosi dan wajah telah menjadi kontroversial, untuk sedikitnya. Ada beberapa organisasi yang menyerukan agar teknologi ini dilarang. Berjuang untuk Masa Depan , Misalnya, menulis surat terbuka pada bulan Mei yang meminta Zoom untuk menghentikan pengembangan perangkat lunak pelacakan emosionalnya sendiri dan menyebutnya "invasif" dan "pelanggaran privasi dan hak asasi manusia."
Perubahan kebijakan
Saat ditata, Microsoft akan mengerjakan ulang layanan Azure Face-nya untuk memenuhi persyaratan Standar AI Bertanggung Jawab yang baru. Pertama, perusahaan menghapus akses publik ke kemampuan pemindaian emosi AI. Kedua, Azure Face tidak lagi dapat mengidentifikasi karakteristik wajah seseorang, termasuk “jenis kelamin, usia, senyum, rambut wajah, rambut, dan riasan.”
Alasan pengunduran diri tersebut karena komunitas sains global masih belum memiliki “konsensus yang jelas tentang definisi 'emosi'”. Natasha Cramption, Chief Responsible AI Officer di Microsoft, mengatakan bahwa para ahli dari dalam dan luar perusahaan telah menyuarakan keprihatinan mereka. Masalahnya adalah "tantangan dalam bagaimana kesimpulan digeneralisasi di seluruh kasus penggunaan, wilayah, dan demografi, dan masalah privasi yang meningkat ..."
Selain Azure Face, Custom Neural Voice Microsoft akan melihat batasan serupa. Suara Neural Kustom (terbuka di tab baru) adalah aplikasi text-to-speech yang sangat nyata. Sekarang layanan akan terbatas pada beberapa "pelanggan dan mitra terkelola" terpilih, yaitu orang-orang yang bekerja secara langsung dengan tim akun Microsoft. Perusahaan menyatakan bahwa meskipun teknologinya memiliki potensi besar, teknologi tersebut dapat digunakan untuk menyamar. Untuk tetap memiliki akses ke Neural Voice, semua pelanggan yang ada harus mengirimkan formulir pendaftaran dan mendapatkan persetujuan dari Microsoft. Mereka harus disetujui paling lambat 30 Juni 2023, dan jika tidak dipilih, pelanggan ini tidak akan lagi memiliki akses ke Neural Voice.
Masih dalam pengerjaan
Terlepas dari semua yang telah dikatakan, Microsoft tidak sepenuhnya meninggalkan teknologi pengenalan wajahnya. Pengumuman hanya berkaitan dengan akses publik. Sarah Bird, yang merupakan Manajer Proyek Grup Utama di Azure AI, menulis tentang pengenalan wajah yang bertanggung jawab (terbuka di tab baru) . Dan di pos itu, dia menyatakan "Microsoft mengakui kemampuan ini bisa berharga ketika digunakan untuk serangkaian skenario aksesibilitas terkontrol." Salah satu skenario ini, menurut seorang perwakilan, adalah Melihat AI (terbuka di tab baru) yang merupakan aplikasi iOS yang membantu tunanetra mengidentifikasi orang dan objek di sekitar mereka.
Ada baiknya melihat raksasa teknologi lain mengenali masalah dengan pengenalan wajah dan potensi penyalahgunaan. IBM melakukan hal serupa pada tahun 2020, meskipun pendekatannya lebih absolut.
Kembali di 2020, IBM mengumumkan bahwa mereka meninggalkan pekerjaan pada pengenalan wajah karena perusahaan khawatir itu bisa disalahgunakan untuk pengawasan massal. Melihat dua raksasa industri ini menyingkirkan teknologi ini adalah kemenangan bagi para kritikus pengenalan wajah. Jika Anda tertarik untuk mempelajari lebih lanjut tentang AI, TechRadar baru-baru ini menerbitkan artikel tentang apa yang dapat dilakukannya untuk keamanan siber.