Microsoft akan membatasi beberapa kemampuan pengenalan wajahnya atas nama 'AI yang Bertanggung Jawab'

Microsoft menghapus beberapa fitur dari layanan AI-nya untuk memastikan bahwa teknologi pengenalan wajah memenuhi pedoman etika AI. Microsoft berencana untuk membatasi kemampuan pengenalan wajah tertentu untuk pengguna baru mulai minggu ini dan untuk pengguna lama dalam setahun.

Mulai hari ini, 21 Juni, pelanggan baru perlu mengajukan akses untuk menggunakan operasi pengenalan wajah di antarmuka pemrograman aplikasi Azure Face, Computer Vision dan Video Indexer, menurut posting blog baru, dan pelanggan yang sudah ada memiliki waktu satu tahun untuk mendaftar dan mendapatkan persetujuan untuk melanjutkan akses ke layanan ini berdasarkan kasus penggunaannya. Pejabat Microsoft mengatakan mereka percaya membatasi akses akan menambah lapisan pengawasan tambahan untuk layanan pengenalan wajah yang akan bersekutu dengan perusahaan. Standar AI yang Bertanggung Jawab. Mulai 30 Juni 2023, pelanggan lama tidak akan dapat mengakses kemampuan pengenalan wajah jika permohonan mereka belum disetujui. 

Ada beberapa teknologi pengenalan wajah, seperti mendeteksi kekaburan, paparan, kacamata, pose kepala, tengara, kebisingan, oklusi, dan pembatas wajah yang tidak memerlukan aplikasi.

Pejabat Microsoft juga mengatakan mereka menyingkirkan kemampuan analisis wajah yang dirancang untuk menyimpulkan keadaan emosi dan atribut seperti jenis kelamin, usia, senyum, rambut wajah, dan riasan. Mereka mengatakan kemampuan semacam ini menimbulkan pertanyaan seputar privasi, kurangnya definisi yang disepakati, dan ketidakmampuan untuk menggeneralisasi hubungan. Fitur semacam ini dapat lebih mudah disalahgunakan dan menciptakan stereotip, masalah diskriminatif, dan penolakan layanan yang tidak adil, kata para pejabat. Kemampuan ini tidak lagi tersedia untuk pelanggan baru mulai 21 Juni tahun ini dan tidak akan tersedia untuk pengguna lama setelah 30 Juni 2023. Microsoft akan terus mengizinkan beberapa teknologi ini tersedia melalui integrasi ke layanan tertentu untuk penyandang disabilitas seperti aplikasi Seeing AI-nya.

Microsoft menyarankan pelanggan untuk menggunakan alat dan sumber daya seperti paket Fairlearn sumber terbuka dan Dasbor Kewajaran Microsoft untuk memahami cara terbaik agar Layanan Kognitif Azure dapat digunakan secara adil. Microsoft juga memiliki antarmuka pemrograman Recognition Quality baru untuk menandai potensi masalah dengan pencahayaan, keburaman, dan masalah kualitas gambar lainnya yang dapat memengaruhi kelompok demografis tertentu lebih dari yang lain, kata para pejabat.