مایکروسافت در حال بهروزرسانی استاندارد هوش مصنوعی مسئول خود است و فاش کرد که تواناییهای عاطفی و تشخیص چهره Azure Face (در بیشتر موارد) را کنار میگذارد.
La استاندارد هوش مصنوعی مسئول (در برگه جدید باز می شود) مجموعه قوانین داخلی مایکروسافت در مورد ساخت سیستم های هوش مصنوعی است. این شرکت میخواهد هوش مصنوعی یک نیروی مثبت در جهان باشد و هرگز توسط بازیگران بد مورد سوء استفاده قرار نگیرد. این استانداردی است که قبلاً هرگز با مردم به اشتراک گذاشته نشده بود. با این حال، با این تغییر جدید، مایکروسافت تصمیم گرفت اکنون زمان آن است.
نرمافزار تشخیص چهره و عواطف، حداقل بحثبرانگیز بوده است. چندین سازمان وجود دارند که خواستار ممنوعیت این فناوری هستند. مبارزه برای آینده ، به عنوان مثال، در ماه می نامه ای سرگشاده نوشت و از زوم خواست تا توسعه نرم افزار ردیابی احساسات خود را متوقف کند و آن را "تهاجمی" و "نقض حریم خصوصی و حقوق بشر" خواند.
تغییر سیاست
همانطور که گفته شد، مایکروسافت سرویس Azure Face خود را برای برآورده کردن الزامات استاندارد هوش مصنوعی جدید خود دوباره کار خواهد کرد. ابتدا، این شرکت در حال حذف دسترسی عمومی به قابلیت اسکن احساسات هوش مصنوعی است. دوم، Azure Face دیگر نمیتواند ویژگیهای چهره یک فرد، از جمله جنسیت، سن، [یک] لبخند، موهای صورت، مو و آرایش را شناسایی کند.
دلیل بازنشستگی این است که جامعه علمی جهانی هنوز «اجماع واضحی در مورد تعریف «احساسات» ندارد. ناتاشا کرامپشن، مدیر ارشد هوش مصنوعی مایکروسافت، گفت که کارشناسان داخل و خارج از شرکت نگرانی های خود را بیان کرده اند. مشکل «چالشهایی است که در نحوه تعمیم استنتاجها در موارد استفاده، مناطق و جمعیتشناسی و نگرانیهای افزایش حریم خصوصی…» وجود دارد.
علاوه بر Azure Face، صدای سفارشی عصبی مایکروسافت نیز شاهد محدودیتهای مشابهی خواهد بود. صدای عصبی سفارشی (در برگه جدید باز می شود) یک برنامه تبدیل متن به گفتار است که به طرز تکان دهنده ای واقعی است. اکنون این سرویس به چند "مشتریان و شرکای مدیریت شده" محدود خواهد شد که افرادی هستند که مستقیماً با تیم های حساب مایکروسافت کار می کنند. این شرکت بیان می کند که در حالی که این فناوری پتانسیل بالایی دارد، ممکن است برای جعل هویت استفاده شود. برای ادامه دسترسی به Neural Voice، همه مشتریان فعلی باید یک فرم پذیرش ارسال کنند و توسط مایکروسافت تأیید شوند. آنها باید تا 30 ژوئن 2023 تأیید شوند و اگر انتخاب نشوند، این مشتریان دیگر به Neural Voice دسترسی نخواهند داشت.
هنوز در کار است
علیرغم همه چیزهایی که گفته شد، مایکروسافت به طور کامل فناوری تشخیص چهره خود را کنار نمی گذارد. این اطلاعیه فقط مربوط به دسترسی عمومی است. سارا برد، مدیر پروژه گروه اصلی در هوش مصنوعی Azure، در مورد تشخیص چهره مسئولانه نوشت (در برگه جدید باز می شود) . و در آن پست، او میگوید: «مایکروسافت تشخیص میدهد که این قابلیتها در صورت استفاده برای مجموعهای از سناریوهای دسترسی کنترلشده میتوانند ارزشمند باشند.» یکی از این سناریوها به گفته یکی از نمایندگان این است دیدن هوش مصنوعی (در برگه جدید باز می شود) که یک برنامه iOS است که به افراد کم بینا در شناسایی افراد و اشیاء اطرافشان کمک می کند.
خوب است که غول فناوری دیگری را ببینیم که مشکلات مربوط به تشخیص چهره و احتمال سوء استفاده را تشخیص می دهد. IBM در سال 2020 کاری مشابه انجام داد، اگرچه رویکرد آن مطلق تر بود.
بازگشت در 2020، IBM اعلام کرد که کار را رها می کند در مورد تشخیص چهره زیرا شرکت می ترسید که ممکن است برای نظارت انبوه مورد سوء استفاده قرار گیرد. دیدن این دو غول صنعت که از شر این فناوری خلاص می شوند، یک پیروزی برای منتقدان ضد تشخیص چهره است. اگر علاقه مند به کسب اطلاعات بیشتر در مورد هوش مصنوعی هستید، TechRadar اخیراً مقاله ای در مورد کارهایی که می تواند برای امنیت سایبری انجام دهد منتشر کرده است.