Η Microsoft ενημερώνει το Responsible AI Standard της και αποκάλυψε ότι αποσύρει τις συναισθηματικές ικανότητες και τις ικανότητες αναγνώρισης προσώπου του Azure Face (ως επί το πλείστον).
Η Υπεύθυνο Πρότυπο AI (ανοίγει σε νέα καρτέλα) είναι το εσωτερικό σύνολο κανόνων της Microsoft όταν πρόκειται για την κατασκευή συστημάτων AI. Η εταιρεία θέλει η τεχνητή νοημοσύνη να είναι μια θετική δύναμη στον κόσμο και να μην γίνεται ποτέ κατάχρηση από κακούς ηθοποιούς. Είναι ένα πρότυπο που δεν έχει κοινοποιηθεί ποτέ στο κοινό στο παρελθόν. Ωστόσο, με αυτή τη νέα αλλαγή, η Microsoft αποφάσισε ότι τώρα θα ήταν η ώρα.
Το λογισμικό αναγνώρισης συναισθημάτων και προσώπου υπήρξε, τουλάχιστον, αμφιλεγόμενο. Υπάρχουν πολλοί οργανισμοί που ζητούν την απαγόρευση αυτής της τεχνολογίας. Καταπολέμηση του μέλλοντος , Για παράδειγμα, έγραψε μια ανοιχτή επιστολή τον Μάιο ζητώντας από το Zoom να σταματήσει τη δική του ανάπτυξη λογισμικού παρακολούθησης συναισθημάτων και το χαρακτήρισε «επεμβατικό» και «παραβίαση της ιδιωτικής ζωής και των ανθρωπίνων δικαιωμάτων».
Αλλαγή πολιτικής
Όπως έχει διατυπωθεί, η Microsoft θα επεξεργαστεί εκ νέου την υπηρεσία Azure Face για να ανταποκριθεί στις απαιτήσεις του νέου της Προτύπου Responsible AI. Πρώτον, η εταιρεία καταργεί την πρόσβαση του κοινού στη δυνατότητα σάρωσης συναισθημάτων του AI. Δεύτερον, το Azure Face δεν θα είναι πλέον σε θέση να αναγνωρίσει τα χαρακτηριστικά του προσώπου ενός ατόμου, όπως «φύλο, ηλικία, [ένα] χαμόγελο, τρίχες προσώπου, μαλλιά και μακιγιάζ».
Ο λόγος για τη συνταξιοδότηση είναι επειδή η παγκόσμια επιστημονική κοινότητα δεν έχει ακόμη μια σαφή «συναίνεση για τον ορισμό των «συναισθημάτων»». Η Natasha Cramption, Chief Responsible AI Officer της Microsoft, δήλωσε ότι ειδικοί από το εσωτερικό και το εξωτερικό της εταιρείας έχουν εκφράσει τις ανησυχίες τους. Το πρόβλημα είναι «οι προκλήσεις σχετικά με τον τρόπο με τον οποίο τα συμπεράσματα γενικεύονται σε περιπτώσεις χρήσης, περιοχών και δημογραφικών στοιχείων, και οι αυξημένες ανησυχίες για το απόρρητο…»
Εκτός από το Azure Face, το Custom Neural Voice της Microsoft θα έχει παρόμοιους περιορισμούς. Προσαρμοσμένη νευρωνική φωνή (ανοίγει σε νέα καρτέλα) είναι μια εφαρμογή μετατροπής κειμένου σε ομιλία που είναι σοκαριστικά ζωντανή. Τώρα η υπηρεσία θα περιορίζεται σε ορισμένους «διαχειριζόμενους πελάτες και συνεργάτες», που είναι άτομα που εργάζονται απευθείας με τις ομάδες λογαριασμών της Microsoft. Η εταιρεία δηλώνει ότι ενώ η τεχνολογία έχει μεγάλες δυνατότητες, μπορεί να χρησιμοποιηθεί για την πλαστοπροσωπία. Για να συνεχίσουν να έχουν πρόσβαση στο Neural Voice, όλοι οι υπάρχοντες πελάτες πρέπει να υποβάλουν μια φόρμα πρόσληψης και να λάβουν έγκριση από τη Microsoft. Πρέπει να εγκριθούν έως τις 30 Ιουνίου 2023 και αν δεν επιλεγούν, αυτοί οι πελάτες δεν θα έχουν πλέον πρόσβαση στο Neural Voice.
Ακόμα στα σκαριά
Παρά όλα όσα ειπώθηκαν, η Microsoft δεν εγκαταλείπει εντελώς την τεχνολογία αναγνώρισης προσώπου. Η ανακοίνωση αφορά μόνο την πρόσβαση του κοινού. Η Sarah Bird, η οποία είναι η Principal Group Project Manager στο Azure AI, έγραψε για την υπεύθυνη αναγνώριση προσώπου (ανοίγει σε νέα καρτέλα) . Και σε αυτή τη δημοσίευση, δηλώνει «Η Microsoft αναγνωρίζει ότι αυτές οι δυνατότητες μπορεί να είναι πολύτιμες όταν χρησιμοποιούνται για ένα σύνολο σεναρίων ελεγχόμενης προσβασιμότητας». Ένα από αυτά τα σενάρια, σύμφωνα με εκπρόσωπο, είναι Βλέποντας το AI (ανοίγει σε νέα καρτέλα) που είναι μια εφαρμογή iOS που βοηθά τα άτομα με προβλήματα όρασης να αναγνωρίζουν άτομα και αντικείμενα γύρω τους.
Είναι καλό να βλέπουμε έναν άλλο τεχνολογικό γίγαντα να αναγνωρίζει τα προβλήματα με την αναγνώριση προσώπου και την πιθανότητα κατάχρησης. Η IBM έκανε κάτι παρόμοιο το 2020, αν και η προσέγγισή της ήταν πιο απόλυτη.
Πίσω στο 2020, Η IBM ανακοίνωσε ότι εγκαταλείπει την εργασία σχετικά με την αναγνώριση προσώπου, επειδή η εταιρεία φοβόταν ότι θα μπορούσε να γίνει κατάχρηση για μαζική παρακολούθηση. Βλέποντας αυτούς τους δύο τιτάνες της βιομηχανίας να απαλλαγούν από αυτήν την τεχνολογία είναι μια νίκη για τους κριτικούς κατά της αναγνώρισης προσώπου. Εάν ενδιαφέρεστε να μάθετε περισσότερα για την τεχνητή νοημοσύνη, η TechRadar δημοσίευσε πρόσφατα ένα άρθρο σχετικά με το τι μπορεί να κάνει για την ασφάλεια στον κυβερνοχώρο.