Το Facebook αποτυγχάνει να εντοπίσει βίαιες ρητορικές μίσους σε διαφημίσεις που υποβάλλονται από μη κερδοσκοπικές ομάδες

Η δοκιμή δεν θα μπορούσε να είναι πολύ πιο εύκολη — και το Facebook παρόλα αυτά απέτυχε. Το Facebook και η μητρική του εταιρεία Meta απέτυχαν για άλλη μια φορά σε μια δοκιμή για το πόσο καλά μπορούσαν να εντοπίσουν προφανώς βίαιη ρητορική μίσους σε διαφημίσεις που υποβλήθηκαν στην πλατφόρμα από τις μη κερδοσκοπικές ομάδες Global Witness και Foxglove.

Τα μηνύματα μίσους επικεντρώθηκαν στην Αιθιοπία, όπου εσωτερικά έγγραφα που έλαβε η πληροφοριοδότης Φράνσις Χάουγκεν έδειξαν ότι η αναποτελεσματική μετριοπάθεια του Facebook «υποστηρίζει κυριολεκτικά την εθνική βία», όπως είπε στην κατάθεσή της στο Κογκρέσο το 2021. Τον Μάρτιο, η Global Witness πραγματοποίησε ένα παρόμοιο τεστ με ρητορική μίσους στη Μιανμάρ, το οποίο επίσης το Facebook απέτυχε να εντοπίσει.

Η ομάδα δημιούργησε 12 διαφημίσεις βασισμένες σε κείμενο που χρησιμοποίησαν απανθρωπιστική ρητορική μίσους για να ζητήσουν τη δολοφονία ανθρώπων που ανήκουν σε καθεμία από τις τρεις κύριες εθνοτικές ομάδες της Αιθιοπίας - τους Amhara, τους Oromo και τους Tigrayans. Τα συστήματα του Facebook ενέκριναν τις διαφημίσεις για δημοσίευση, όπως ακριβώς έκαναν και με τις διαφημίσεις της Μιανμάρ. Οι διαφημίσεις στην πραγματικότητα δεν δημοσιεύτηκαν στο Facebook.

Αυτή τη φορά, όμως, η ομάδα ενημέρωσε τον Μέτα για τις παραβιάσεις που δεν εντοπίστηκαν. Η εταιρεία είπε ότι οι διαφημίσεις δεν θα έπρεπε να έχουν εγκριθεί και υπέδειξε τη δουλειά που έχει κάνει για να πιάσει περιεχόμενο μίσους στις πλατφόρμες της.

Μια εβδομάδα μετά την ακρόαση της Meta, η Global Witness υπέβαλε δύο ακόμη διαφημίσεις για έγκριση, πάλι με κραυγαλέα ρητορική μίσους. Οι δύο διαφημίσεις, γραμμένες στα Αμχαρικά, την πιο ευρέως χρησιμοποιούμενη γλώσσα στην Αιθιοπία, εγκρίθηκαν.

Ο Meta είπε ότι οι διαφημίσεις δεν έπρεπε να έχουν εγκριθεί.

«Έχουμε επενδύσει πολλά σε μέτρα ασφαλείας στην Αιθιοπία, προσθέτοντας περισσότερο προσωπικό με τοπική τεχνογνωσία και χτίζοντας την ικανότητά μας να συλλαμβάνουμε μίσος και εμπρηστικό περιεχόμενο στις πιο ευρέως ομιλούμενες γλώσσες, συμπεριλαμβανομένης της αμχαρικής», ανέφερε η εταιρεία σε δήλωση που εστάλη μέσω email, προσθέτοντας ότι οι μηχανές και οι άνθρωποι μπορούν ακόμα να κάνουν λάθη. Η δήλωση ήταν πανομοιότυπη με αυτή που έλαβε η Global Witness.

«Επιλέξαμε τις χειρότερες περιπτώσεις που μπορούσαμε να σκεφτούμε», είπε η Rosie Sharpe, ακτιβίστρια στο Global Witness. «Αυτές που θα έπρεπε να είναι πιο εύκολο να εντοπίσει το Facebook. Δεν ήταν κωδικοποιημένη γλώσσα. Δεν ήταν σφυρίγματα σκύλων. Ήταν σαφείς δηλώσεις που έλεγαν ότι αυτός ο τύπος ανθρώπου δεν είναι άνθρωπος ή ότι αυτοί οι τύποι ανθρώπων πρέπει να πεθάνουν από την πείνα».

Η Meta αρνείται σταθερά να πει πόσους συντονιστές περιεχομένου έχει σε χώρες όπου τα αγγλικά δεν είναι η κύρια γλώσσα. Αυτό περιλαμβάνει συντονιστές στην Αιθιοπία, τη Μιανμάρ και άλλες περιοχές όπου υλικό που δημοσιεύτηκε στις πλατφόρμες της εταιρείας έχει συνδεθεί με βία στον πραγματικό κόσμο.

Τον Νοέμβριο, η Meta είπε ότι αφαίρεσε μια θέση του πρωθυπουργού της Αιθιοπίας που παρότρυνε τους πολίτες να ξεσηκωθούν και να «θάψουν» τις αντίπαλες δυνάμεις Tigray που απείλησαν την πρωτεύουσα της χώρας.

Στην ανάρτηση που διαγράφηκε έκτοτε, ο Abiy είπε ότι «η υποχρέωση να πεθάνεις για την Αιθιοπία ανήκει σε όλους μας». Κάλεσε τους πολίτες να κινητοποιηθούν «κρατώντας οποιοδήποτε όπλο ή ικανότητα».

Ωστόσο, ο Abiy συνέχισε να δημοσιεύει στην πλατφόρμα, όπου έχει 4.1 εκατομμύρια ακόλουθους. Οι ΗΠΑ και άλλοι έχουν προειδοποιήσει την Αιθιοπία για «απανθρωπιστική ρητορική» αφού ο πρωθυπουργός περιέγραψε τις δυνάμεις Tigray ως «καρκίνο» και «ζιζάνια» σε σχόλια που έγιναν τον Ιούλιο του 2021.

«Όταν οι διαφημίσεις που καλούν για γενοκτονία στην Αιθιοπία περνούν επανειλημμένα από το δίκτυο του Facebook —ακόμα και μετά την επισήμανση του θέματος με το Facebook— υπάρχει μόνο ένα πιθανό συμπέρασμα: δεν υπάρχει κανείς στο σπίτι», δήλωσε η Rosa Curling, διευθύντρια του Foxglove, μιας νομικής μη κερδοσκοπικής εταιρείας με έδρα το Λονδίνο που συνεργάζεται. με την Global Witness στην έρευνά της. «Χρόνια μετά τη γενοκτονία της Μιανμάρ, είναι σαφές ότι το Facebook δεν έχει μάθει το μάθημά του».