Facebook ei suuda tuvastada vägivaldseid vihakõnesid mittetulundusühingute esitatud reklaamides

Test ei saanud olla palju lihtsam - ja Facebook ebaõnnestus endiselt. Facebook ja selle emaettevõte Meta kukkusid taas läbi, testides, kui hästi suudavad nad tuvastada ilmselgelt vägivaldset vihakõnet mittetulundusühingute Global Witness ja Foxglove platvormile esitatud reklaamides.

Vaenu õhutavad sõnumid keskendusid Etioopiale, kus vilepuhuja Frances Haugen saadud sisedokumendid näitasid, et Facebooki ebatõhus modereerimine "õhutab sõna otseses mõttes etnilist vägivalda", nagu ta ütles oma 2021. aasta kongressi tunnistuses. Global Witness tegi märtsis Myanmaris sarnase vihakõne testi, mida Facebook samuti ei tuvastanud.

Rühm lõi 12 tekstipõhist reklaami, milles kasutati dehumaniseerivat vihakõnet, et kutsuda üles mõrvama inimesi, kes kuuluvad Etioopia kolme peamisse etnilisse rühma – amharadesse, oromodesse ja tigraylastesse. Facebooki süsteemid kiitsid reklaamid avaldamiseks heaks samamoodi nagu Myanmari reklaamide puhul. Reklaame Facebookis tegelikult ei avaldatud.

Seekord aga teavitas rühm Metat avastamata rikkumistest. Ettevõte ütles, et reklaame poleks tohtinud heaks kiita ja juhtis tähelepanu tööle, mida ta on teinud vaenu õhutava sisu tabamiseks oma platvormidel.

Nädal pärast Meta kuulmist esitas Global Witness kinnitamiseks veel kaks kuulutust, mis sisaldasid taas räiget vihakõnet. Kaks Etioopias enimkasutatavas amhari keeles kirjutatud reklaami kiideti heaks.

Meta ütles, et reklaame poleks tohtinud heaks kiita.

"Oleme Etioopias palju investeerinud ohutusmeetmetesse, lisades rohkem kohalike teadmistega töötajaid ja suurendanud oma suutlikkust tabada vaenu õhutavat ja sütitavat sisu enim räägitavates keeltes, sealhulgas amhari keeles," teatas ettevõte meili teel saadetud avalduses, lisades, et masinad. ja inimesed võivad ikka teha vigu. Avaldus oli identne Global Witnessile saadetud avaldusega.

"Valisime välja halvimad juhtumid, mida suutsime mõelda," ütles Global Witnessi kampaania liige Rosie Sharpe. "Need, mida Facebook peaks olema kõige lihtsam tuvastada. Need ei olnud kodeeritud keel. Need ei olnud koeraviled. Need olid selgesõnalised avaldused, milles öeldi, et seda tüüpi inimesed ei ole inimesed või seda tüüpi inimesed tuleks nälga surnuks jätta.

Meta on järjekindlalt keeldunud ütlemast, kui palju sisumoderaatoreid tal on riikides, kus inglise keel pole põhikeel. See hõlmab moderaatoreid Etioopias, Myanmaris ja teistes piirkondades, kus ettevõtte platvormidele postitatud materjali on seostatud reaalse vägivallaga.

Novembris teatas Meta, et eemaldas Etioopia peaministri postituse, mis kutsus kodanikke üles tõusma ja "matma" riigi pealinna ohustanud rivaalitsevaid Tigray vägesid.

Abiy ütles pärast kustutatud postituses, et "kohustus surra Etioopia eest kuulub meile kõigile". Ta kutsus kodanikke üles mobiliseeruma, "hoides käes mis tahes relva või suutlikkust".

Abiy on siiski jätkanud postitamist platvormil, kus tal on 4.1 miljonit jälgijat. USA ja teised on hoiatanud Etioopiat "dehumaniseeriva retoorika" eest pärast seda, kui peaminister kirjeldas 2021. aasta juulis avaldatud kommentaarides Tigray vägesid kui "vähki" ja "umbrohtusid".

"Kui Etioopias genotsiidi kutsuvad reklaamid jõuavad korduvalt Facebooki võrku – isegi pärast seda, kui probleem on Facebookiga märgistatud –, on võimalik ainult üks järeldus: kedagi pole kodus," ütles Rosa Curling, Londonis asuva juriidilise mittetulundusühingu Foxglove direktor. koos Global Witnessiga. "Aastaid pärast Myanmari genotsiidi on selge, et Facebook pole oma õppetundi õppinud."