„Facebook“ nesugeba aptikti smurtinių neapykantos kalbų ne pelno organizacijų pateiktuose skelbimuose

Testas negalėjo būti daug lengvesnis – ir „Facebook“ vis tiek nepavyko. „Facebook“ ir jos patronuojanti įmonė „Meta“ dar kartą žlugo, bandydami nustatyti, kaip gerai jie gali aptikti akivaizdžiai smurtinę neapykantą reklamoje, kurią platformai pateikė ne pelno organizacijos „Global Witness“ ir „Foxglove“.

Neapykantą kurstančiose žinutėse daugiausia dėmesio buvo skiriama Etiopijai, kur pranešėjos Frances Haugen gauti vidaus dokumentai parodė, kad neveiksmingas Facebook moderavimas „tiesiogine prasme skatina etninį smurtą“, kaip ji sakė savo 2021 m. Kongreso liudijime. Kovo mėnesį „Global Witness“ atliko panašų neapykantos kurstymo testą Mianmare, kurio „Facebook“ taip pat nepavyko aptikti.

Grupė sukūrė 12 tekstinių skelbimų, kuriuose naudojo dehumanizuojančią neapykantą kurstančią kalbą, raginančią nužudyti žmones, priklausančius kiekvienai iš trijų pagrindinių Etiopijos etninių grupių – amharų, oromų ir tigrajų. „Facebook“ sistemos patvirtino skelbimus skelbti, kaip ir su Mianmaro skelbimais. Skelbimai iš tikrųjų nebuvo paskelbti „Facebook“.

Tačiau šį kartą grupė informavo Metą apie nenustatytus pažeidimus. Bendrovė teigė, kad skelbimai neturėjo būti patvirtinti, ir atkreipė dėmesį į darbą, kurį ji atliko siekdama sugauti neapykantą keliantį turinį savo platformose.

Praėjus savaitei po „Meta“ išklausymo, „Global Witness“ pateikė patvirtinti dar du skelbimus, kuriuose vėlgi buvo akivaizdžiai kurstoma neapykanta. Du skelbimai, parašyti amharų kalba, plačiausiai vartojama kalba Etiopijoje, buvo patvirtinti.

Meta teigė, kad skelbimai neturėjo būti patvirtinti.

„Mes daug investavome į saugos priemones Etiopijoje, pridėjome daugiau personalo, turinčio vietos patirties, ir didiname gebėjimus užfiksuoti neapykantą kurstantį ir kurstantį turinį plačiausiai vartojamomis kalbomis, įskaitant amharų kalbą“, – rašoma bendrovės pranešime el. paštu ir priduriama, kad mašinos. ir žmonės vis tiek gali klysti. Pareiškimas buvo identiškas tam, kurį gavo „Global Witness“.

„Atrinkome pačius blogiausius atvejus, apie kuriuos galėjome pagalvoti“, – sakė „Global Witness“ kampanijos dalyvis Rosie Sharpe. „Tuos, kurias „Facebook“ turėtų aptikti lengviausia. Jie nebuvo užkoduota kalba. Tai nebuvo šunų švilpukai. Tai buvo aiškūs pareiškimai, sakydami, kad tokio tipo žmonės nėra žmonės arba tokio tipo žmonės turėtų būti mirti iš bado.

„Meta“ nuolat atsisako pasakyti, kiek turinio moderatorių turi šalyse, kuriose anglų kalba nėra pagrindinė. Tai apima moderatorius Etiopijoje, Mianmare ir kituose regionuose, kur įmonės platformose paskelbta medžiaga buvo siejama su realaus pasaulio smurtu.

Lapkritį „Meta“ pranešė pašalinusi Etiopijos ministro pirmininko postą, raginantį piliečius pakilti ir „palaidoti“ konkuruojančias Tigray pajėgas, kurios grasino šalies sostinei.

Nuo tada ištrintame įraše Abiy sakė, kad „pareigojimas mirti už Etiopiją priklauso mums visiems“. Jis paragino piliečius mobilizuotis „laikant bet kokį ginklą ar pajėgumą“.

Tačiau Abiy ir toliau skelbė įrašus platformoje, kurioje jis turi 4.1 mln. JAV ir kiti įspėjo Etiopiją dėl „dehumanizuojančios retorikos“ po to, kai ministras pirmininkas 2021 m. liepos mėn. paskelbtuose komentaruose Tigray pajėgas apibūdino kaip „vėžį“ ir „piktžoles“.

„Kai reklama, raginanti vykdyti genocidą Etiopijoje, nuolat patenka į „Facebook“ tinklą – net ir po to, kai problema buvo pažymėta „Facebook“, – galima daryti tik vieną išvadą: niekas nėra namuose“, – sakė Rosa Curling, Londone įsikūrusios legalios ne pelno organizacijos „Foxglove“, kuri bendradarbiavo. su Global Witness savo tyrimu. „Akivaizdu, kad praėjus metams po Mianmaro genocido, „Facebook“ nepasimokė.