Facebook ei pysty havaitsemaan väkivaltaisia ​​vihapuheita voittoa tavoittelemattomien ryhmien lähettämistä mainoksista

Testi ei olisi voinut olla paljon helpompaa – ja Facebook epäonnistui silti. Facebook ja sen emoyhtiö Meta epäonnistuivat jälleen kerran testissä, jossa selvitettiin, kuinka hyvin he pystyivät havaitsemaan ilmeisen väkivaltaista vihapuhetta mainoksissa, jotka Global Witness ja Foxglove ovat lähettäneet alustalle.

Vihamieliset viestit keskittyivät Etiopiaan, jossa ilmiantajan Frances Haugenin hankkimat sisäiset asiakirjat osoittivat, että Facebookin tehoton maltillisuus "kiihottaa kirjaimellisesti etnistä väkivaltaa", kuten hän sanoi vuoden 2021 kongressilausunnossaan. Maaliskuussa Global Witness suoritti samanlaisen vihapuhetestin Myanmarissa, jota Facebook ei myöskään pystynyt havaitsemaan.

Ryhmä loi 12 tekstipohjaista mainosta, jotka käyttivät epäinhimillistä vihapuhetta vaatiakseen Etiopian kolmeen pääetniseen ryhmään – amharoihin, oromoihin ja tigrayihin – kuuluvien ihmisten murhaa. Facebookin järjestelmät hyväksyivät mainokset julkaistavaksi, aivan kuten Myanmarin mainoksetkin. Mainoksia ei varsinaisesti julkaistu Facebookissa.

Tällä kertaa ryhmä kuitenkin ilmoitti Metalle havaitsemattomista rikkomuksista. Yhtiö sanoi, että mainoksia ei olisi pitänyt hyväksyä ja huomautti työhön, jota se on tehnyt saadakseen kiinni vihamielisen sisällön alustoillaan.

Viikko Metan kuulemisen jälkeen Global Witness lähetti vielä kaksi mainosta hyväksyttäväksi, jälleen räikeästi vihapuheella. Kaksi mainosta, jotka oli kirjoitettu amharaksi, Etiopian yleisimmin käytetyksi kieleksi, hyväksyttiin.

Meta sanoi, että mainoksia ei olisi pitänyt hyväksyä.

"Olemme investoineet voimakkaasti turvallisuustoimenpiteisiin Etiopiassa, lisänneet paikallista asiantuntemusta ja kehittäneet kykyämme saada kiinni vihamielistä ja raivostuttavaa sisältöä eniten puhutuilla kielillä, mukaan lukien amhara", yhtiö sanoi sähköpostilla ja lisäsi, että koneet ja ihmiset voivat silti tehdä virheitä. Lausunto oli identtinen Global Witnessin saaman kanssa.

"Valitsimme pahimmat tapaukset, joita voimme kuvitella", sanoi Rosie Sharpe, Global Witnessin kampanjoija. "Ne, jotka Facebookin pitäisi olla helpoin havaita. Ne eivät olleet koodattua kieltä. Ne eivät olleet koiran pillejä. Ne olivat selkeitä lausuntoja, joissa sanottiin, että tämän tyyppiset ihmiset eivät ole ihmisiä tai tällaiset ihmiset pitäisi kuolla nälkään.

Meta on jatkuvasti kieltäytynyt kertomasta, kuinka monta sisällönmoderaattoria sillä on maissa, joissa englanti ei ole ensisijainen kieli. Tämä sisältää moderaattorit Etiopiassa, Myanmarissa ja muilla alueilla, joilla yrityksen alustoilla julkaistu materiaali on linkitetty todelliseen väkivaltaan.

Marraskuussa Meta sanoi poistaneensa Etiopian pääministerin viran, jossa kehotettiin kansalaisia ​​nousemaan ja "hautaamaan" maan pääkaupunkia uhkaavia kilpailevia Tigray-joukkoja.

Sittemmin poistetussa viestissä Abiy sanoi, että "velvollisuus kuolla Etiopian puolesta kuuluu meille kaikille". Hän kehotti kansalaisia ​​mobilisoimaan "pitämällä mitä tahansa asetta tai kapasiteettia".

Abiy on kuitenkin jatkanut postaamista alustalla, jossa hänellä on 4.1 miljoonaa seuraajaa. Yhdysvallat ja muut ovat varoittaneet Etiopiaa "dehumanisoivasta retoriikasta", kun pääministeri kuvaili Tigrayn joukkoja "syöväksi" ja "rikkaruohoksi" heinäkuussa 2021 antamissaan kommenteissa.

"Kun mainokset, joissa vaaditaan kansanmurhaa Etiopiassa, kulkevat toistuvasti Facebookin verkon läpi - jopa sen jälkeen, kun ongelma on ilmoitettu Facebookissa - on vain yksi mahdollinen johtopäätös: ketään ei ole kotona", sanoi Rosa Curling, lontoolaisen laillisen järjestön Foxgloven johtaja. Global Witnessin kanssa sen tutkinnassa. "Vuosia Myanmarin kansanmurhan jälkeen on selvää, että Facebook ei ole oppinut läksyään."