Facebook Gagal Ndeteksi Ucapan Kebencian ing Iklan sing Dikirim dening Kelompok Non-Profit

Tes kasebut ora luwih gampang - lan Facebook isih gagal. Facebook lan perusahaan induk Meta gagal maneh ing tes babagan carane bisa ndeteksi ujaran sengit sing jelas kekerasan ing iklan sing dikirim menyang platform dening kelompok nirlaba Global Witness lan Foxglove.

Pesen sengit kasebut fokus ing Ethiopia, ing ngendi dokumen internal sing dipikolehi dening whistleblower Frances Haugen nuduhake manawa moderat Facebook sing ora efektif yaiku "secara harfiah nyengkuyung kekerasan etnik," kaya sing dikandhakake ing kesaksian kongres 2021. Ing wulan Maret, Global Witness nganakake tes sing padha karo ujaran sengit ing Myanmar, sing uga gagal dideteksi Facebook.

Klompok kasebut nggawe 12 iklan adhedhasar teks sing nggunakake ujaran sengit sing ngrusak manungsa kanggo njaluk mateni wong-wong saka saben telung klompok ètnis utama Ethiopia - Amhara, Oromo lan Tigrayans. Sistem Facebook nyetujoni iklan kanggo publikasi, kaya sing ditindakake ing iklan Myanmar. Iklan kasebut ora diterbitake ing Facebook.

Nanging wektu iki, grup kasebut ngandhani Meta babagan pelanggaran sing ora dideteksi. Perusahaan kasebut ujar manawa iklan kasebut ora kudu disetujoni lan nuduhake karya sing ditindakake kanggo nyekel konten sing sengit ing platform kasebut.

Seminggu sawise krungu saka Meta, Global Witness ngirimake rong iklan maneh kanggo disetujoni, maneh kanthi ujaran sengit. Loro iklan kasebut, sing ditulis ing Amharic, basa sing paling akeh digunakake ing Ethiopia, disetujoni.

Meta ujar manawa iklan kasebut ora kudu disetujoni.

"Kita wis nandur modal akeh ing langkah-langkah safety ing Ethiopia, nambah luwih akeh staf kanthi keahlian lokal lan mbangun kapasitas kanggo nyekel konten sing sengit lan inflamasi ing basa sing paling akeh diucapake, kalebu Amharic," ujare perusahaan kasebut ing pratelan email, nambahake mesin kasebut. lan wong isih bisa nggawe kesalahan. Pratelan kasebut padha karo sing ditampa Global Witness.

"Kita milih kasus paling ala sing bisa kita pikirake," ujare Rosie Sharpe, juru kampanye ing Global Witness. "Sing mesthine paling gampang dideteksi Facebook. Padha ora basa kode. Padha ora whistles asu. Iki minangka pratelan eksplisit sing ujar manawa jinis wong iki dudu manungsa utawa wong-wong iki kudu mati kaliren.

Meta terus-terusan nolak nyatakake jumlah moderator konten ing negara sing dudu basa Inggris minangka basa utama. Iki kalebu moderator ing Ethiopia, Myanmar lan wilayah liyane ing ngendi materi sing dikirim ing platform perusahaan wis disambung karo kekerasan ing donya nyata.

Ing Nopember, Meta ngandika iku dibusak kirim dening Perdana Mentri Ethiopia kang ndesek warga munggah lan "ngubur" saingan pasukan Tigray sing ngancam ibukutha negara.

Ing kiriman sing wis dibusak, Abiy ujar manawa "kewajiban mati kanggo Ethiopia duweke kita kabeh." Dheweke ngajak warga supaya mobilisasi "kanthi nyekel gaman utawa kapasitas apa wae."

Abiy terus ngirim ing platform kasebut, nanging dheweke duwe 4.1 yuta pengikut. AS lan liya-liyane wis ngelingake Ethiopia babagan "retorika dehumanising" sawise perdana menteri nggambarake pasukan Tigray minangka "kanker" lan "suket" ing komentar sing digawe ing Juli 2021.

"Nalika iklan sing njaluk pembantaian ing Ethiopia bola-bali mlebu ing jaringan Facebook - sanajan masalah kasebut ditandhani karo Facebook - mung ana siji kesimpulan sing bisa ditindakake: ora ana wong sing ana ing omah," ujare Rosa Curling, direktur Foxglove, organisasi nirlaba legal ing London sing kerja sama. karo Global Witness ing diselidiki. "Taun sawise pembantaian Myanmar, jelas Facebook durung sinau pelajaran."