פייסבוק לא מצליחה לזהות דברי שנאה אלימים בפרסומות שהוגשו על ידי קבוצות ללא מטרות רווח

המבחן לא יכול היה להיות הרבה יותר קל - ופייסבוק עדיין נכשלה. פייסבוק וחברת האם שלה, Meta, נפלטו שוב במבחן עד כמה הם יכולים לזהות דברי שטנה אלימים בעליל בפרסומות שהוגשו לפלטפורמה על ידי קבוצות העמותות Global Witness ו-Foxglove.

הודעות השנאה התמקדו באתיופיה, שם מסמכים פנימיים שהגיעו לידי חושפת פרנסס האוגן הראו כי ההתמתנות הלא יעילה של פייסבוק היא "ממש מניפה אלימות אתנית", כפי שהיא אמרה בעדותה בקונגרס ב-2021. במרץ, Global Witness ערך מבחן דומה עם דברי שטנה במיאנמר, שגם פייסבוק לא הצליחה לזהות.

הקבוצה יצרה 12 מודעות מבוססות טקסט שהשתמשו בדברי שטנה דה-אנושיים כדי לקרוא לרצח של אנשים השייכים לכל אחת משלוש הקבוצות האתניות העיקריות באתיופיה - האמהרה, האורומו והטיגריאים. המערכות של פייסבוק אישרו את המודעות לפרסום, בדיוק כפי שעשו עם המודעות של מיאנמר. המודעות לא פורסמו בפועל בפייסבוק.

עם זאת, הפעם, הקבוצה הודיעה ל-Meta על ההפרות שלא זוהו. החברה אמרה שלא היה צריך לאשר את המודעות והצביעה על העבודה שהיא עשתה כדי לתפוס תוכן שנאה בפלטפורמות שלה.

שבוע לאחר שמיעה מ-Meta, Global Witness הגישה שתי מודעות נוספות לאישור, שוב עם דברי שטנה בוטים. שתי המודעות, שנכתבו באמהרית, השפה הנפוצה ביותר באתיופיה, אושרו.

מטה אמרה שהמודעות לא היו צריכות להיות מאושרות.

"השקענו רבות באמצעי בטיחות באתיופיה, הוספנו עוד צוות עם מומחיות מקומית ובנינו את היכולת שלנו לתפוס תוכן שנאה ומעורר דלקות בשפות המדוברות ביותר, כולל אמהרית", אמרה החברה בהצהרה שנשלחה בדוא"ל, והוסיפה כי מכונות ואנשים עדיין יכולים לעשות טעויות. ההצהרה הייתה זהה לזו שקיבלה Global Witness.

"בחרנו את המקרים הגרועים ביותר שיכולנו לחשוב עליהם", אמרה רוזי שארפ, פעילה ב-Global Witness. "אלה שצריכות להיות הכי קלות לפייסבוק לגלות. הם לא היו שפות מקודדות. הם לא היו שריקות כלבים. הם היו אמירות מפורשות שאומרות שסוג זה של אדם אינו בן אדם או שצריך להרעיב את הסוג הזה למוות".

Meta סירבה באופן עקבי לומר כמה מנהלי תוכן יש לה במדינות שבהן אנגלית אינה השפה העיקרית. זה כולל מנחים באתיופיה, מיאנמר ואזורים אחרים שבהם חומר שפורסם בפלטפורמות של החברה נקשר לאלימות בעולם האמיתי.

בנובמבר, מטה אמרה שהיא הסירה פוסט של ראש ממשלת אתיופיה שקרא לאזרחים לקום ו"לקבור" את כוחות היריבים של טיגרי שאיימו על בירת המדינה.

בפוסט שנמחק מאז, אמר אביי כי "החובה למות למען אתיופיה שייכת לכולנו". הוא קרא לאזרחים להתגייס "על ידי החזקת כל נשק או יכולת".

עם זאת, אביי המשיך לפרסם בפלטפורמה, שם יש לו 4.1 מיליון עוקבים. ארה"ב ואחרות הזהירו את אתיופיה מפני "רטוריקה דה-הומניזית" לאחר שראש הממשלה תיאר את כוחות טיגריי כ"סרטן" ו"עשבים שוטים" בהערות שנאמרו ביולי 2021.

"כאשר מודעות הקוראות לרצח עם באתיופיה עוברות שוב ושוב דרך הרשת של פייסבוק - גם לאחר שהנושא סומן בפייסבוק - יש רק מסקנה אחת אפשרית: אין אף אחד בבית", אמרה רוזה קרלינג, מנהלת Foxglove, עמותה משפטית מלונדון שחתפה פעולה. עם Global Witness בחקירתה. "שנים אחרי רצח העם במיאנמר, ברור שפייסבוק לא למדה את הלקח שלה".