הליגה נגד השמצה מאפשרת לאתר אנטישמיות ברשתות החברתיות

המרכז לטכנולוגיה וחברה בליגה נגד השמצה (ADL) השיק את הגירסה הראשונה של אינדקס השנאה המקוון – מערכת למידה מלאכותית, המאתרת תוכני שנאה המופנים לקבוצות שוליים בפלטפורמות מקוונות. אינדקס השנאה המקוון מהווה כלי למדידה עצמאית ראשונה של שכיחות תוכן אנטישמי לרוחב פלטפורמות שונות במדיה החברתית, והוא מתמקד בחוויית החיים של הקהילה שאליה מופנים מסרי השנאה. מדובר בכלי ראשון העושה שימוש בבינה מלאכותית והוכשר על ידי מומחים לאנטישמיות ומתנדבים יהודים.

בהרצת הבכורה של הכלי החדש התברר שטוויטר ורדיט נמנעו מלהסיר כשלושה מתוך ארבעה פוסטים שסווגו כאנטישמיים על ידי הליגה נגד השמצה, וזאת כחודש ימים לאחר פרסומם.

הלמידה העמוקה שעומדת מאחורי אינדקס השנאה המקוון הוכשרה לזהות שפה אנטישמית על ידי קישור בין תוכן שנצפה במדיה החברתית ובין שפה אנטישמית שהוגדרה ככזו על ידי פרשנים אנושיים. אינטראקציה חוזרת עם המידע שסווג כאמור, באמצעות תהליך ההכשרה, הופכת את המודל ליותר ויותר מדויק. משעה שההכשרה מסתיימת, המודל מסוגל לנתח טקסט בשפה האנגלית ולצפות את מידת האנטישמיות שהוא כולל באורח מהיר בהרבה ובנפחים גבוהים משמעותית מכל בוחן תוכן אנושי.

"לראשונה אנו משלבים כוחות בין הבינה המלאכותית ובין המומחיות של הליגה נגד השמצה בחשיפת תוכן אנטישמי ברשת בקנה מידה גדול", אמר ג'ונתן גרינבלט, המנכ"ל העולמי של הליגה נגד השמצה. "חברות הטכנולוגיה אינן שקופות דיין בכל האמור ביעילות מדיניות הטיפול במסרי שנאה. מסיבה זו יצרנו כלי, שמאפשר לשרטט תמונה ברורה של מצב השנאה במדיה החברתית בזמן אמת. בדעתנו לעשות בכך שימוש על מנת שפלטפורמות המדיה החברתית ייתנו דין וחשבון לגבי פעילות יזומה ליירוט שנאה ברשת ולגבי איכות התגובה של אמצעי הניטור שלהן לדיווחים שמתקבלים".

באוגוסט 2021 עשתה הליגה נגד השמצה שימוש באינדקס השנאה המקוון לאיתור תוכן אנטישמי ברדיט ובטוויטר, ולאחר כמה שבועות ביצעה מעקב כדי לבדוק אם הפלטפורמות הסירו את התוכן האנטישמי בעצמן. בבדיקה זו נמצא, כי רדיט וטוויטר נמנעו מלהסיר לפחות 70% מן התוכן שהתגלה על ידי הליגה נגד השמצה. 79% מן הציוצים האנטישמיים בדגימת התוכן המייצגת נותרו בטוויטר, וברדיט נותר 74% מההערות האנטישמיות בדגימת התוכן המייצגת. יתרה מכך, גם לאחר שהליגה נגד השמצה דיווחה על התוכן האמור, 56% מן ההערות האנטישמיות ו-57% מן הציוצים האנטישמיים נותרו בפלטפורמות חודשיים ואף יותר.

"לטוויטר ורדיט יש עוד דרך ארוכה, אם כי שתיהן עשו לאחרונה כברת דרך משמעותית מבחינת היחס לאנטישמיות ולשנאה ברשת. אנו מביאים את המלצותינו כדי לסייע ולשפר את הטיפול בבעיות החברתיות הרחבות הללו, אנטישמיות ושנאה, כפי שהן באות לידי ביטוי ברשת  ומחוצה לה," אמר גרינבלט.

חברות הטק לא מדווחות לציבור על שכיחות מסרי השנאה

השכיחות של מסרי שנאה בפלטפורמות המדיה החברתית מדווחת לרוב על ידי חברות הטק עצמן, העושות שימוש במדדים פנימיים מעורפלים, שאת תוצאותיהם לא ניתן לאמת או להשוות לפלטפורמות אחרות. רדיט וטוויטר שקופות יותר בהתנהלותן לעומת האחרות, אך באופן כללי חברות הטק אינן מדווחות לציבור על שכיחות מסרי השנאה המכוונים כלפי קבוצות מסוימות בפלטפורמות שלהן. בנוסף, הן לא מספקות מידע באשר לזהותם של האנשים שאליהם כוונו המסרים הללו ולאיזה קבוצות הם שייכים – גם אם מי שהיו יעדים למסרים כאמור מדווחים על כך בעצמם. פלטפורמות אחרות, כמו פייסבוק, הגדילו ועשו ואף הסתירו מצוותי הבקרה שלהן עצמן את מה שידוע להן לגבי זהותם של אנשים כאמור.

על מנת לשפר את ההתמודדות עם תוכן אנטישמי ברשת, הליגה נגד השמצה גיבשה המלצות המיועדות הן לפלטפורמות עצמן והן למחוקקים. לטוויטר ורדיט – הליגה ממליצה לפתח כלים למודרציה של תוכן ופרקטיקות שמטרתן להגן על קהילות שוליים, לבצע ביקורת חיצונית מקיפה ושוטפת על ידי מומחים חיצוניים לשנאה ברשת, לאכוף את המדיניות שלהן בכל האמור בשנאה ואנטישמיות באופן עקבי ובמידה הנדרשת, לדווח לציבור על מדדים איכותניים מרכזיים שעניינם מסרי שנאה המופנים לקבוצות ספציפיות ולספק לחוקרים גישה טובה יותר לנתונים. מבחינת הממשלה וכחלק מתוכנית REPAIR להפחתת השנאה ברשת, הליגה נגד השמצה מעודדת את קובעי המדיניות לתעדף רגולציה ושינוי חקיקה, שעניינם שקיפות ואחריותיות, ולתמוך במחקר וחדשנות שמטרתם לרסן את השנאה ברשת.