מחקר: X ומטא אישרו מודעות אנטישמיות לקראת הבחירות בגרמניה

היום (א') מתקיימות בחירות בגרמניה, שבהן עולה החשש שמפלגת הימין הקיצוני AfD תהפוך למפלגה השנייה בגודלה בפרלמנט הגרמני, הבונדסטאג. מחקר חדש מצא שלקראת הבחירות האלה, אישרו X ומטא מודעות בעלות תכנים אנטישמיים ואסלאמופוביים, שטורגטו לקהל הבוחרים הגרמני.

שנאת הזרים בכלל, והאנטישמיות והאסלאמופוביה בפרט, הם נושאים רגישים בגרמניה, בעיקר לאחר השואה. החוק הגרמני אוסר, בדרך כלל, על הטפה לשנאת זרים, ועד לפני כמה שנים, מפלגות שחרטו אותה על דגלן היו מוקצות. אלא שבשנים האחרונות, הכוח של הימין הקיצוני בגרמניה, כמו גם במדינות אחרות אירופה ובמקומות נוספים בעולם, הולך ועולה, ובא לידי ביטוי גם ברשתות החברתיות.

במסגרת המחקר, שנערך על ידי אקו (Eko) – ארגון גרמני שעוסק בזכויות דיגיטליות, רצו החוקרים לבדוק האם המערכות של X ומטא שמאשרות מודעות, או לא, יאשרו או ידחו מודעות שכוללות מסרים אלימים וכאלה שכוללים שיח שנאה נגד מיעוטים במערכת הבחירות הנוכחית, שנושא ההגירה הוא אחד הנושאים המרכזיים בה. הם שלחו למערכות שלהן 20 מודעות – 10 מודעות לכל אחת מהרשתות החברתיות. אלה כללו הערות אנטי-מוסלמיות, קריאות לכלוא מהגרים במחנות ריכוז או להמית אותם בגז, ותמונות שנוצרו על ידי AI ומראות מסגדים ובתי כנסת נשרפים.

החוקרים מצאו כי רוב המודעות אושרו בתוך כמה שעות. X אישרה את כל 10 המודעות שהחוקרים ביקשו לפרסם ומטא – חמש מתוך 10. זאת, על אף שהמדיניות של שתי החברות אוסרות על פרסום תוכן כפי שנכלל בהן.

מטא: מילות נאצה ותמונה של שריפת בתי כנסת עברו את המנגנון

יצוין כי הכללים של מטא מחייבים לציין שמודעה נעשתה באמצעות או בעזרת AI – מה שהחוקרים לא ציינו, ועדיין, המערכת שלה אישרה מחצית מהמודעות שהתבססו על בינה מלאכותית. באקו דיווחו לאיחוד האירופי על הפרות לכאורה של חוק השירותים הדיגיטליים שהם מצאו, ואומרים כי "הממצאים שלנו מעלים שהמערכות של מטא לניטור מודעות שנוצרו באמצעות AI עדיין שבורות, אף על פי שהחוק נכנס לתוקפו". דובר מטעם אקו אמר כי "במקום לחזק את מדיניות תהליך בחינת המודעות שלה, מטא הסיגה אותה לאחור", והפנה להחלטה האחרונה של החברה לבטל כמעט לחלוטין את מנגנוני פיקוח העובדות וניטור הפייק ניוז שלה – החלטה שהתקבלה ערב כניסתו של דונלד טראמפ לבית הלבן.

מטא ציינה כנימוק לדחיית חמש מהמודעות שאנשי אקו שלחו בבקשה לפרסמן חשש שהן עלולות להיות רגישות מבחינה פוליטית או חברתית, ולהשפיע על ההצבעה של הבוחרים. לעומת זאת, היא אישרה את חמש המודעות האחרות, אף על פי שהן כוללות ביטויים אסורים בפלטפורמה כמו "וירוס", טענו שהמהגרים המוסלמים הם "אנסים", קבעו כי יש לשרוף בתי כנסת ו-"לעצור את אג'נדת העכברושים היהודית הגלובלית" – מוטיבים אנטישמיים קלאסיים מהתקופה הנאצית, וגם לפניה.

מאסק הביע תמיכה במפלגת הימין הקיצוני

באשר ל-X, חלק מהמודעות שהיא אישרה קוראות למהגרים המוסלמים לגרמניה "מכרסמים", וטוענות ש-SPD, מפלגת המרכז-שמאל השלטת במדינה, רוצה להעביר אליה 60 מיליון מהגרים מהמזרח התיכון (קצת פחות משלושה רבעים מאוכלוסיית גרמניה, שכוללת כ-84.2 מיליון בני אדם, נכון להיום). אחת מאותן מודעות כללה תמונה שנוצרה על ידי AI של צללים של אנשים שיושבים לשולחן, כשמעליהם, על הקיר, יש מגן דוד.

יש לציין שהבעלים של X, אילון מאסק, הביע באחרונה תמיכה במפלגת AfD, כחלק מהתמיכה שלו במפלגות ימין וימין קיצוני בכמה מדינות, וכחלק מניסיונו להשפיע על הפוליטיקה העולמית – ולא רק בארצות הברית.

בדיווחים על המחקר בתקשורת הטכנולוגיות לא צוינו תגובות של מטא ו-X.