מחקר: טיקטוק מקדמת תכנים ניאו-נאציים

כאילו לא די לנו בכל השנאה שיש סביב המלחמה ובין המחנות הפוליטיים, בישראל ובמדינות אחרות – שנאה שהאלגוריתמים של הרשתות החברתיות מקדמים, מחקר חדש מראה שטיקטוק מהווה כר פורה לניאו נאצים, לאידיאולוגיה נאצית ולמכחישי שואה.

המוסד לדיאלוג אסטרטגי (ISD) הוא גוף גלובלי שנוסד ב-2006, שמקום מושבו בלונדון. הוא מגדיר את עצמו כ-"ארגון ללא מטרות רווח שמסור לשמירה על זכויות אדם והסגה לאחור של המגמה העולה ברחבי העולם של קיטוב, קיצוניות ודיסאינפורמציה". הארגון פרסם שלשום (ב') מחקר תחת הכותרת "נאצטוק" (שילוב של המילים נאצי וטיקטוק), והוא מצא בו רשת של חשבונות טיקטוק ניאו-נאציים, שזוכה לעשרות מיליוני צפיות. החוקרים, נתן דוקטור, גיא פיינס (Fiennes) וסייראן או'קונור, כתבו ש-"טיקטוק מארחת מאות חשבונות שתומכים בגלוי בנאצים, ומשתמשים בפלטפורמה כדי להפיץ את האידיאולוגיה והתעמולה שלהם. המחקר שלנו החל לאחר שמצאנו קבוצה אחת כזו, שהתרחבה לרשת רחבה יותר של 200 חשבונות. בחנו את החשבונות האלה ואת אלה שהם עוקבים אחריהם, וכן חיפשנו תוכן אלים ואת (דרכי הפעולה של – י"ה) האלגוריתם של טיקטוק". על פי החוקרים, הם החשיבו חשבון כניאו נאצי במקרים שבהם הוא כולל תוכן שמקדם את הנאציזם, או שמופיעים סמלים נאציים בשם המשתמש, בתמונת הפרופיל או בכל מאפיין אחר של החשבון.

החוקרים מצאו כי תכני וידיאו פרו-נאציים זכו לעשרות מיליוני צפיות. זה כולל סרטונים שמכחישים את השואה, האדרה של היטלר או של גרמניה של התקופה הנאצית, וקביעה שהנאציזם הוא הפתרון לבעיות שקורות בימינו. עוד הם מצאו הפצה נרחבת של סרטונים שתומכים במעשי טבח שביצעו מאמיני עליונות הגזע הלבן. במחקר צוין כי "אנשים שמגדירים את עצמם כנאצים מתייחסים לטיקטוק כפלטפורמה נגישה להפצת האידיאולוגיה שלהם, שבאמצעותה הם יכולים להגיע ל-'הרבה יותר אנשים', אפילו אם מדובר בחשבונות חדשים או בכאלה שיש להם מספר עוקבים קטן".

החוקרים: טיקטוק נכשלת בהסרת התוכן

כמו כן, ב-ISD מצאו שטיקטוק נכשלת בהסרת סרטונים וחשבונות שמפרים את כללי הקהילה שלה ומטיפים לאלימות, גם אם הם מדווחים. החוקרים דיווחו על 50 כאלה, שיום לאחר הדיווח כולם נותרו על כנם, בנימוק של "אין הפרה". ממצא נוסף וחמור במיוחד הוא שהאלגוריתם של החברה גורם להפצה נרחבת יותר של סרטונים וחשבונות שמעודדים נאציזם, בכך שהוא ממהר להמליץ על התוכן הזה ל-"אנשים שמעורבים בשיח שנאה ימני קיצוני".

המחקר אף העלה שסרטונים ניאו נאציים שמופצים בטיקטוק כוללים לא מעט שימוש בבינה מלאכותית. "לעתים קרובות", ציינו החוקרים, "התוכן הזה משפיל מיעוטים ומקדם נאציזם". כדוגמה הם מביאים תרגום של נאום של היטלר באמצעות בינה מלאכותית, שהולך ונעשה יותר ויותר ויראלי. כמו כן, הם מצאו שלעתים, מדובר בחשבונות שקיימים גם בפלטפורמות מדיה חברתית אחרות.

טיקטוק: אנחנו מסירים 98% מהתוכן עוד לפני שהוא מדווח לנו

בכללי הקהילה של טיקטוק נכתב כי "אנחנו לא מרשים כל שיח שנאה, התנהגות של שנאה או קידום של אידיאולוגיות של שנאה". בחברה טוענים שהם אמנם אוכפים אותם: ג'יימי פוואזה, דובר מטעמה, אמר ל-Wired כי "אין לארגוני שנאה ולאידיאולוגיה שלהם כל מקום בטיקטוק, ואנחנו מסירים יותר מ-98% מהתוכן הזה עוד לפני שהוא מדווח לנו. אנחנו עובדים עם מומחים כדי לגלות טרנדים מתפתחים, ומחזקים באופן שוטף את אמצעי ההגנה שלנו נגד קבוצות ואידיאולוגיות של שנאה". בחברה ציינו כי הם מעסיקים יותר מ-40 אלף מומחים לצורך כך.

המחקר הזה מצטרף לשורה של מחקרים ודיווחים בתקשורת על כך שהאלגוריתם של טיקטוק מקדם תוכן שנאה. רק בתחילת החודש מצאה הרשת הגלובלית לקיצוניות וטכנולוגיה שהאלגוריתם מקדם תוכן של הערצה לאידיאולוגים פאשיסטיים. מחקר אחר של הרשת, מהשנה שעברה, מצא שהוא מקדם תוכן של עליונות גזעית בדרום מזרח אסיה. כמו כן, מדיווח של Wired מלפני כשבועיים עולה שצעירים גרמניים קיבלו בטיקטוק הצעות לקבלת מידע על מפלגת הימין הקיצוני אלטרנטיבה לגרמניה.