מטא הסירה קמפיינים ישראליים ואיראניים בחשד לשימוש ב-AI

מטא חסמה באחרונה שורה של קמפיינים פוליטיים, מאיראן ובעיקר מישראל, שעל פי החשד שלה נוצרו באמצעות כלי AI. לטענת החברה, אותם קמפיינים מפרים את כללי המדיניות שלה והם, וכן קמפיינים מסין, שגם אותם היא הסירה, יוצרים באמצעות כלי הבינה המלאכותית אשליה כאילו הם והדעות שהם מציגים זוכים לתמיכה נרחבת מקהל הגולשים. בחלק מהמקרים, החשבונות שהוסרו לא רק שהעלו תכנים משל עצמם, אלא גם הגיבו לפוסטים שפרסמו רשתות תקשורת, וכן פוליטיקאים ודמויות ציבוריות אחרות.

החברה ציינה בדו"ח הרבעוני שלה כי הסירה קמפיין שמקורו בישראל, שכלל 510 חשבונות פייסבוק, 11 דפים, קבוצה אחת ו-32 חשבונות אינסטגרם, ויועד בעיקר לקהלים בארצות הברית ובקנדה. כל אחד מהם זכה לכל היותר למאות עוקבים. החברה נימקה את ההסרה ב-"הפרת המדיניות לגבי התנהגות לא אותנטית מתואמת".

בדו"ח נכתב כי "מבצע חוצה רשת זה כוון לשירותים רבים, כולל הפלטפורמות של מטא, X ויוטיוב, והפעיל אתרים ממותגים, שהתמקדו במלחמת ישראל-חמאס ובפוליטיקה של המזרח התיכון. מטא מצאה והסירה את הרשת הזו בשלב מוקדם במאמצי בניית הקהל שלה, לפני שהיא הצליחה להשיג מעורבות בקרב קהילות אותנטיות".

על פי החברה, מפיצי הקמפיין השתמשו בחשבונות מזויפים ופרוצים, שחלק גדול מהם זוהה והושבת על ידי המערכות האוטומטיות של מטא, עוד לפני שהחקירה החלה. חלק מאותם חשבונות התחזו לסטודנטים יהודים, אפרו-אמריקנים וגם "סתם" "אזרחים מודאגים". בהודעה מתואר סוג של משחק של חתול ועכבר: מטא הסירה חשבונות של אותם קמפיינים – והאנשים שמאחוריהם פתחו חשבונות חדשים, שהוסרו גם הם בתורם, וכך הלאה. בנוסף, ציינו במטא, מפיצי הקמפיין רכוש עוקבים ולייקים מווייטנאם, בניסיון לגרום לו להיראות פופולרי יותר ממה שהיה באמת.

לצד החשבונות, החברה זיהתה תגובות של הקמפיין על הודעות שפרסמו רשתות תקשורת בינלאומיים ומקומיים, כמו גם דמויות פוליטיות וציבוריות, כולל מחוקקים בארצות הברית. תגובותיהם כללו קישורים לאתרים של מבצע ההשפעה, ולעתים קרובות נתקלו בתגובות ביקורתיות של משתמשים אמיתיים, שכינו זאת "תעמולה". מטא מסרה כי היא מעריכה שלפחות חלק מאותן תגובות נוצרו על ידי בינה מלאכותית.

הבדיקה של מטא את החשבונות הללו החלה לאחר שארגון DFRLab דיווח ל-X על קמפיין דומה שעלה לרשת החברתית. בעקבות כך, החברה מצאה את הקמפיין גם בפלטפורמות שלה, ואף גילתה קישור לחברה מתל אביב. בעקבות זאת, היא השעתה את אותה חברה מפעילות בפלטפורמות שלה.

קמפיין איראני התחזה לתומכי נתניהו ובן גביר

לצד הקמפיין הפרו-ישראלי, מטא הסירה באחרונה, בגלל אותה סיבה, 22 חשבונות פייסבוק, שמונה דפים, שמונה קבוצות ו-23 חשבונות אינסטגרם – כולם פרו-איראניים, שטרגטו את ישראל. בניגוד לקמפיין הישראלי, שכאמור הצליח להגיע לכל היותר למאות אנשים, הקמפיין האיראני הגיע לאלפים ואף יותר.

רשת זו כללה כמה מקבצים נפרדים של פעילות, והשתמשה בחשבונות מזויפים כדי ליצור ישויות פיקטיביות שמתחזות לישראלים בארץ ובחו"ל, לנהל קבוצות ודפים ולפרסם תוכן. במטא ציינו כי המבצע הזה פעל, לצד הפלטפורמות שלה, גם בטלגרם, יוטיוב, X וטיקטוק. החברה מצאה והסירה את המקבצים הללו, לפני שהם הצליחו לבנות קהל בקרב קהילות אותנטיות.

על פי ההודעה, "האנשים שמאחורי פעילות זו פרסמו בעיקר בעברית, בנושאי חדשות ואירועים אקטואליים בישראל, כולל ביקורת על החמאס ותמיכה בישראל. מקבץ חשבונות אחד התחזה לאנשים בעלי נטייה ימנית, שפרסמו תוכן שתמך בראש הממשלה, בנימין נתניהו, לפני מתקפת החמאס ב-7 באוקטובר. זמן קצר לאחר מכן, הם החלו לפרסם הודעות תמיכה במדיניות ימנית יותר ובאיתמר בן גביר, תוך ביקורת על התנהלותו של נתניהו בתגובת ישראל למתקפה. אשכולות נוספים כללו גופי חדשות פיקטיביים, שפרסמו על החברה החרדית והפגנות חרדים. בתת מקבץ נפרד היו חשבונות שהתחזו לנשים ישראליות ליברליות צעירות, ופרסמו על הפגנות נגד הממשלה". בחלק מהמקרים, גולשים טענו שמדובר בפרופילים פיקטיביים. מקבץ נוסף התחזה כישראלים ליברליים שמפרסמים פוסטים לתמיכה בקהילת הלהט"ב.

"מטא החלה לבדוק את הפעילות הזו כתוצאה מחקירה פנימית על חשד להתנהגות לא אותנטית מתואמת באזור. הניתוח נעזר במחקר ציבורי של המכון הישראלי לדמוקרטיה", צוין בהודעת החברה.

בתוך כך, יצוין כי בימים האחרונים מתנהלים ברשתות החברתיות שני קמפייני השפעה שקשורים למלחמה שבין ישראל לחמאס וזוכים לתפוצה רבה: האחד מתנהל תחת הכותרת "All eyes on Rafah" ("כל העיניים על רפיח") – קמפיין שמתכתב עם ההרג של עשרות אזרחים בתחילת השבוע בעיר, והשני הוא קמפיין תגובה תחת הכותרת "All eyes on October 7" ("כל העיניים על 7 באוקטובר"). עוד כמענה לקמפיין הפרו-פלסטיני נוצר תת קמפיין שקורא: "אם העיניים שלכם על רפיח, עיזרו לנו למצוא את החטופים". שני הקמפיינים, ובעיקר זה הפרו-פלסטיני, זכו לתפוצה רחבה, ואתמול (ד') מטא הסירה את החשבון של יוצרו הישראלי באינסטגרם – ולאחר מכן החזירה אותו. על פי החברה, ההסרה נבעה כתוצאה מטעות טכנית – שנבדקת.