אופסי: קמפיין פייק רוסי מבוסס AI מתקשה למצוא קהל

כלי בינה מלאכותית יוצרת הפכו למדוברים ולזמינים יותר ויותר בשנה האחרונה. מומחי אבטחה, כמו גם פקידים בכירים רבים בממשל האמריקני, מודאגים מכך שהכלים הללו עלולים לשמש להפעלת קמפיינים של דיסאינפורמציה בנפח גבוה.

לפי התפיסה המקובלת בתעשיית הגנת הסייבר העולמית, מסעות השפעה ותעמולה בסייבר, פירות של פיתוחים רוסי וסיני – ללא קשר ביניהם – עלולים להשתמש בכלי GenAI כדי לבנות תמונות ולייצר מאמרים מזויפים, שנועדו להפיץ את המסרים שלהם ולשחוק את אמון הציבור בתקשורת המיינסטרים, כמו גם בתפיסה משותפת כלשהי של האמת. והנה, עולה כי בחלוף שנה מאז השקת ChatGPT, בייג'ינג ומוסקבה אכן מתחילות להתנסות בכלים אלה במסעות התעמולה שלהן. אלא שלא ברור האם תוכן זה אכן מצליח להגיע לקהלי היעד שאליהם הוא מכוון.

בדו"ח שפרסמו לפני ימים אחדים חוקרי חברת מודיעין האיומים בסייבר רקורדד פיוצ'ר הם חשפו כי קבוצת ההשפעה והתעמולה רוסית דופלגנגר (Doppelganger) הקימה אתרי חדשות מזויפים, והשתמשה בבינה מלאכותית יוצרת כדי לכתוב מאמרים בעלי נטייה אנטי-מערבית ופרו-רוסית. האתר, המכונה Election Watch, התחזה לכלי חדשות בשפה האנגלית והכיל כתבות שליליות, ביניהן נגד נשיא ארצות הברית, ג'ו ביידן, ונגד מאבקיו לשכנע את הקונגרס לספק מימון נוסף לאוקראינה, שנלחמת ברוסיה (באחרונה הוא שזר את הבקשות הללו עם בקשות מימון לישראל, לטובת המלחמה נגד החמאס). עוד היו באתר אייטמים שבהם נכתב שחלה ירידה בהיקף התמיכה בביידן בקרב אמריקנים ממוצא ערבי, וזאת עקב תמיכתו הנמרצת בישראל.

השפעה זניחה – אם כי לא ברור עד כמה

מומחי השפעה בדיגיטל ציינו כי על אף שקשה לקבוע עד כמה התוכן הגיע לקהלי היעד שלו, לא מדובר ב-"אתר פורץ דרך לקהל האמריקני", ולתעמולה שהקרמלין יצר, בסיוע בינה מלאכותית, אין השפעה משמעותית על אמונתם של קוראים וגולשים מארצות הברית. לדברי בריאן ליסטון, אנליסט מודיעין איומים בקבוצת Insikt של רקורדד פיוצ'ר, "טווח ההגעה של התוכן הזה היה זניח".

האנליסטים בצוות של ליסטון בחנו קמפיינים שנערכו במדיה החברתית כדי להפיץ את התוכן שפרסם אתר Election Watch. האתר היה אחד משלושה אתרי פייק ניוז שיצרו חברי הקבוצה. "למרות מספר חשבונות המדיה החברתית שמפרסמים את הכתבות של דופלגנגר, ראינו רק מעט צפיות בכל פוסט, ומעט שיתופים והדהודים של תוכן זה", נכתב בדו"ח המחקר.

האנליסטים של רקורדד פיוצ'ר לא היו יכולים לקבוע באופן נחרץ שהתוכן שפורסם ב-Election Watch נוצר על ידי כלי בינה מלאכותית יוצרת. למרות זאת, התוכן שפורסם באתר קיבל ציון גבוה בכלי זיהוי בינה מלאכותית ונשא כמה סימני היכר של תוכן שנוצר על ידי GenAI.

לא לבד בשטח

מומחי אבטחה ציינו שחברי דופלגנגר לא לבד בשטח בשימוש בתוכן שנוצר על ידי בינה מלאכותית יוצרת כחלק ממאמצי התעמולה שלהם. כך, לפי חוקרי מיקרוסופט, בדו"ח שהם הוציאו בספטמבר האחרון, סין פרסמה תמונות שנוצרו על ידי בינה מלאכותית כחלק ממאמצי התעמולה שלה. תמונות אלה, ציינו האנליסטים של הענקית מרדמונד, "הניבו רמות גבוהות יותר של מעורבות מצד משתמשי מדיה חברתית אמיתיים".

לכן, לפי חוקרים שאינם מרקורדד פיוצ'ר, "הגדלת מעורבות המשתמשים באמצעות כלי בינה מלאכותית יוצרת לא ממש העלתה את היקף החששות שלפיהן הטכנולוגיה תפיץ תעמולה לקהלים גדולים בהרבה. לכל הפחות, עדיין לא".

מוקדם יותר השנה, מטא תיארה את דופלגנגר כ-"קבוצה שעורכת מבצעי השפעה חשאיים, הגדולה והתקיפה ביותר מרוסיה, שראינו מאז 2017". אבל, כאמור, נראה שהקמפיין הזה לא הגיע לקהלים גדולים בפלטפורמות של ענקית המדיה החברתית.