דיפ-פייק: אילון מאסק וג'ורג'ה מלוני – בסרטוני כזב בעשרות קמפיינים

נחשפו עשרות קמפיינים של סרטוני כזב – זיוף עמוק, או בלועזית דיפ-פייק (Deepfake) – שנוצרו באמצעות בינה מלאכותית יוצרת, ונועדו להונות אנשים וארגונים במדינות שונות. על הידוענים שהשתתפו בעל כורחם בסרטונים נמנים, בין השאר, אילון מאסק, ג'ורג'ה מלוני, ראשת ממשלת איטליה, ו-תרמן שאנמוגאראטנאם, נשיא סינגפור.

לפי Unit 42, יחידת המחקר של פאלו אלטו, הקמפיינים, שנוצרו כאמור באמצעות GenAI, כוונו לקהלי יעד שונים והופצו בכמה מדינות, בהן קנדה, מקסיקו, צרפת, איטליה, טורקיה, צ'כיה, סינגפור, קזחסטן ואוזבקיסטן, ובשפות שונות כמו אנגלית, ספרדית, צרפתית, איטלקית, טורקית, צ'כית ורוסית. הסרטונים כללו דמויות בעלות דמיון רב לבעלי פרופיל ציבורי גבוה – מנכ"לים בכירים, אנשי תקשורת, מנהיגים ופקידי ממשל בכירים. "יצירות" אלו נועדו לקדם הזדמנויות השקעה מזויפות, או מתנות מזויפות בחסות הממשלה.

בשל הדמיון בתשתיות והטקטיקה בסרטונים, מעריכים החוקרים כי רבים מהקמפיינים נוצרו על ידי קבוצת איום אחת, שאת זהותה לא ציינו: "השימוש ב-CDN מקשה על ייחוס הקמפיין לשחקן איום מסוים, או למיקום גיאוגרפי מסוים", ציינו ב-Unit 42.

Unit 42’s latest research provides a comprehensive review of detection mechanisms for #deepfake #scams. We discuss the efficacy of current models and explore potential advancements in anomaly detection algorithms. https://t.co/u7F6w47k5b pic.twitter.com/zaxi43gG2D

— Unit 42 (@Unit42_Intel) August 29, 2024

מאות דומיינים עם מאות אלפי מבקרים משמשים לקידום הקמפיינים

החל מיוני 2024, גילו החוקרים מאות דומיינים המשמשים לקידום קמפיינים אלה, שזכו לחשיפה רבה: לכל דומיין נכנסו בממוצע 114,000 משתמשים מכל רחבי העולם.

החוקרים החלו להתעמק בקמפיין לקידום תוכנית השקעות, בשם Quantum AI, חקרו את התשתית מאחורי מסע זה, ועקבו אחר התפשטותו לאורך זמן. הם גילו כמה קמפיינים נוספים של דיפ-פייק, הממנפים נושאים שונים לחלוטין, שאותו שחקן איום יצר וקידם. "השימוש בשפות שונות במסעות הונאה אלה, וכן בדמויות ציבוריות שונות", הסבירו החוקרים, "מרמז על כך שכל קמפיין מיועד לקהל יעד שונה".

Elon Musk EXPOSED: The Quantum AI Scam That's Got Everyone Talking! 🤑💸 Is he behind it or just a victim of a deepfake? Tune in to find out! 🎙️ pic.twitter.com/A7qJ7WIrGP

— Comed (@Comed_Ai_n) May 17, 2024

"ברוב המקרים", נכתב, "התוקפים התחילו עם סרטון לגיטימי והוסיפו אודיו משלהם שנוצר על ידי AI. לבסוף, הם השתמשו בטכנולוגיית סנכרון שפתיים, כדי לשנות את תנועת השפתיים של הקול, כך שתתאים לקול שנוצר על ידי בינה מלאכותית".

Real-time face replacement
aka Deep-fakes.

This runs at +30 FPS

It’s still crude, but you can def see that we will have this running at high quality within months.

Demo link below

pic.twitter.com/yJbU0ii8rV

— Linus ●ᴗ● Ekenstam (@LinusEkenstam) December 15, 2023

דיפ-פייק-מאסק – כוכב הזיוף וההונאה

ברוב הסרטונים נעשה שימוש ב-מאסק – הסלבריטאי המועדף עליהם – אם כי הם גילו גם דמויות ציבוריות אחרות: טאקר קרלסון – מנחה רשת פוקס לשעבר ואושיית התקשורת השמרנית; או לי הסיין לונג, ראש ממשלת סינגפור לשעבר.

כך, באחד מהסרטונים, דיפ-פייק-מאסק "טוען" כי "Quantum AI היא תוכנת המחשוב הקוונטי הראשונה בעולם, שפותחה על ידי הצוות שלי – עם שיעור הצלחה של 91%".

דף הבית של אתר QuantumAI כולל באנר פרסומי, על הפיכת 250 דולרים ל-9,000 דולרים, הזמנה להירשם בחינם, וחלון וידיאו המציג קטע בחדשות.

עוד החוקרים גילו אתר הונאה שהשתמש בסרטון מניפולציה של אנדרס מנואל לופז, נשיא מקסיקו, כדי לקדם "פרויקט חברת השקעות מקסיקנית" מזויף; אתר הונאה המשתמש בסרטון מניפולציה של ג'ורג'יה מלוני, ראש ממשלת איטליה, כדי לקדם תוכנית השקעות מזויפת בחסות המדינה בשם FinInvest; ואתר הונאה בנושא הבנק העולמי, המשתמש בסרטון מניפולציה של בינה מלאכותית, של אישה הטוענת שהיא מייצגת בנק השקעות בינלאומי.

צילום מסך של סרטון זיוף עמוק של תרמן שאנמוגאראטנם, הנשיא הנוכחי של סינגפור, ששימש לקידום הונאת ה-Quantum AI. צילום: Unit 42

"פושעי סייבר מתחילים להשתמש בדיפ-פייק לקידום הונאות ופישינג"

תוך כדי המחקר, "על הדרך", החוקרים הצליחו לחשוף כמה מסעות הונאה אחרים – שככל הנראה הופצו על ידי אותו שחקן איום – שרבים מהם השתמשו בסרטוני דיפ-פייק כפיתוי וניצלו בדרך כלל את דמותם של אישי ציבור, כגון מנכ"לים, מגישי חדשות או פקידי ממשל בכירים. 

"ברבים מהמקרים", ציינו החוקרים, "גילינו כמה דומיינים רשומים חדשים, המארחים את אותו תוכן – ואת אותו פיתוי וידיאו דיפ-פייק. המשמעות היא שכל אחד מדפי הונאה אלה הוא חלק מקמפיין גדול יותר – ולא רק דף אינטרנט חד-פעמי של הונאה".

החוקרים סיכמו בכותבם כי "למרות שהשפות ויעדי ההתחזות של מסעות ההונאה האלה שונים, הם חולקים כמה קווי דמיון: כולם משתמשים בטכניקות דיפ-פייק דומות; יש להם קריאות דומות לפעולה; הם מארחים את הסרטונים שלהם בקבוצה קטנה ומשותפת של דומיינים. לכן, ניתן לייחס קמפיינים אלה לשחקן איום יחיד… הקמפיינים החלו לפני כשנה, והיה זינוק גדול של דומיינים חדשים שנצפו בפברואר 2024. שלא כמו דומיינים טיפוסיים של פישינג או נוזקות, דומיינים אלה הם בעלי תוחלת חיים ארוכה יחסית – עם זמן פעילות ממוצע של 142 ימים… מאז הופעת ה-GenAI, התוקפים השתמשו בדיפ-פייק כדי לקדם מידע שגוי פוליטי, ואפילו כדי לקדם את ההגעה לבוחרים. כעת, אנו רואים שפושעי סייבר מתחילים להשתמש בדיפ-פייק כדי לקדם הונאות והתקפות פישינג משלהם. עם הפופולריות והיעילות הגוברות של כלים המשתמשים בבינה מלאכותית כדי ליצור תוכן – התוקפים יכולים כעת ליצור את הסרטונים הללו בצורה זולה ומשכנעת יותר… ככל ששחקני איום מגבירים את השימוש שלהם בטכנולוגיית דיפ-פייק, ארגונים צריכים גם להתגונן באופן יזום מפני מתקפות מסוג זה".