סרטון דיפ-פייק שבו מככב מארק צוקרברג הושאר באינסטגרם

אפליקציית הרשת החברתית שהיא ממלכת הסטוריז והצילומים, נמצאת בבעלות פייסבוק כמו גם בשליטתו של צוקרברג המנכ"ל שלה, ועם זאת קליפ מזויף ומביך-משהו - אשר נעשה בטכנולוגיה חדשנית המבוססת על יכולות AI - לא הוסר ממנה ● מה עומד מאחורי הסיפור ואיך כל זה קשור לסטראט-אפ ישראלי?

מארק צוקרברג, מנכ"ל ומייסד פייסבוק. צילום: נשיאות מכסיקו, מתוך ויקיפדיה

"מארק צוקרברג מגלה את האמת על פייסבוק ומיהו באמת בעליו של העתיד", כך נכתב בפוסט הכולל סרטון, שבו מככב לכאורה מנכ"ל ענקית הרשתות החברתיות, ושהועלה לאינסטגרם בסוף השבוע האחרון על ידי חשבון בשם bill_posters_uk.

הפוסט הכה גלים בביצת הרשתות החברתיות, משום שהאיש שהביא לעולם את פייסבוק, שהיא גם הבעלים של אינסטגרם, נצפה בו כשהוא מספר לצופים, כביכול, על כך שהוא עצמו שולט במיליארדי אנשים ובנתוניהם, ובכך גם מעצב את פני העולם.

"אדם אחד, עם שליטה מוחלטת בנתוניהם הגנובים של מיליארדים"

אלא שהסרטון אינו אמיתי. זהו קליפ המשויך לקטגוריה חדשה למדי ומסקרנת, אך גם מאיימת, המכונה דיפ-פייק (זיוף עמוק), ולמעשה הוא נעשה על ידי שימוש ביכולות בינה מלאכותית שמאפשרות חיבור צילומים לכדי סרטונים שבוראים מציאות שקרית, אבל נראים אותנטיים במיוחד.

סרטון הדיפ-פייק המסוים מציג את צוקרברג אומר למצלמה: "תארו לעצמכם לרגע: אדם אחד, עם שליטה מוחלטת בנתוניהם הגנובים של מיליארדי בני אדם, בכל הסודות שלהם, בחייהם, בעתידם…". הוא הוכן בעזרת צילומים של צוקרברג משנת 2017 כשאת הקול, לכאורה, של היזם והמליארדר המפורסם מגלם שחקן. היוצרים לא ניסו להסתיר את העובדה שמדובר ביצירה מזויפת והוסיפו לפוסט את ההאשטאג deepfake#.

לאחר ש-Motherboard פרסם דיווח על הסרטון המזויף, עלו ציפיות שאינסטגרם ופייסבוק יגנזו את הפוסט מיידית ואולי אף יסגרו את החשבון של מפיציו.

דובר אינסטגרם אמר ביום ג' לתקשורת כי החברה תטפל בסרטון "באותו אופן שבו אנו מטפלים בכל המידע המוטעה על אינסטגרם", משמע שאם התוכן יסומן ככוזב על ידי בודקי עובדות של צד שלישי, כך על פי הדובר, האלגוריתמים של האתר לא ימליצו לאנשים לצפות בו.

אלא שבינתיים הוא הפך וויראלי ונצפה רק על הפלטפורמה שאליה הועלה כבר יותר מ-73 אלף פעמים, כמו גם הופץ דרך רשתות חברתיות אחרות ובכתבות רבות בתקשורת.

דיפ-פייק – עידן חדש ומסוכן?

לסיפור יש גם נקודה ישראלית – על פי דיווח של CNN Business, הקליפ נוצר על ידי סטארט-אפ ישראלי מקומי בשם Canny AI, והמייסד שלו, עומר בן-עמי, אישר את הדברים ביום ג'. לפי פורצ'ן, בהכנת הסרטון השתתפו גם שני אמנים בריטיים.

הקליפ "של צוקרברג" ומספר סרטונים אחרים – בהם מופיעים לכאורה סלבז כמו קים קרדשיאן ונשיא ארצות הברית, דונלד טראמפ – היו חלק מהמייצגים בתערוכת אמנות מיוחדת בשם "ספקטר" (שם שמציין מארק המזויף בדבריו) ושהוצגה באירוע שפילד דוק/פסט באנגליה בין התאריכים 6-11 ביוני.

קטעי הווידיאו, אשר הוכנו מטעם Canny AI ומספר חברות אחרות, בצוותא עם אמנים, נועדו להראות כיצד הטכנולוגיה המתקדמת יכולה לשמש בכדי לערוך מניפולציות על נתונים.

נושא פרטיות המשתמש בכלל – והמניפולציות שניתן לבצע על נתוניו, לרוב בלי ידיעתו, בעיקר בהתבסס על טכנולוגיות חדשניות כמו בינה מלאכותית ולמידה עמוקה – עתיד להיות העניין הרחב שבו יעסוק שימוע שמתקיים היום (ה') בגבעת הקפיטול בארצות הברית.

במפגש – שכונס לנוכח הקריאה האחרונה בארצות הברית "לשבור" את ענקיות האינטרנט, ולקראת חקירות בעניין הגבלים עסקיים שאמורות להיפתח לענקיות כמו גוגל, פייסבוק ואמזון – אמורים להעיד נציגים בכירים של מערכת אכיפת החוק, גורמי IT מובילים, וכן יועץ מדיניות ב-OpenAI, ארגון שעוסק בהיבטים הרבים של תחום הבינה המלאכותית ושהוקם ופועל במימון קרן הצדקה של ריד הופמן ו-Khosla Ventures. נציג פייסבוק לא אמור להשתתף באירוע המסוים.

המומחים השונים יעסקו כאמור באינטליגנציה המלאכותית, ואפשר שגם בטכנולוגיית הדיפ-פייק הנגזרת ממנה, ושיכולה – בהנחה שתתפתח בקרוב – להונות משתמשים וגולשים אפילו עוד יותר משעושים הפייק ניוז כיום.

תגובות

(0)

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

אין לשלוח תגובות הכוללות דברי הסתה, דיבה, וסגנון החורג מהטעם הטוב

אירועים קרובים