מטא תסמן תמונות שיצרה GenAI – בפייסבוק ובאינסטגרם

ענקית המדיה החברתית מטא (Meta) – החברה האם שמאחורי פייסבוק, אינסטגרם, ת'רדס ואחרות – הודיעה השבוע (ג') כי היא יוזמת מהלך משמעותי לקראת יותר שקיפות בפלטפורמות שלה, בכל הנוגע לתכנים שנוצרו על ידי בינה מלאכותית ג'נרטיבית. החברה בישרה כי בקרוב תתחיל בתיוג/סימון אוטומטי של תמונות,  סרטונים או תכני אודיו שנוצרו בידי GenAI ופורסמו בשירותיה. החידוש אמור להיכנס לתוקף בשבוע הבא.

מטא פרסמה הודעה רשמית על תוכניותיה אלו וכתבה בה בין השאר: "אנו בונים כלים מובילים בתעשייה שיכולים לזהות סמנים בלתי נראים בקנה מידה – במיוחד, המידע על 'AI generated' בתקנים הטכניים C2PA ו-IPTC – כך שנוכל לתייג תמונות מגוגל, OpenAI, מיקרוסופט, אדובי, מידג'רני ו-שאטרסטוק, כשהם מיישמים את התוכניות שלהם להוספת מטא-נתונים לתמונות שנוצרו על ידי הכלים שלהם".

ההחלטה צצה לנוכח דאגה הולכת וגוברת מההפצה הנרחבת של תוכן שנוצר על ידי AI ברשתות החברתיות, וההבחנה המועטה שמפגינים לעתים קרובות המשתמשים לגבי אמינות ומקורות התוצר המסוים.

במהלך זה שלה מטא למעשה מכירה בבעיות הפוטנציאליות הגלומות בהפצת תכני AI מזויפים, שההמונים עלולים לתפוש כאותנטיים.

הונאה עם פוטנציאל מסוכן – שרבים מחמיצים בקלות

לתמונות שנוצרו על ידי AI – בכלים כמו מידג'רני או DALL·E בין השאר – יש לעיתים קרובות מראה פוטו-ריאליסטי, שיכול לטשטש בקלות את הגבול בין מציאות לבדייה, ומרבית המשתמשים עדיין לא הפנימו עובדה זו ואינם נוטים לפקפק במראה עיניהם. כך למשל, באחרונה נפוצה בפייסבוק תמונה של פילה הנושאת על חדקה גור אריות, כשמי שהיא לכאורה אמו הלביאה צועדת לצידם, כמובן בלי לפגוע בפילה. לתמונה זו צורף טקסט שמסביר על הפילה שסייעה לכפיר הצעיר, ועל כמה שבעלי החיים מופלאים. והאם אכן מופלאים, אבל מדובר בתמונת AI, שהוליכה שולל משתפים רבים, כפי שניתן לראות בצילום המצורף.

הגולש שניר פלג הציג את תמונת הפילה וגור האריות ואת המקור לה. צילום: לכידת מסך מפייסבוק

בנוסף, וכדוגמה כנראה משמעותית יותר, בחודש מרץ אשתקד, תמונות AI מזויפות של הנשיא לשעבר, דונאלד טראמפ, בורח מהמשטרה הפכו לוויראליות באינטרנט, ובמאי גרמה תמונה מזויפת, המציגה פיצוץ בפנטגון, להתרסקות רגעית בשוקי המניות.

כל אלו הן דוגמאות, חלקן פעוטות ואחרות משמעותיות, להולכת השולל הפוטנציאלית הגלומה ביצירות AI.

מטא מבינה שההטעיה הזו לא עומדת להיעצר בגורי אריות ופילות ואולי גם לא בבדיחות על טראמפ, ושהיא תגלוש וכבר גולשת למשל לזיופים של תיעודים מעזה ומהמלחמה המתרחשת בה, ושבעתיד היא גם יכולה למשל לכלול את מה שיתפש בטעות כתיעוד אותנטי של המציאות ויצית זעם/פחד/רצון לסייע ולתרום או לנקום בכל הכוח בקרב משתמשיה, אך בלי הצדקה. זאת אומרת – התוכן המזויף שיצרה ה-AI עלול לגרום להונאה של הציבור ולליבוי יצרים. מצב זה מעורר דאגות לגבי הפיכת הפלטפורמות של מטא למפיצות מידע מוטעה, קונספירציות ומניפולציות באופן אפילו נרחב מהיום, ובהמשך אף להביא לשחיקת האמון באינטרנט כולו.

מעכשיו, על ידי תיוג יצירות אלה, מטא שואפת להגביר את השקיפות שלה – כי המשתמשים יוכלו לזהות תוכן שנוצר בידי בינה מלאכותית ולקבל החלטות מושכלות לגבי האופן שבו הם מגיבים אליו; להילחם במידע מוטעה – מפני שהסימון יוכל לסייע במניעת הפצת חדשות מזויפות ותמונות שעברו מניפולציות, במיוחד בקשר לנושאים רגישים כמו פוליטיקה או אקטואליה; וכן, כנראה, לבנות אמון עם המשתמשים.

מאידך, כדאי לזכור שהמהלך החדש עשוי גם פשוט לשמש את מטא כמגן בפני תביעות שעלולות לצוץ נגדה בנדון בהמשך הדרך.

חתמו על צו מנהלי לשימוש אחראי ב-AI. ממשל ביידן-האריס והבית הלבן. צילום: עיבוד ממוחשב כאילוסטרציה. מקור: ShutterStock

ביידן הוראה לסמן את התוכן בצו הנשיאותי שלו

יצוין כי מטא אינה היחידה שמבצעת פעולה בנוגע לתוכן תוצר AI. גם OpenAI – החברה הפיונירית והמובילה בתחום ה-GenAI, שעומדת מאחורי ChatGPT המפורסם – עובדת על יוזמות דומות. הכלים שלה, כמו Dall-E 2 ו-GPT-3, מסוגלים ליצור תמונות וגם טקסט יצירתיים ומרשימים במיוחד, שרוב הציבור יתקשה להבחין בהיותם תוצר דיגיטלי. בדיוק כמו מטא, OpenAI מכירה בחשיבות השקיפות וכבר בוחנת גם היא דרכים להצביע על העובדה שתוכן מסוים נוצר באמצעות כלי הבינה המלאכותית שלה.

נזכיר כי בספטמבר האחרון בארה"ב חברות טק התחייבו מרצון לג'ו ביידן, נשיא ארה"ב, להקפדה סביב AI, והצטרפו לחברות נוספות שחתמו על התחייבויות וולונטריות מול נשיא ארה"ב מוקדם יותר, לעמוד בדרישה לצעדים כמו סימון תוכן שנוצר בידי AI. בהמשך, בסוף אוקטובר, חתם ביידן על צו מנהלי בנושא הבינה המלאכותית, שעליו שקדו בממשל האמריקני לאורך תקופה ושמטרתו להנחות חברות AI כיצד לשמור על הטכנולוגיה החדשנית והמשבשבת בטוחה, מאובטחת ומהימנה.

אחת ההתחייבויות העיקריות הכלולות בצו היא לסמן ב-Watermark תוכן שחוללה בינה מלאכותית יוצרת. המשמעות היא שכל התוכן שנוצר על ידי AI יתוייג במזהה ייחודי, שמבהיר שלא מדובר בתוכן שנוצר על ידי בן אדם. ההליך הזה עתיד לעזור למנוע שימוש בתכנים שהם תוצר GenAI למטרות זדוניות, כגון הפצת דיסאינפורמציה או יצירת זיופים עמוקים.