גוגל הכריזה על כלי לזיהוי תמונות שנוצרו על ידי בינה מלאכותית

מיום ליום קשה יותר להבחין בין תמונות שנוצרות על ידי בינה מלאכותית לבין תמונות אמיתיות, ועל רקע זה מתגבר והולך גם החשש שתמונות כאלה עשויות לשמש להפצת מידע כוזב.

השבוע הכריזה גוגל על ​​כלי חדש – שנקרא SynthID – שלדבריה יכול להיות חלק מהפתרון. הכלי מטמיע "סימן מים" דיגיטלי ישירות בתמונה, שלא ניתן לראותו בעין האנושית, אבל יכול להיקלט על ידי מחשב שהוכשר לזהותו. לדברי החברה, הטכנולוגיה החדשה שלה לסימון מים עמידה בפני שיבוש, מה שהופך אותה לצעד מרכזי לקראת ניטור הפצה של תמונות מזויפות והאטת הפצה של מידע שקרי.

מחוללי תמונות בינה מלאכותית זמינים כבר כמה שנים ונעשה בהם שימוש יותר ויותר ליצירת Deepfake – תמונות כוזבות המתיימרות להיות אמיתיות. בחודש מרץ, תמונות AI מזויפות של הנשיא לשעבר דונאלד טראמפ בורח מהמשטרה הפכו לוויראליות באינטרנט, ובמאי גרמה תמונה מזויפת, המציגה פיצוץ בפנטגון, להתרסקות רגעית בשוקי המניות.

ככל שה-AI משתפרת ביצירת תמונות ווידיאו – פוליטיקאים, חוקרים ועיתונאים מודאגים מכך שהקו בין מה אמיתי לשקרי באינטרנט יישחק עוד יותר, דינמיקה שעלולה להעמיק את הפערים הפוליטיים הקיימים ולהקשות על הפצת מידע עובדתי. השיפור בטכנולוגיית ה-Deepfake מגיע כאשר חברות המדיה החברתית נסוגות מניסיון לשלוט במידע שקרי בפלטפורמות שלהן.

לעת עתה, הכלי של גוגל זמין רק לחלק מהלקוחות המשלמים של עסקי מחשוב הענן שלה – והוא עובד רק עם תמונות שנוצרו עם מחולל התמונות של גוגל, Imagen. החברה אומרת שהיא לא דורשת מלקוחות להשתמש בו כי זה עדיין ניסיוני.

המטרה הסופית היא ליצור מערכת, שבאמצעותה ניתן לזהות בקלות, באמצעות סימני מים מוטבעים, את רוב התמונות שנוצרו על ידי בינה מלאכותית, לדברי סגן נשיא למחקר ב-Google DeepMind, מעבדת הבינה המלאכותית של החברה, שהזהיר שהכלי החדש אינו לגמרי חסין סיכון.

סימן מים הוא אחד הרעיונות שנבחנים כדרך פוטנציאלית להפחית את ההשפעה השלילית של טכנולוגיית הבינה המלאכותית היוצרת, שהחברות דוחפות למיליוני אנשים. בפגישה שנערכה בבית הלבן עם מנהיגי שבע מחברות הבינה המלאכותית הבולטות ביותר, התחייבו החברות ליצור כלים לסימון מים ולזיהוי טקטס, סרטונים ותמונות שנוצרו על ידי AI.

הכלי החדש של גוגל מטמיע באופן דיגיטלי סימני מים שאינם גלויים לעין האנושית על גבי תמונות שנוצרו באמצעות בינה מלאכותית. גם אם תמונה שנוצרה על ידי בינה מלאכותית עברה עריכה או מניפולציה, הכלי עדיין יוכל לזהות את סימן המים הדיגיטלי.

גם אם כל החברות המובילות יפתחו כלים דומים, והרשתות החברתיות יממשו אותם, תמונות שנוצרו באמצעות מחוללי AI בקוד פתוח עדיין לא יהיו ניתנות לזיהוי, וגם כאלה כבר קיימים, כך שהדרך עדיין ארוכה מאוד, אבל רואים כבר ניצני התחלה.

נראה שהדינמיקה תהיה דומה למרוץ החימוש הבלתי פוסק של חברות אבטחת הסייבר מול ההאקרים, שמחפשים וגם מוצאים כל העת דרכים לעקוף את ההגנות, ומי שירצו להשתמש בתמונות מזויפות כדי להונות אנשים – ימשיכו למצוא דרכים לבלבל את כלי הזיהוי של הזיופים, וחוזר חלילה וחוזר חלילה.