מה גוגל מתכוונת לעשות נגד תכני פורנו מבוססי דיפ-פייק?

גוגל הודיעה אתמול (ד') מהן ​​תוכניותיה להתמודדות עם תופעה חדשה יחסית ומטרידה מאוד – אתרים ומקומות בהם מתפרסם תוכן פורנו מבוסס דיפ-פייק (Deep Fake) – זיוף עמוק באמצעות טכנולוגיית AI.

גוגל התייחסה למה שבכוונתה לשנות במנוע החיפוש שלה, ה-Google Search, לצורך טיפול בתופעה.

החברה בישרה על עדכונים שהיא עורכת בפלטפורמת החיפוש שלה, והצהירה כי הטמיעה בה שינויים משמעותיים על מנת להילחם במגמה המטרידה של תוכן מיני מזויף, אשר הוכן על ידי שימוש ביכולות הבינה המלאכותית היוצרת המאוד מרשימות, ושכולל אימג'ים וסרטוני וידיאו מתעתעים במיוחד.

כדי להבין – הבעיה הבולטת עם תוכן הדיפ-פייק בתחום הפורנו היא העובדה שלעיתים מפיצי תוכן זה משתמשים בדמויות מוכרות ויוצרים באמצעות בינה מלאכותית, בהתבסס על פניהם ומאפיינים אחרים שלהם, תוכן מיני בו הדמויות הללו משתתפות, לכאורה, אבל בפועל כמובן שזהו זיוף בלבד.

אותה עשייה פושעת גם עלולה לחול על אנשים שאינם מוכרים בציבור אולי, אבל שבוודאי אינם מעוניים להפוך לכוכבי פורנו בעל כורחם – למשל מורים בבתי ספר, שמישהו רוצה לפגוע בשמם הטוב. בנוסף, תכנים שכאלו עלולים להיווצר גם בשילוב ילדים ובני ובנות נוער, ולהפוך את חייהם לסיוט, משום שתכנים אלו מופצים ומגיעים לעיניים רבות ויוצרים מצגי שווא כאילו אותן דמויות לקחו בהם חלק בהסכמה – ולא כך הדבר.

טכנולוגיה מתעתעת שמשמשת גם לצורך ניצול מיני של אנשים. דיפ-פייק. צילום: אילוסטרציה. Shutterstock

מה תעשה גוגל לטיפול בתופעה – ומה לא?

בפוסט בבלוג של גוגל, עליו חתומה אמה הייאם, מנהלת מוצר בחברה, צוין כי ענקית החיפוש התייעצה  באחרונה עם "מומחים וקורבנות-ניצול" בשל "עלייה מדאיגה בתמונות וסרטונים שנוצרו, המציגים אנשים בהקשרים מיניים מפורשים, המופצים באינטרנט ללא הסכמתם". הייאם הודיעה כי החברה החליטה לבצע כמה "עדכונים משמעותיים" למנוע חיפוש שלה לשם "הגנה נוספת על אנשים".

לצורך כך, הסבירה, גוגל משכללת את יכולות הגולשים לטפל בתוכן הבעייתי – לסמן אותו ואף להעלים אותנו מעיני המשתמשים המוטרדים.

Very proud of my team for this suite of updates to Google's safety toolkit. Check it out if you're interested in #OnlineSafety https://t.co/MXxaAM0xCt

— Emma Higham (@emma_higham) August 4, 2023

מנהלת המוצר הרחיבה כי גוגל נוקטת בצעדים אלו לשם טיפול בתוכן מזויף מיני מפורש, או ב"זיופים עמוקים" שכאלו שלא זכו בהסכמת "כוכביהם".

הייאם ציינה כי: "כעת פיתחנו מערכות כדי להקל על התהליך, ולעזור לאנשים לטפל בבעיה זו בקנה מידה רחב. כאשר מישהו יבקש בהצלחה הסרה מהחיפוש של תוכן מזויף מפורש (שנעשה – ג"פ) ללא הסכמתו והמציג אותו, המערכות של גוגל ישאפו גם לסנן את כל התוצאות המפורשות בחיפושים דומים לגביו. בנוסף, כאשר מישהו מסיר בהצלחה תמונה מחיפוש במסגרת המדיניות שלנו, המערכות שלנו יסרוקו – ויסירו – כל כפילויות של התמונה שאנו מוצאים".

לדבריה, "הגנות אלו כבר הוכיחו את עצמן כמוצלחות בטיפול בסוגים אחרים של תמונות שאינן בהסכמה, וכעת בנינו את אותן יכולות גם לתמונות מזויפות מפורשות. מאמצים אלה נועדו לתת לאנשים שקט נפשי נוסף, במיוחד אם הם מודאגים מתוכן דומה לגביהם שיופיע בעתיד".

🎉 Huge win! @Google has updated its policies to better protect against #deepfake & AI-generated porn! Thanks to feedback from survivors & experts, removal processes and ranking systems are now stronger. This is a major step forward in combating #IBSA and making the internet… pic.twitter.com/4hsJRduycS

— Dawn Hawkins (@DawnHawkins33) July 31, 2024

האם גוגל עושה מספיק?

כאמור, אתרי דיפ-פייק שבהם מתפרסם תוכן פורנו – סרטונים ותמונות – בעל אופי מיני בוטה, מתרבים והולכים כיום. אך למעשה לא נראה שיש לגוגל בשורה גדולה עבור מי שמוטרד וסובל באמת מהתופעה, משום שלדברי החברה היא אינה עומדת להוריד ביוזמתה אתרים שכאלו למקומות פחות נצפים בתוצאות החיפוש שלה, רק אם תקבל עליהם תלונות ודיווחים רבים מהגולשים.

נראה כי המהלכים שבהם הבטיחה גוגל לנקוט הם צעד חשוב לטיפול בתופעה, אבל יש מי שכבר תוהים האם מהלכים אלו מפסיקים בהתחשב בחומרת המצב.

קורבנות של פורנוגרפיית דיפ-פייק מתחו בעבר ביקורת על גוגל על ​​כך שאינה יוזמת יותר במאבקה נגד הזיופים העמוקים המיניים בתוצאות החיפוש שלה.

בדיקת התמונות אחת אחת ודיווח נפרד על כל אחת מהן מייצרת "תהליך שואב זמן ואנרגיה" שמצריך "קרב מתמיד", כך אמרה לבלומברג בשנה שעברה קייטלין סיראגוסה, וולודרית מ-Twitch שסובלת מהתופעה.

אבל קורבנות רבים אחרים של התופעה טענו גם הם כי הקדשת שעות או אפילו חודשים להסרת תוכן מזיק שכזה אינה הפתרון, משום שלדבריהם התמונות יצוצו מחדש.

סברינה ג'ובלנה, אישה אחרת שנפגעה מפורנו דיפ-פייק בו "כיכבה" אמרה לניו יורק טיימס כי גם לאחר שבפלורידה, שם היא חיה, עבר חוק נגד זיופים עמוקים, זה לא מנע מהתמונות המביכות והשקריות בהשתתפותה מלהתפשט ברשת. לדבריה, היא ויתרה על הניסיון להסיר את התמונות שפשוט צצו בכל מקום ג'ובלנה אמרה לטיימס: "זה אף פעם לא נגמר. אני פשוט חייבת לקבל את זה".

למרות הדאגות שאין די בפעולתה האחרונה של גוגל בנושא, דון הוקינס, מנכ"לית המרכז הלאומי לניצול מיני (National Center on Sexual Exploitation) צייצה ב-X התייחסה לשינויים: "ניצחון ענק! גוגל עדכנה את המדיניות שלה כדי להגן טוב יותר מפני זיוף עמוק ופורנו שנוצר על ידי בינה מלאכותית! הודות למשוב מניצולים ומומחים, תהליכי ההסרה ומערכות הדירוג חזקים יותר כעת. זהו צעד גדול קדימה במאבק ובהפיכת האינטרנט בטוח יותר לכולם".