ג'מיני של גוגל לא ייצר תוכן פוליטי בתקופת בחירות

גוגל הודיעה באחרונה כי החליטה להגביל את כלי ה-GenAI שלה, ג'מיני (Gemini), מלענות על שאלות הקשורות לבחירות כלליות, בזמנים שבהם נערכות כאלו במדינה. החברה התייחסה ספציפית אל הבחירות הקרובות בהודו, אך תחיל את החלטתה גם במדינות אחרות הנמצאות בתקופת בחירות. המדיניות החדשה תשפיע על ארצות רבות, משום ש-2024 עומדת להיות השנה האלקטורלית ביותר בהיסטוריה, עם בחירות גדולות ב-64 מדינות.

החלטתה של ענקית הטכנולוגיה מגיעה לאחר מספר תקריות שהתרחשו בחודש שעבר בהקשר לג'מיני – ואשר הובילו את גוגל להקפיא את יכולתו של ג'מיני ליצור תמונות של בני אדם, לפחות לעת עתה עד שהחברה תפענח כיצד להתמודד עם הבעיות בתפקודו כמחולל אימג'ים כאלו.

על ההחלטה החדשה בנוגע למגבלות במוכנותו של ג'מיני ליצור תכנים פוליטיים במדינות בזמן בחירות הודיעה הצוות ההודי של החברה (Google India Team) בפוסט שפורסם בבלוג שלה, ובו צוין כי: "מתוך שפע של זהירות בנושא כה חשוב, התחלנו להגביל את סוגי השאלות הקשורות לבחירות, שלהן ג'מיני ישיב. אנחנו לוקחים את האחריות שלנו לספק מידע איכותי לשאלות מסוג זה ברצינות, ואנו ממשיכים לשפר את ההגנות שלנו באופן מתמיד".

הבחירות בהודו כבר ממש מעבר לפינה ויערכו בין אפריל למאי – פרק הזמן הארוך הנדרש כדי לאפשר לכמיליארד אזרחי המדינה להצביע. עם זאת, האיום שהבינה המלאכותית היוצרת תתערב או יותר נכון תעורב בבחירות, ואולי תגויס כדי לספק תכני תעמולה, בתוך הטיות שונות ואמינות במיוחד לכאורה, ואפילו לשם הפצת מידע כוזב ויצירות דיפ פייק, תקפות גם לבחירות שיתקיימו השנה במדינות אחרות כמו דרום אפריקה, ארצות הברית והממלכה המאוחדת.

חסימת השימוש האפשרי בטכנולוגיית ה-GenAI לצורך התערבות בתהליך הבחירות מתרחשת כעת אחרי שהטכנולוגיה כבר יצרה תופעות מטרידות מאוד – למשל בפקיסטן, ה-AI "גויסה" על מנת לייצר חיקוי של קולו של ראש הממשלה לשעבר, עמראן ח'אן. התופעה כבר צצה גם במקומות אחרים, לדוגמה בסלובקיה הקלטה מזויפת שיצרה ה-AI ושהופצה ימים ספורים לפני הבחירות גרמה לדרמה משמעותית.

בנוסף, לאחרונה ג'מיני של גוגל נחשף לזעם שהפנתה כלפיו ממשלת הודו, לאחר שהצ'טבוט נתן תשובה מעוררת מחלוקת לגבי מדיניותה של ממשלת מודי.

לנוכח אירועים אלו נראה שהאתגרים והאחריות המוטלים על חברות הטכנולוגיה להבטיח את דיוק ושלמות המידע שמופץ על ידי כלי ה-AI שלהן – מתעצמים.

חששות מכך שכלי ה-GenAI ייצרו כאלו, אבל לטעמי הונאה פוליטית. יצירות דיפ פייק. צילום: אילוסטרציה. שאטרסטוק

2024 – שנת הבחירות הגדולה בהיסטוריה

כאמור, השנה יהיו בחירות גדולות במדינות רבות, ואלו ישפיעו על כמעט חצי מאוכלוסיית העולם. מוקדם יותר השנה, אמר הפורום הכלכלי העולמי שהמידע השקרי הוא האיום הגדול ביותר על הכלכלה העולמית בטווח הקצר, וציין את הבחירות הגלובליות בשנת 2024 כמוקד דאגתו.

חששות עכשווים מפני מינוף פוליטי של כלי ה-GenAI – כמו ג'מיני, ChatGPT של המתחרות OpenAI (ה-CoPilot של מיקרוסופט שותפתה, המבוסס על אותו מודל שפה גדול) וכן יתר הצ'טבוטים מחוללי התוכן – צצו באחרונה ביתר שאת.

עיקר הדאגה היא מכך שכלים אלו עלולים להפוך את 2024 לשנת המידע השקרי בבחירות. זו הסיבה המרכזית לכך שחברות הטק הגדולות ילכו כנראה אף הן בדרכה של גוגל, וינקטו בצעדים שמטרתם להפחית את הדאגה לגבי הניצול האפשרי של ה-AI שלהן לשם כך.

אין זה מפתיע שהענקית ממאונטיין וויו הודיעה שהיא נוקטת בגישה פשוט לחסום את ג'מיני מלעסוק במענה וביצירת תוכן פוליטי, מחשש שאם תאפשר לו לעשות זאת – היא והאמון בכלי ה-GenAI שלה עלולים להיפגע.

America's Founding Fathers, Vikings, and the Pope according to Google AI: pic.twitter.com/lw4aIKLwkp

— End Wokeness (@EndWokeness) February 21, 2024

האפליה המתקנת יצרה עיוותים משכנעים

כאמור, לא מזמן החברה הותקפה בביקורת על הפיכתה למפיצת מידע שקרי, בגלל ג'מיני. במקרה הזה עליו דיווחנו, ואשר זכה לחשיפה גדולה, ג'מיני יצר עבור משתמשים תמונות, בעיקר היסטוריות, בהן הופיעו בני אדם, ותמונות אלו היו לא מדויקות בעליל. התוצרים הללו מקורם למעשה בניסיון כושל של גוגל להפוך את ג'מיני מכלי שעלול להיות מוטה וסטריאוטיפי לכלי הדוגל בגיוון – אם תרצו, סוג של אפליה מתקנת, אך מעוותת בפני עצמה.

כך למשל, כשהתבקשה ה-GenAI של גוגל לצייר תמונה של לוחם גרמני משנת 1943, הכלי סיפק תמונה שבין השאר כללה אנשים שחורים במדי נאצים. במקרה אחר, תוצאות של תמונות שחולל ג'מיני, בתגובה להוראות שקיבל לייצר אימג'ים של האבות המייסדים של ארה"ב, של אפיפיורים, וכן של פיזיקאים ואנשים שנולדו בסקוטלנד במאה ה-19 – היו תמונות רב-תרבותיות ומגוונות מבחינה גזעית. כך קרה שבין האבות המייסדים האמריקנים צוירו דמויות של ילידים אינדיאנים, או נשים – דבר שאינו תואם את המציאות ההיסטורית.

לפיכך גוגל בישרה שהחל מהבחירות הכלליות הקרובות בהודו, אם מישהו ישאל את ג'מיני על נושאים פוליטיים, הבינה המלאכותית תכוון אותו למקורות מוסמכים בכלי החיפוש של החברה Google Search, או בפלטפורמת יוטיוב (YouTube) שבבעלותה. בנוסף, גוגל הודיעה גם כי תשתף פעולה עם ועדת הבחירות של הודו, כדי לעזור לאנשים למצוא מידע הקשור להצבעה, תוך עבודה עם ארגון הודי המתמחה בבדיקת עובדות.

יש להניח כי ההחלטה החדשה תהיה תקפה גם לגבי הבחירות לנשיאות ארה"ב 2024, שתתרחש רק בנובמבר. כבר כרגע ג'מיני מסרב לענות על שאילתות הקשורות לאותן בחירות, ומפנה אנשים לגוגל חיפוש במקום. 

בהחלט עושה רושם שהחברות הפועלות בעולם הבינה המלאכותית היוצרת חשות תחת לחץ השנה שלא להיתפס מתנהגות כמו שהתנהלה פייסבוק בבחירות 2016 בארה"ב, כשעדויות רבות אותרו לכך שהיא אפשרה לדיסאינפורמציה בנוגע לבחירות (שאפשר שמקורה בכלל ברוסיה) לחגוג בפלטפורמה שלה.