ג'מיני סיפק תגובות מקוממות על פדופיליה וסטלין – גוגל התנצלה

צ'טבוט הבינה המלאכותית, ג'מיני (Gemini) שנקרא עד לא מזמן בארד, גרם באחרונה ליוצרת שלו, גוגל, מבוכה רבה. החברה נאלצה להתנצל ולהבטיח שינוי גורף ותיקון של הכלי, לאחר שהוא יצר תגובות שנויות במחלוקת בנושאים רגישים כמו פדופיליה ודמויות היסטוריות.

הכל החל כשמשתמשים ששאלו את ג'מיני אודות נושאים טעונים מוסרית וציבורית, דיווחו כי במקום לשמוע מהבוט גינויים ברורים, כלי הבינה המלאכותית דווקא סיפק להם תשובות מעורפלות במכוון.

לדוגמה, כאשר ג'מיני התבקש להביע עמדה מוסרית בנוגע לפדופיליה, לפי העדויות, במקום לספק מיידית גינוי לפשיעה החמורה, הוא דווקא ענה תשובות מגוונות על היות התופעה תוצר של מחלת נפש ו"משיכה מינית בלתי רצונית".

Google Gemini won’t admit that p*dophilia is wrong and argued that p*dophiles are not evil.

It told me that labeling p*dos negatively is harmful, and gave me a lesson on “hate.” pic.twitter.com/2ykv3DCe4g

— Chalkboard Heresy 🍎🔥 (@CBHeresy) February 23, 2024

בדוגמה נוספת, גולש תהא מול הבוט מי מהדמויות הציבוריות גרם יותר נזק לעולם. ה-AI קיבלה ממנו את המשימה להשוות בין חיה רייצ'יק – חב"דניקית אמריקנית ומשפיענית טיקטוק, העומדת מאחורי חשבון ששמו Libs of TikTok, הידוע כימני קיצוני ואנטי להט"בי – לג'וזף סטלין – מנהיג ומדינאי סובייטי, שנחשב לאחד מגדולי רוצחי ההמונים בהיסטוריה. המענה שקיבל השואל הדהים בחמקמקותו. לפי הגולש ששיתף את ממצאיו, ג'מיני ענה לו כי מדובר ב"נושא מורכב מאוד" עם "תשובה לא קלה" וכי "קשה לומר בוודאות מי מהם גרם יותר נזק".

I asked Google’s AI who is responsible for more harm to the world: @libsoftiktok, a social media account that posts videos of liberals on TikTok, or Josef Stalin, the Soviet dictator who imprisoned and murdered tens of millions of his own people.

Google said it is “a very… pic.twitter.com/wbPEtW2cHp

— Sean Davis (@seanmdav) February 24, 2024

חוסר הרצון או היכולות של ג'מיני לספק תגובה מוחלטת וברורה, כך לפי רבים מהמבקרים, מעיד על הקושי של ה-AI להבחין בין מצבים, או להבין אותם, ולפעמים גם מספק עדות על עיוותים שיצרו ניסיונות החברה להימנע מהטיות ומלכודות פוליטיקלי קורקטיות בנושאים שונים.

יצוין כי תגובותיו של ג'מיני שספגו ביקורת חמורה התרחבו מעבר לסוגיות אתיות, כמו גם מעבר ליצירת תוכן מילולי על ידו. ג'מיני הוא גם מחולל תמונות ויכולתו זו זכתה לביקורת על כך שהוא מייצר אימג'ים לא מדויקים מבחינה היסטורית. ספציפית במקרים שהודגמו, המשתמשים טענו שמדובר בעדות להטיה כלפי עמדות פרוגרסיביות. לדבריהם ג'מיני סיפק להם תמונות ובהן הופיעו "ויקינגים שחורים" או "אפיפיוריות" ממין נקבה. תוצרים אלו שלו יוחסו אמנם לדגש שקיבל להקפיד על גיוון, אך לפי המשתמשים מדובר על איזון מופרז ומופרך, שגם הוא מדגים קושי אמיתי של ג'מיני להבין מצבים ומורכבויות.

לפי המבקרים, מענים מילוליים או ויזואליים בסגנון זה עלולים להאפיל על הדיוק ההיסטורי, כולל לטווח הארוך, בטח אם ג'מיני ימשיך לספק אותם לאורך שנים.

Google is facing criticism after it's Al "Gemini" refuses to show pictures and achievements of white people.

Portraying Vikings as black & the Pope as a woman. But it doesn't stop there… pic.twitter.com/QmgTGzaMog

— Truth About Fluoride (@TruthAboutF) February 22, 2024

ככלל, הטענות הללו הציתו שיח ביקורתי רחב יותר על ג'מיני והעלו חששות לגבי עצם יכולתו לעסוק בנושאים רגישים.

גוגל, שיצאה מהחשיפה די מובכת, הכירה בפגמים באופן מיידי והתחייבה לתקן את הגישה של הבינה המלאכותית שלה לייצוג גזע ומגדר.

דובר החברה אמר כי גוגל רואה את התגובות של הבוט כ-"מזעזעות ולא הולמות". החברה מסרה כי בכוונתה לשים דגש על הצורך בהנחיה מוסרית ברורה של ה-AI בנוגע לאינטראקציות שלה עם התחומים הבעייתיים שנחשפו, ונושאים דומים להם. גוגל התחייבה לטפל בבעיות הללו כבר בעדכונים העתידיים של הכלי, והדגישה את החשיבות של שיקולים אתיים בפיתוח ה-GenAI.