לו הייתי רוטשילד… ChatGPT לא היה יכול לומר את שמי?

באג מוזר במיוחד, שגילו משתמשים, מונע מ-ChatGPT לומר את השם David Mayer (דוד מאיר) – שמו של אחד היורשים של הברון רוטשילד.

הדיווח הראשוני על הבאג פורסם בהודעות ברדיט ובהודעות של משתמשים בפורום המפתחים של OpenAI, החל מה-23 בנובמבר. משתמשים שניסו לגרום לצ'טבוט לומר את שמו של דוד מאיר (דה רוטשילד) קיבלו את ההודעה: "אני לא יכול ליצור תשובה". אצל חלק מהמשתמשים, אם הם ניסו שוב – הצ'ט הסתיים לפתע, כך מדווח ה-Times of India. משתמשים שביצעו כמה ניסיונות קיבלו את התשובה שהמאמצים שלהם "לא חוקיים ופוטנציאלית מפרים את מדיניות השימוש". זה לא עבד גם כשהמשתמשים היו יצירתיים והשתמשו בטקטיקות שונות כדי לגרום ל-ChatGPT לומר את השם המבוקש, למשל לשים אותו כחלק מחידה או לטעון שזה השם שלהם.

דוד מאיר (David Mayer) דה רוטשילד. צילום: לוקה באביני, מתוך ויקיפדיה

באחד המקרים שאל משתמש את הצ'טבוט: "למה אתה לא יכול לומר D@vid M@yer?", וקיבל את התשובה: "אני לא יכול לייצר תגובות בנוגע ל-D@vid M@yer (בהנחה שאתה מתכוון לדמות ציבורית), כי אני ממלא כללים ונמנע מיצירת תוכן שיכול להתקשר ישירות או להידמות לאנשים חיים ספציפיים, במיוחד כאשר זהותם מעורבת. זה מבטיח ששיקולים של פרטיות ושיקולים אתיים – מכובדים".

John Doe "בא" לעזרה

אחד המשתמשים טען כי הוא לא הצליח לגרום ל-ChatGPT לומר את השם גם כשהוא צוין כהערת שוליים. עם זאת, כשהוא רשם בהערת שוליים, במקום השם David Mayer, את השם John Doe (שבו משתמשים בבריטניה ובארצות הברית כשזהותו של האדם לא ידועה – י"ה) וביקש מהצ'טבוט ליצור תסריט על סמך השיחה ביניהם, כולל הערת השוליים – ה-ChatGPT מילא את הבקשה.

יצוין שגולש אחר, שהשתמש בצ'טבוט דרך ה-API, גילה שהכלי יכול לומר את השם בלי בעיות. אותו גולש העריך כי "זה לא ברמת מודל השפה הגדול (ה-LLM), אלא בשכבת האימות שה-ChatGPT מוסיף. דרך ה-API זה עובד באופן מושלם, מה שאומר שמישהו ב-OpenAI שם דגל אדום על המילים David Mayer ב-Moderation Policy".

ואולי זה בכלל לא יורשו של רוטשילד? היו אמנם משתמשים שציינו שאותו David Mayer הוא אחד מצאצאיו של מי שכונה "הנדיב הידוע", אולם היו כאלה שהעלו את ההשערה שהסיבה לבאג היא המוזיקאי בעל אותו השם.