OpenAI מתריעה: אל תפתחו רגשות ל-ChatGPT-4o

GPT-4o היא הגירסה האחרונה של הצ'אטבוט של OpenAI, ואחד החידושים המאפיינים אותו הוא תכונת "מצב הקול מתקדם", של תגובות אודיו היפר-ריאליסטיות. בסוף יולי האחרון החלה החברה להפיץ את התכונה לקבוצה קטנה של משתמשים, ולדבריה התכונה תופץ בהדרגה לכל משתמשי פלוס בסתיו הקרוב. כאשר OpenAI הדגימה לראשונה את הקול של GPT-4o בחודש מאי האחרון, התכונה הדהימה את הקהל הן בשל התגובות המהירות של התוכנה והן בשל הקול הכמעט אנושי, שיכול להביע אינטונציות רגשיות, כולל עצב או התרגשות וכדומה.

התכונה החדשה נועדה לספק חוויה דומה לדיבור עם אדם, אך נראה ש-OpenAI זלזלה בקשר הרגשי שיכול להיווצר בין המשתמשים לתוכנה. מסתבר כעת, שלאחר בדיקות שערכה, לחברה יש כמה חששות שמשתמשים יפתחו רגשות כלפי הצ'אטבוט והיא פרסמה דו"ח על ממצאיה:

"במהלך בדיקות מוקדמות, כולל עם צוות אדום ובדיקות משתמשים פנימיות, צפינו במשתמשים המשתמשים בשפה שעשויה להצביע על יצירת קשרים עם המודל. לדוגמה, זה כולל שפה המבטאת קשרים משותפים, כגון 'זה היום האחרון שלנו ביחד'. אף על פי שמקרים אלו נראים תקינים, הם מסמנים צורך בחקירה מתמשכת כיצד תופעות אלו עשויות להתבטא לאורך פרקי זמן ארוכים יותר. אוכלוסיות משתמשים מגוונות יותר, עם צרכים ורצונות מגוונים יותר מהמודל, נוסף על מחקרים אקדמיים ופנימיים עצמאיים, יסייעו לנו להגדיר בצורה קונקרטית יותר את תחום הסיכון הזה.

"סוציאליזציה אנושית עם מודל בינה מלאכותית עשויה לייצר תופעות חיצוניות המשפיעות על אינטראקציות בין אדם לאדם. לדוגמה, משתמשים עשויים ליצור קשרים חברתיים עם הבינה המלאכותית ולהפחית את הצורך שלהם באינטראקציה אנושית – ובכך אולי להועיל לאנשים בודדים, אבל להשפיע על מערכות יחסים בריאות. אינטראקציה מורחבת עם המודל עשויה להשפיע על נורמות חברתיות. לדוגמה, המודלים שלנו מביעים כבוד, אבל מאפשרים למשתמשים להפריע ו'לקחת את המיקרופון' בכל רגע – התנהגות צפויה עם AI, אבל אנטי נורמטיבית באינטראקציות אנושיות".

לסיכום מציינת OpenAI, כי "כחלק מתהליך הפריסה האיטרטיבית שלנו, נמשיך לעקוב ולעדכן את השינויים בהתאם לנוף המתפתח".