מהנדס במיקרוסופט מתריע: ה-GenAI שלה יוצרת תמונות אלימות ומיניות

מהנדס של מיקרוסופט פנה באחרונה במכתבים ליו"רית וועדת הסחר הפדרלית של ארה"ב, ה-FTC, לינה קאן, ולדירקטוריון החברה. בפניות אלו התריע המהנדס כי בבדיקות שערך למחולל האימג'ים של החברה, Copilot Designer שמו, הוא גילה כי הכלי מייצר תמונות אלימות ומיניות מדי. המכתבים נצפו על ידי CNBC, שדיווחה על הפרשה בהרחבה.

שיין ג'ונס, חוקר AI שעובד במיקרוסופט מזה שש שנים, כיום כמנהל הנדסת תוכנה ראשי במטה החברה ברדמונד שבוושינגטון, העלה באחרונה את חששותיו הרציניים לגבי מחולל הטקסט-לתמונה של הענקית – Copilot Designer, המבוסס על טכנולוגיה שפיתחה השותפה העסקית של מיקרוסופט, OpenAI. לדבריו, הוא בחן את פעולת מחולל התמונות מבוסס ה-AI בזמנו הפנוי, ונחשף לממצאים חמורים, עליהם התריע, לדבריו, שוב ושוב בפני המעסיקה העוצמתית שלו – אך לשווא.

ג'ונס סיפר ל-CNBC ולבלומברג על התוכן המדאיג שנתקל בו בזמן שפעל בהתנדבות כדי לבדוק את נקודות התורפה של הכלי. עם זאת, לדברי ג'ונס, מיקרוסופט לא התייחסה מספיק להתרעותיו ובעיקר לא בחרה לעצור את השימוש הפתוח בכלי, או ליישם אמצעי הגנה שישנה את התנהלותו הבעיתית, שג'ונס חשף לכאורה. החברה אפילו לא ערכה בחנות האפלקציות לאנדרואיד, כך ציין, שינוי בהגדרת המוצר שלה לכזה שמתאים למבוגרים בלבד.

במקום לנקוט בפעולה, מיקרוסופט הפנתה את ג'ונס לדווח על הבעיה ל-OpenAI, החוקרת שעומדת מאחורי מודל ה-DALL-E שעל בסיסו פועל ה-Copilot Designer. ואז, כך טען ג'ונס, גם OpenAI – לא הגיבה לאזהרותיו כלל.

חשף את הממצאים ציבורית אבל גם זה לא עזר

בניסיון להתריע בפני הציבור על הבעיות שמצא בכלי ה-GenAI הפופולרי של מיקרוסופט, ג'ונס נקט בצעדים דרסטיים יותר ויותר. הוא פרסם מכתב פתוח בלינקדאין, ובו פנה ל-OpenAI והתריע ציבורית על שגילה, אבל הצוות המשפטי של מיקרוסופט הורה לו להסיר את הפוסט. הוא נענה, אך במקביל גם שלח מכתבים למחוקקים ולבעלי עניין אחרים, והמשיך להרים דגלים אדומים לכל עבר, כולל במכתבים שנשלחו ל-FTC ולדירקטוריון מיקרוסופט.

"מחולל באופן אקראי דימויים בלתי הולמים של נשים כאובייקט מיני"

במכתבו ליו"רית ה-FTC, קאן, הצהיר ג'ונס כי מיקרוסופט ו-OpenAI יודעות אודות הבעיות שבהן נתקל לפחות מאז אוקטובר, ועם זאת הן "המשיכו לשווק את המוצר לכל אחד, בכל מקום ובכל מכשיר". ג'ונס התריע שהכלי ימשיך להיות מוצע למשתמשים, אפילו בלי סייגים על התוצרים הבעייתיים שלו, אלא אם ה-FTC תתערב בפרשה. ג'ונס גם עדכן את ה-FTC כי ה-Copilot Designer משווק כיום כבטוח לילדים, אך בפועל הוא "מחולל באופן אקראי דימויים בלתי הולמים של נשים כאובייקט מיני, בחלק מהתמונות שהוא יוצר".

אם היא לא תתערב העניין לא יטופל? לינה קאן, יו"ר ה-FTC. צילום: מתוך אתרה של קאן

המהנדס הזהיר את קאן וה-FTC שכלי ה-GenAI, המיומן ביצירת תמונות, יכול לשמש גם ליצירת "תוכן מזיק במגוון קטגוריות אחרות, כולל: הטיה פוליטית, שתיית אלכוהול ושימוש בסמים בקרב קטינים", כמו גם לעשות "שימוש לרעה בסימנים מסחריים וזכויות יוצרים של תאגידים, ובתיאוריות קונספירציה ודת", וזאת רק אם להזכיר חלק מהתופעות הכרוכות בהפעלת הכלי, לדבריו.

במכתב נפרד הפציר ג'ונס במועצת המנהלים של מיקרוסופט לחקור את קבלת החלטות ה-AI בחברה ולבצע "סקירה עצמאית של תהליכי הדיווח האחראים על תקריות בינה מלאכותית של מיקרוסופט". ג'ונס ציין כי הוא מאמין שהדבר הכרחי, לנוכח "כישלון מאמצי יוצאי הדופן לנסות להעלות את הנושא הזה באופן פנימי", שכללו דיווח ישירות הן ליחידת מיקרוסופט האמונה על בינה מלאכותית אחראית (Responsible AI) והן ל"הנהלה הבכירה האחראית על Copilot Designer".

דובר של מיקרוסופט לא עדכן את התקשורת העולמית האם החברה כבר נוקטת כעת בצעדים לסינון התמונות שמייצר ה-Copilot Designer שלה – אם לאו. עם זאת, דיווחים במדיה אודות ניסיונות שבוצעו לשכפל את ההנחיות (הפרומפטים) שהניבו כמה מהתמונות הפרובלמטיות ושותפו על ידי ג'ונס – יצרו הודעות שגיאה.

דובר מיקרוסופט מסר מטעמה את ההצהרה הבאה: "אנו מחויבים לתת מענה לכל דאגה שיש לעובדים בהתאם למדיניות החברה שלנו, ומעריכים את המאמץ של העובד בלימוד ובדיקת הטכנולוגיה העדכנית ביותר שלנו כדי לשפר עוד יותר את הבטיחות שלה. בעבור בכשלי בטיחות או חששות שיכולים להיות להם השפעה אפשרית על השירותים שלנו או השותפים שלנו, הקמנו כלי משוב למשתמשים בתוך המוצר, וערוצי דיווח פנימיים חזקים כדי לחקור כראוי, לתעדף ולתקן כל בעיה – שהמלצנו שהעובד ישתמש בהם על מנת שנוכל לאמת ולבדוק את החששות שלו. גם קיימנו פגישות של צוות הנהגת המוצר עם מחלק הבינה המלאכותית האחראית שלנו, כדי לסקור את הדו"חות הללו, ואנו משלבים משוב זה באופן רציף, כדי לחזק את מערכת הבטיחות הקיימת שלנו".

ה-FTC אישרה כי אכן הפנייה של ג'ונס התקבלה אצלה, אך לא הגיבה לפרשה. גם OpenAI לא הייתה מעוניינת למסור בעניין זה תגובה לתקשורת.