מדוע מעכבת OpenAI סימון טקסטים שיצר ChatGPT שלה?
כלי שמטביע בטקסט שנוצר בידי ה-GenAI סימן מים מיוחד פותח על ידי החברה, כך לפי דיווחים אחרונים, אולם ב-OpenAI מתלבטים האם להשיק אותו בכלל ● צו מנהלי של ממשל ביידן קבע שהוספת סימון שכזה היא על תקן חובה
OpenAI פיתחה כלי לסימון מים (Watermark) של טקסט שנוצר בידי סייע הבינה המלאכותית היוצרת שלה, ChatGPT, אלא שהפיצ'ר המתוכנן – שאמור היה להעניק לגולשים את היכולת לזהות במדויק מהו תוכן שנוצר על ידי AI, כמו הצ'טבוט המפורסם של החברה – עורר ויכוחים פנימיים בתוך החברה ולבטים האם לשחרר אותו – אם לאו. לעת עתה החברה ממשיכה להתלבט בנושא.
כאמור, לפי דיווח אחרון של הוול סטריט ג'ורנל ל-OpenAI יש כבר כלי כזה מוכן כבר כשנה, אך היא מהססת לשחרר אותו. מאידך דיווח דומה ב-The Verge טען ביותר נחרצות כי "OpenAI לא תשים סימן מים של טקסט של ChatGPT".
🚨 Breaking: OpenAI has had a system for watermarking ChatGPT-created text and a tool to detect the watermark ready for about a year, reports The Wall Street Journal.
But the company is divided internally over whether to release it. pic.twitter.com/yKYUBOmilN
— Artificial Intelligence by The AI Block (@theaiblock) August 5, 2024
מהו סימן המים ולמה נועד?
הרעיון לסמן באופן ייחודי טקסט אשר חוללה ה-AI מקורו בין השאר בניסיונות למנוע שימוש פוטנציאלי של תלמידים ב-ChatGPT כדי לבצע מטלות בית ספר, וכן בכוונה לעזור לעורכים ולמפרסמים לזהות טקסט שנוצר על ידי בינה מלאכותית. אלא שהרעיון הזה כלשעצמו עורר, כך דווח, ויכוחים עקרוניים בתוך החברה.
על פי הדיווחים במדיה העולמית, שיטת סימון המים שפותחה בחברה משנה בעדינות את האופן שבו ChatGPT מנבא מילים וביטויים עוקבים, ומטמיעה דפוס שניתן לזהות בתוך הטקסט. הכלי, כך נטען, מאפשר לקבוע בוודאות של 99.9% אם טקסט הוא תוצר בינה מלאכותית או לא. אלא שלמרות היותו מדויק מאוד ומיושם על פי הגדרות מבוקרות, סימן המים המדובר עלול להתקל באתגרים כאשר מתעסקים בו, מה שהופך אותו לפגיע למניפולציות מטעם שחקנים רעים. לכן, בנוסף לסימון מים של טקסט, OpenAI בוחנת שיטות אחרות להבטחת מקור הטקסט. החברה, כך דווח, ממשיכה לחקור את סימון המים של טקסט והחלופות שלו, כגון הטמעת מטא נתונים, הכוללים חתימה קריפטוגרפית, כשיטה בשלב מוקדם לספק דרך לעמוד בפני ניסיונות חבלה באימות מקור הטקסט.
חשש אחד לגבי שחרורו של כלי זיהוי פעולת ה-GenAI הזה נחשף בידי דובר החברה, שאמר כי הפיצ'ר עלול "להשפיע באופן לא פרופורציונלי על קבוצות כמו מי שאינם דוברי אנגלית". בנוסף צץ גם חשש כי המהלך יטיל סטיגמה על השימוש בכלי AI ככלי עזר חשובים עבור אנשים המסתמכים עליהם לסיוע בשפה, וכמו יעביר מסר לציבור שהתוצר של ChatGPT אינו לגיטימי. עוד עלו חששות ששחרור הכלי ירתיע משתמשים משימוש ב-ChatGPT, מה שיכול יהיה להשפיע על בסיס המשתמשים וההכנסות של מפתחת הבינה מלאכותית היוצרת המצליחה.
מאפשר לזהות מקור של תוכן. סימן מים קלאסי על תמונות. צילום: אילוסטרציה. Shutterstock
מענה בסקר: הוספת סימן תרחיק 30% מהמשתמשים מהשירות
סקר שהוזמן על ידי OpenAI מצא כי קיימת תמיכה חזקה ברעיון העקרוני של הוספת כלים לזיהוי פעילותה של בינה מלאכותית יוצרת מאחורי תוכן. בין הנסקרים מכל רחבי העולם נמצא כי על כל ארבעה משיבים שהיו בעד התוסף, היה רק משיב אחד שהתנגד לו. אך עם זאת, כמעט 30% ממשתמשי ChatGPT שנסקרו ציינו שהם צפויים להפחית את השימוש בתוכנה, אם ייושם סימון מים בתוצריה.
אם כך, החברה הבינה כי מסתמן שיישום של כלי זיהוי שכזה עלול להרתיע רבים מפני השימוש ב-AI לצורך יצירת תוכן כתוב, וזאת על אף שה-GenAI כבר התגלתה כמשאב רב ערך להפקת רעיונות, לניסוח מאמרים, לסיכום תכנים ולשיפור הפרודוקטיביות. לפיכך OpenAI עומדת בפני החלטה מורכבת, האם לשחרר את כלי סימון המים, בהתחשב בהשלכות האתיות, הפיננסיות והחברתיות שעשויות להיות לו.
יצוין כי תכני AI יוצרת כבר מסומנים בחלק מהמקרים, כך שניתן יהיה לזהותם, אולם באופנים חיצוניים. הכוונה לסמן את התכנים הללו ולייצר שקיפות סביבם הגיעה לנוכח דאגה הולכת וגוברת מההפצה הנרחבת של תוכן שנוצר על ידי AI ברשתות החברתיות, וההבחנה המועטה שמפגינים לעיתים קרובות המשתמשים לגבי אמינות ומקורות התוצר המסוים.
כך למשל, בפברואר האחרון הודיעה מטא כי תסמן תכנים שיצרה GenAI בפייסבוק ובאינסטגרם, באמצעות תיוג של תמונות, וידיאו ואודיו שה-AI יצרה והתפרסמו אצלה. עם זאת לא מעט מהתכנים הללו, כך מסתמן, חומקים מסימון ומייצרים מצגי שווא שרבים מאמינים להם, כפי שראינו כולנו ביתר שאת מאז פרוץ מלחמת ישראל-חמאס.
חתמו על צו מנהלי לשימוש אחראי ב-AI. ממשל ביידן-האריס והבית הלבן. צילום: עיבוד ממוחשב כאילוסטרציה. מקור: ShutterStock
ממשל ביידן קבע – הסימון הוא חובה
נזכיר כי בספטמבר 2023 התחייבו חברות טק בארה"ב מרצון לנשיא ג'ו ביידן להקפדה סביב AI, וכן לעמוד בדרישה לצעדים כמו סימון תוכן שנוצר בידי AI. בהמשך, בסוף אוקטובר, חתם ביידן על צו מנהלי בנושא הבינה המלאכותית, שעליו שקדו בממשל האמריקני לאורך תקופה, ושמטרתו היא להנחות חברות AI כיצד לשמור על הטכנולוגיה החדשנית והמשבשבת בטוחה, מאובטחת ומהימנה.
אחת ההתחייבויות העיקריות הכלולות בצו היא לסמן ב-Watermark תוכן שחוללה בינה מלאכותית יוצרת. המשמעות היא שכל התוכן שנוצר על ידי AI יתוייג במזהה ייחודי, שמבהיר שלא מדובר בתוכן שנוצר על ידי בן אדם. ההליך הזה עתיד היה לעזור למנוע שימוש בתכנים שהם תוצר GenAI למטרות זדוניות, כגון הפצת דיסאינפורמציה או יצירת זיופים עמוקים. אולם, כפי שהחדשות האחרונות מבית מפתחת ה-GenAI הבולטת ביותר מעידות – לעת עתה, חברות בתחום לא מזדרזות ליישם את הבטחת סימן המים המסוימת שלהן.
תגובות
(0)