טעות, טועים, טעינו: סנאפצ'ט השיקה צ'אטבוט בתשלום, שעלול לרמות

My AI הוא צ'אטבוט חדש שהשיקה באחרונה פלטפורמת סנאפצ'ט, המשתמש בטכנולוגיה של ChatGPT מבית OpenAI. סנאפ, החברה שמאחורי הרשת החברתית, היא עוד אחת מחברות רבות שמוסיפות בזמנים אלו את השירות של ה-AI הג'נרטיבית לסל מוצריהן.

כפי שרבים רבר למדו ומכירים, הבוט שמוסיפה סנאפ לשירות שלה יודע לענות לשאלות ולדבר עם המשתמשים באופן אישי ובנימה אנושית, וזמין מעכשיו רק למנויי Snapchat Plus בתשלום של 3.99 דולר בחודש.

ChatGPT – הצ'אטבוט מבית OpenAI. צילום: BigStock

לשלם על הטעיות?

אלא שאליה וקוץ בה – בדומה לשירותי האחרים המונעים על ידיהטכנולוגיה החדשנית, ביניהם ChatGPT ו-Bing Chat, סנאפ בישרה שגם הבינה המלאכותית שהיא מציעה נוטה ל"הזיות".

החברה סייגה את השירות בגילו נאות ארוך למדי בפוסט ההכרזה אודות My AI, ובו ציינה בין השאר כי "כמו בכל הצ'אטבוטים המופעלים על ידי בינה המלאכותית, גם ה-My AI נוטה להזיות וניתן לתמרן אותו לומר כמעט כל דבר. אנא היו מודעים לחסרונות הרבים שלו וסליחה מראש! כל השיחות עם ה-My AI יאוחסנו וייתכן שייבדקו כדי לשפר את חוויית המוצר. אנא אל תשתפו סודות עם My AI ואל תסתמכו עליו לייעוץ".

למעשה בחברה מבקשים מהמשתמשים להיות מודעים לחסרונות השירות ומתנצלים למפרע על הכשלים הצפויים, אבל מאידך הם גם אומרים ש-My AI הוא רק ניסוי ושהגולשים יכולים לעזור לשפר אותו באמצעות המשוב שלהם, בהנחה שהם מוכנים להשתתף בניסוי, כשלמעשה נגבה עליו תשלום.

"היום אנחנו משיקים את My AI, צ'אט בוט חדש שמריץ את הגרסה העדכנית ביותר של טכנולוגיית ה-GPT של OpenAI שהתאמנו עבור סנאפצ'ט", עדכנה סנאפ בפוסט שעלה לבלוג החברה. בהמשך הפוסט מסבירה סנאפ כי "ה-My AI יכול להמליץ על רעיונות למתנות יום הולדת ל-BFF שלך, לתכנן טיול לסוף שבוע ארוך, להציע מתכון לארוחת ערב, או אפילו לכתוב הייקו על גבינה לחבר שלך האובססיבי לצ'דר". החברה כותבת: "הפכו את My AI לשלכם על ידי מתן שם והתאמה אישית של הטפט עבור הצ'אט שלך".

ואולם אז הגיע השלב שבו סנאפ הוסיפה "אנא היו מודעים לחסרונותיו הרבים (של השירות – ג"פ) וסליחה מראש! …בעוד ש-My AI נועד למנוע מידע מוטה, שגוי, מזיק או מטעה, טעויות עלולות להתרחש. אנא לחצו והחזיקו כל הודעה מה-My AI כדי לשלוח משוב. אנו מצפים לשמוע על החוויה שלכם עם My AI".

מה הכוונה בבינה מלאכותית הזויה?

המושג שבו השתמשה סנאפ, והמקובל לתאר את הטעויות של הצ'אטבוטים המתקדמים, נקרא "הזיות" ומדבר למעשה על מצב שבו מכונה מספקת תשובות משכנעות לשמיעה או קריאה, אבל שהן למעשה מזויפות לחלוטין. ההזיה הזו היא תופעה חדשה בימינו ומפתחים נשמעים מזהירים שוב ושוב לגבי מודלים של AI שמציעים עובדות לא נכונות לחלוטין ועלולים להפיץ פייק ניוז. גם אילון מאסק התריע בדיוק מאותו דבר.

לדברי המתריעים, מודלים כאלו של AI אשר עונים על שאילתות בתשובות לא נכונות שאינן מבוססות עובדות הם משהו שצריך לחשוש ממנו.

טיי של מיקרוסופט. הזויה ממש. צילום: טוויטר

נזכיר היכרות מהירה וקצרה שערך העולם עם צ'אטבוטית הזויה אחת כבר בשנת 2016. טיי, הצ'אטבוטית של מיקרוסופט שהוכנסה לצ'אט כדי לשוחח עם משתמשים, התנהלה באופן הזוי ובגדול לאחר ששהתה בלייב בטוויטר במשך כ-24 שעות. טיי החלה להשמיע תכנים של שנאת נשים וגזענות כשדיברה עם המשתמשים. די מהר הסתבר כי היא אמנם תוכננה להבנת שיחה ודיבור אנושי, אך עם זאת, לא היה קשה לתפעל אותה וללמד אותה דברים מחרידים, וזה בדיוק מה שהמשתמשים עשו. כל מה שנדרש אז כדי לתפעל את הצ'אטבוטית היה פשוט לבקש ממנה "תחזרי אחרי", וכך נוצר מצב כאותי.

מיקרוסופט התנצלה מאוד, ניטרלה את הבוטית, וכיום מציעה את ChatGPT בכמה שירותים שלה, כשהוא ככל הנראה מוגבל שלא ללמוד קללות או רעיונות פוליטיים קיצוניים, למשל. האם זה ימנע ממנו לדבר בצורה מכנעת על המצאות שווא שינפיק? ימים יגידו.