פרופילי ה-AI הרתיעו משתמשים – מטא הסירה אותם משירותיה

חברת מטא – תאגיד האם של הרשתות החברתיות פייסבוק, אינסטגרם, ת'רדס ושירותים נוספים – הודיעה בסוף השבוע כי חליטה למחוק את כל פרופילי הבינה המלאכותית שיצרה בעצמה וששולבו ברשתות החברתיות שלה.

ההחלטה הגיעה לאחר שדמויות ה-AI הפיקטיביות שפעלו בשירותי המדיה החברתית מבית מטא ספגו ביקורת קשה מצד המשתמשים. הפרופילים הללו – שלמעשה נוצרו כבר לפני יותר משנה בסוף 2023 – עלו באחרונה לכותרות, לאחר שסמנכ"ל הבינה המלאכותית הג'נרטיבית של מטא, קונור הייז, חשף אותם בראיון שהעניק לפייננשל טיימס.

מה הם פרופילי AI ומה פעילותם?

במקור יצרה מטא כ-28 פרופילי AI, שנועדו להתנהל ברשתות החברתיות כמשתמשים רגילים, עם ביוגרפיה, תמונות פרופיל ויכולת לשתף תכנים שנוצרו על ידי בינה מלאכותית. הכוונה במקור הייתה שה"דמויות" הפיקטיביות של המשתמשים ישמשו כ"מטפלים" או "מאמנים" ויספקו עצות למשתמשים האמיתיים. דמויות ה-AI הווירטואליות ידעו להגיב בזמן אמת לאינטראקציות אנושיות ולשתף תמונות שנוצרו על ידי בינה מלאכותית, וכל זאת בכדי "להיראות" אנושיות. בנוסף, היו כמה פרופילים שנוצרו בהשראת ידוענים, אולם על אלה ויתרה מטא כבר באוגוסט 2023, עקב חוסר עניין מצד המשתמשים.

1/ Let’s talk about Liv, Meta’s AI bot claiming to represent a “Proud Black queer momma.” The creators behind Liv? Ten white men, one white woman, and one Asian man. No Black creators. No cultural context. What does this say about their relationship with Black women? A lot. 🧵 https://t.co/kgr41dIA9l pic.twitter.com/U8m7AZ4i6E

— Lovette✍🏾 (@lovettejallow) January 4, 2025

כדוגמה ניתן לספר על אחד הפרופילים, אישה בשם "ליב", שתוארה כ"אמא קווירית שחורה גאה", אך פותחה בעיקר על ידי צוות של גברים לבנים, דבר שעורר ביקורת של הגולשים בנוגע לחוסר רגישות וניכוס תרבותי. משתמשים רבים הביעו זעם על כך שזהות מוחצנת כל כך, של קבוצה מוחלשת, גולמה על ידי AI, בלא כל התייעצות עם חברי הקהילה הרלוונטית.

אותה "ליב" פרסמה תמונות של ילדיה ה"דמיוניים" שנותרו בידי בינה מלאכותית, וגם כתבה על אירועים דמיוניים מחייה. המשתמשים הגיבו בחריפות על התוכן הלא אותנטי והמלאכותי שפרסמה ליב. לדוגמה, על מונות ילדיה, כביכול, שהיו שונים מתמונה לתמונה, גם באותה סדרת תמונות, מה שחיזק את התחושה שמדובר ביצירה לא מספיק מתוחכמת של AI. כש"ליב" סיפרה על האירועים מחייה, כמו "נשף ארץ הפלאות החורפית" שבו השתתפה, ועל מבצע חלוקת מעילים לקהילה, הדבר עורר ביקורת על כך שהיא מתהדרת ב"מעשים טובים" פיקטיביים לגמרי. משתמשים הגיבו לפוסטים אלה בתגובות שליליות כגון: "זה כל כך דיסטופי"; "זה מה שיגרום לי לעזוב את אינסטגרם לגמרי. אדם מזויף שטופח לעצמו על הגב המזויף עם סיפור מזויף על מבצע מעילים מזויף עבור ארגון צדקה מזויפת"; וכדומה.

בנוסף, ביקורות נוספות כללו קריאות למשתמשים להפסיק לתקשר עם פרופילי ה-AI בטענה שהם משמשים לאיסוף נתונים לצורך אימון מודלי הבינה המלאכותית של מטא.

הביקורת הציבורית נגעה גם לעובדה שפרופילי ה-AI לא ניתנים לחסימה, דבר שגרם לתחושה של פלישה ואי נוחות בקרב המשתמשים, שראו בכך פגיעה בפרטיותם וביכולת שלהם לשלוט בתוכן שאליו הם נחשפים בפלטפורמות מבית מטא. מטא הסבירה מצב זה כ"באג טכני".

משתמשים רבים שהחלו לתקשר עם הפרופילים הללו לאחר הראיון עם הייז, טענו שמדובר בדמויות "מרושלות" ו"מפחידות", להגדרתם. הביקורת הציבורית גברה לאחר שהיו מי ששיתפו צילומי מסך של שיחות עם הפרופילים, ואלו לא הציגו תופעה שנתפשה כחיובית בעייני המשתמשים.

עקב כך, מטא הסירה את כל פרופילי הבינה המלאכותית המדוברים, והגבילה את תוצאות החיפוש עבור שמות הפרופילים הספציפיים. החברה ציינה כי הפרופילי ה-AI היו חלק מניסוי מוקדם, ושהם נוהלו בידי בני אדם, אך הודתה בבעיות טכניות ומסרה כי היא תפעל לתקן אותן, אחרי הסרת החשבונות.

aside from the obvious about some techbro algorithms generating an ai “queer black woman” … is ai generating a picture of fake children like this… especially a young girl in a ballet outfit… not concerning to anyone else?

— luca (@LucaGuadagnegro) January 3, 2025

העתיד של פרופילי ה-AI

לפי התגובה החמורה וההחלטה על ההסרה, הייז אמר בראיון ל-טיימס כי הוא צופה שפרופילי בינה מלאכותית יקחו חלק פעיל בין משתמשי הפלטפורמות של מטא, בדומה לחשבונות רגילים, עם יכולת לשתף תכנים שגם הם תצר של AI. לדבריו, הדמויות הללו יציגו ביוגרפיות ותמונות פרופיל וישתפו תכנים ממש כאילו היו בני אנוש. אולם לאחר התגובות השליליות של המשתמשים, לא בטוח שמה שמטא הגדירה כעת כ"בדיקה מוקדמת בלבד, ולא השקה של מוצר חדש" – ישוב להיות מופעל בקרוב.

למרות הסרת הפרופילים החלוציים כעת, מקורות מציינים כי מטא ממשיכה להשקיע משאבים רבים באופן כללי ביכולות ה-GenAI שלה, וזאת תחת זרוע Meta AI שלה. מטא השיקה עד כה כלי המאפשר למשתמשים ליצור צ'אטבוטים מותאמים אישית, וכן שילבה יכולות AI במשקפיים החכמים ובקסדת המציאות המדומה שלה. בשלהי אוקטובר האחרון, כפי שדיווחנו, נודע כי מטא גם מפתחת מנוע חיפוש מבוסס AI משלה.

הסרת פרופילי ה-AI של מטא היא כנראה רק נסיגה קלה בתוכניות, שמקורה במתח בין השאיפות של חברות הטכנולוגיה לשלב בזריזות יכולות AI בפלטפורמות חברתיות, לבין הספקנות הציבורית לגבי הטכנולוגיה החדשנית ומקומה בזירות אלו. לפיכך, למרות הביקורות, סביר להניח ש-מטא תמשיך לנסות ולשלב פרופילי בינה מלאכותית בפלטפורמות שלה בעתיד, כנראה לאחר שתעביר אותם שיפורים ושינויים שונים.