פייסבוק סגרה תוכנת בינה מלאכותית לאחר שיצרה שפה משלה

חוקרים במעבדת המחקר של פייסבוק (Facebook) נאלצו להפסיק את פעולתה של תוכנת בינה מלאכותית, לאחר שזו חדלה לתקשר בשפה האנגלית והחלה לשוחח בשפה חדשה שהיא יצרה; כך דיווח בסוף השבוע האתר Digital Journal.

המערכת פיתחה שפה ובה מילים, כדי להפוך את התקשורת שלה ליעילה יותר. החוקרים עצרו את פעילותה כאשר הם הבינו שהיא לא עושה שימוש בשפה האנגלית.

התקרית, שאירעה בתחילת יולי, מהדהדת עם אזהרותיו של אילון מאסק, מייסד ומנכ"ל טסלה (Tesla), על בינה מלאכותית.

במחצית יולי השנה הוא אמר כי "אינטליגנציה מלאכותית היא הסכנה הגדולה ביותר שעומדת בפני האנושות. יש לי גישה לאינטליגנציה המלאכותית המתקדמת ביותר, ואנשים צריכים להיות מודאגים ביותר לגבי זה".

"האינטליגנציה המלאכותית תגרום לתוכנות ולמכונות להשתלט על האנושות. עד שאנשים לא יראו רובוטים יורדים לרחובות והורגים אנשים, הם לא ידעו איך להגיב, כי זה נראה כל כך לא מציאותי. האינטליגנציה המלאכותית היא מקרה נדיר שבו עלינו להיות פרו-אקטיביים בהטלת רגולציה, במקום שנעשה זאת אחרי שהדברים קורים, כדי שזה לא יהיה מאוחר מדי".

להפוך את העולם למקום טוב יותר

מארק צוקרברג, מנכ"ל פייסבוק, הגיב לדברי מאסק ואמר כי "יש לי דעות מוצקות בנושא. אני אופטימי. הבינה המלאכותית מאפשרת לבנות דברים ולהפוך את העולם למקום טוב יותר. במיוחד עם הבינה המלאכותית, אני מאוד אופטימי". צוקרברג אמר כי אזהרותיו של מאסק הן "בלתי אחראיות למדי". מאסק השיב כי "ההבנה של צוקרברג בנושא מוגבלת".

אין זו הפעם הראשונה שתוכנות בינה מלאכותית מתנהגות באופן מפתיע ומסתורי – כמה אירועים שכאלה תועדו בעבר. בכל אחד מהם הבינה המלאכותית "סטתה מדרך הישר", כפי שתוכנתה ו-"אומנה", והחלה לפתח שפה חדשה. המשפטים בשפה החדשה אינם הגיוניים לבני אנוש, אולם הן מובנים ובעלי משמעות שימושית כאשר מנהלים שיח עם בוטים.

מערכת הבינה המלאכותית המתקדמת של פייסבוק הייתה מסוגלת לנהל משא ומתן עם מערכות בינה מלאכותית אחרות, כך שהיא הייתה יכולה להגיע למסקנות כיצד להמשיך במשימתה. הביטויים שנוצרו בשפה החדשה אינם הגיוניים על פני השטח, אך למעשה הם מייצגים את המשימה המיועדת של הבינה.

באחד מ-"חילופי הדברים" שנחשפו על ידי פייסבוק, שני רובוטים שניהלו משא ומתן – בוב ואליס – החלו להשתמש בשפה משלהם כדי להשלים שיחה. "I can i i everything else", אמר בוב. אליס השיבה: " Balls have zero to me to me to me to me to me to me to me to me to,"

השיחה המסתורית של בוב ואליס

שאר חילופי הדברים יצרו וריאציות של משפטים אלה בשפה החדשה, על אף שהתוכנות בינה מלאכותית תוכנתו לשפה האנגלית. לדברי החוקרים, ביטויים חסרי משמעות אלה הם שפה שהבוטים פיתחו, כדי לתקשר ביניהם כמה פריטים, משימות כל אחד מהם יקבל.

כאשר בוב אומר, "i i can i i i everything else", צוות החוקרים של פייסבוק סבור שהבוט ניסה להציע לאליס הצעה, ואולי לומר משהו כמו: "יהיו לי שלוש (משימות) ולך (יהיה) כל דבר אחר (כלומר, שאר המשימות)".

ככל הנראה, צוות הבינה המלאכותית של פייסבוק קבע שביטויים שהם עשירים במילים, אינם דורשים את השלמת המשימה.

תוכנת הבינה המלאכותית פעלה על בסיס "גמול", תמורה, רווח – ובמקרה זה, כיוון שלא היה "פרס" על המשך השימוש בשפה (האנגלית) – אז היא פיתחה שפה משלה, כי זו ברירת המחדל הראשונה שלה, כלומר, זו דרכה להיות יעילה באופן "ספונטני".