שלוש השאלות שאינטליגנציה מלאכותית לא תוכל להשיב עליהן

באחרונה התקיימה בבייג'ינג ועידה המכונה 2017 Tencent WE Summit, שעלתה לכותרות, גם בארץ, בזכות הרצאתו של פרופ' סטיבן הוקינג ואזהרתו שכדור הארץ יהיה בלתי ראוי למגורים בגלל תהליך ההתחממות. בוועידה לקחת גם חלק האו גינגפאנג, סופרת מדע בדיוני סינית, זוכת פרס הוגו על הסיפור הקצר לשנת 2016.

האו, העובדת במחקרים מאקרו-כלכליים במכון המחקר והפיתוח הסיני, ארגון חוץ ממשלתי הממוקם בביג'ינג, הרצתה על הבינה המלאכותית, והציגה שלוש שאלות שלהערכתה גם אם כוח העיבוד יהיה אינסופי, אף מחשב לא יוכל לענות על השאלות הללו ולא יוכל לעבור את מבחן טיורינג, אלא אם כן תהיה חשיבה אחרת בפיתוח אלגוריתמים.

"יום אחד פנה אלי אחד המנהלים שלי ואמר: 'אנחנו משקיעים המון בפיתוח תבונה מלאכותית. אני רוצה לבדוק האם המערכות הללו מסוגלות לעבור את מבחן טיורינג'. שאלתי אותו אלו אלגוריתמים המערכת מכילה, והוא השיב: 'למידה עמוקה, למידה מוגברת (Reinforcement Learning) ולמידה מ-Big Data. אלו האלגוריתמים הפופולריים ביותר כיום'.  אמרתי לו בסדר. למעשה רק שלוש שאלות קטנות יכולות לגלות זאת, אם כי אני משוכנעת שהוא לא יכול לעבור את מבחן טיורינג".

שאלות שכל אדם יכול להבין – אך לא מכונות

"מדובר בשלוש שאלות שכל אדם יכול להבין – אך לא מכונות, לפחות כעת. השאלה הראשונה: אם קולומבוס לא היה מגלה את העולם החדש, אילו מנות במטבח הסיני היו מושפעות"?

"התשובה פשוטה לנו, בני האדם. כולנו יודעים שקולומבוס והמתיישבים באמריקה הביאו לעולם הישן את הדלעת, התירס, תפוח האדמה הרגיל והמתוק, בוטנים ופלפל. כמובן, אם לא היה פלפל אי אפשר היה לבשל שום דבר מהמטבח הסצ'ואני. התשובה משתמשת בהגיון הפשוט של חיי היומיום".

"עבור בינה מלאכותית זה נושא חוצה תחומים. היא כוללת הסטוריה, ניסיון בחיי היומיום וקישור בין מאכלים. בינה מלאכותית לא יכולה לענות על שאלות מסוג זה".

"השאלה השניה היא – אם נערה אמרה שהיא לא ציפתה שיהיה כל כך קר היום, איזו תשובה היא אמורה לקבל ממערכת הבינה המלאכותית"?

"אם מערכת הבינה המלאכותית מקריאה את תחזית מזג האוויר כתשובה, ברור שלא לזה היא התכוונה. אולי היא רצתה חיבוק? התשובה תלויה ביחסים שלך איתה, באישיות שלה, זה גם תלוי בנסיבות שבהן המשפט נאמר".

התגובה עשויה להיות סטירה בפרצוף

"אם היא חברה טובה שלך, תלביש עליה בגד חם ותן לה חיבוק, אבל מה אם היא הבוסית שלך שאמרה שהיא לא ציפתה שיהיה כל כך קר היום? אם תגיד 'תני לי לחבק אותך', התגובה עשויה להיות סטירה בפרצוף. אולי היא התכוונה לומר 'לא עשית את עבודתך היטב. לא חיממת את החדר לפני שהגעתי'. מה שאתה צריך לעשות באותו רגע זה לומר, 'מצטער בוסית. בפעם הבאה אסדר זאת לפני שתגיעי'".

"אז מה הבעיה? הבעיה נמצאת בצד השני של מה שהיא אמרה. המשמעות, כיצד היא רצתה שנגיב. הדבר משתנה מאדם לאדם. הוא דורש מאיתנו לקרוא את האנשים, להבין את הרעיונות שלהם כדי לענות את התשובה הנכונה".

"השאלה השלישית היא – בשנה הבאה תוכל ללמוד אנגלית. תוכל גם ללמוד תכנות. מה תבחר ללמוד ומדוע"?

"זו בעיה קלה מאוד עבורנו. אנו צופים כל יום בסוגים רבים של פרסומות. כולנו מוצפים בסוגים רבים של מידע. אנחנו יכולים להחליט בעצמנו מה אנו רוצים לסנן החוצה. זו גם שאלה שאין לה תשובה נכונה אחת. התשובה לא מגיעה מהעולם החיצון אלא מהחלטה פרטית של כל אחד. כל אחד מכיר את עצמו ואת אישיותו, מה החלום שלו, ומהם מטרותיו לעתיד. כיצד אתה משיג מטרות אלה? אתה תחליט מה ללמוד בהתבסס על מי שאתה ומה אתה רוצה".

"מכונות בעלות בינה מלאכותית אינן יכולות להבין את עצמן. הן אינן מסוגלות לקבל החלטות עבור עצמן. כשאתה אומר ל-AlphaGo לשחק WeiQi  (שמו של משחק הגו בסינית) היא לא אומרת, 'אני לא רוצה לשחק WeiQi, אני רוצה במקום זאת ללכת לראות סרט'. המכונה לא תקבל החלטות מסוג זה משום שהיא אינה מודעת לעצמה – אין לה קוגניציה עצמית".

נדרש שינוי חשיבתי

"לפיכך, היכולת לקבל החלטות הנוגעות לך עצמך – היא ההבדל בין תבונה מלאכותית לתבונה אנושית. הבוס אמר לי 'נתת דוגמאות פשוטות, ויש גם התקדמות – הנה AlphaGo Zero ניצחה את AlphaGo בתוך שלושה ימים. האם לא ניתן ללמד אותו כל דבר במהירות'"?

"אמרתי לו בואו נראה מה AlphaGo יכול או לא יכול לעשות. החלק הטוב של AlphaGo הוא יכולת הלמידה העמוקה והאינטנסיבית. יש לו עוצמה חזקה ונפח אחסון גדול. הלמידה העמוקה מתאפשרת בזכות רשת נוירונים מלאכותית – אלגוריתם סטטיסטי מבוסס נתונים המחקה את הרשת העצבית שבמוח האדם. היא מסוגלת למצוא תבניות בהררים של נתונים וכך לפתח את האלגוריתם הטוב ביותר לצעד הבא במשחק. זה ההבדל הגדול בינה לדורות הקודמים של הבינה המלאכותית".

"הדור האחרון של מערכות התבונה המלאכותית היו למעשה מערכות מומחה", הסבירה גיגפאנג. "המומחה היה אומר להם כיצד לשחק שחמט וכך הן שיחקו. ואולם הדור הנוכחי של הבינה המלאכותית עם היכולת הזו של למידה לעומקים כאלה, התוכנה יכולה ללמוד לשחק שחמט בעצמה. אבל היא מאוד מוגבלת. מכיוון שהיא מריצה אלגוריתמים, היא יכולה לטפל רק במידע חד משמעי בתחום מקצועי מוגדר".

במילים אחרות, הסבירה, "בתוך גבולות מוגדרים היא מסוגלת לטפל בנתונים בשטח המקצועי הנתון ולגלות מהי התוצאה הטובה ביותר. היא לא מבינה שהיא עומדת לשחק WeiQi. היא לא יודעת שהיא AlphaGo. היא לא יודעת שהיא מביסה את שחקני הגו המקצוענים הטובים ביותר בעולם".

"גם אם היא משחקת WeiQi היא עדיין לא יכולה להרגיש שמחה. היא פשוט מריצה את הנתונים. אך עדיין אין לה את היכולות הקוגניטיביות ברמה הגבוהה – מודעות עצמית, הכרה. ואז הבוס אמר: אני יודע שהעניינים מתקדמים מהר מאוד בימינו. כוח המחשוב עולה כל הזמן. האם תוספת יכולת עיבוד תאפשר לו ללמוד גם את היכולות הללו? אני מאמינה שיום אחד, התבונה המלאכותית תתגבר על המכשולים הללו אבל רק תוספת כוח מחשוב לא תעזור. נדרש שינוי חשיבתי", מסכמת האו.