"החשש הוא לא מהבינה המלאכותית – אלא ממי שישלוט בה"

אין מה לחשוש מכך שתבונה מלאכותית תשתלט בעצמה על העולם, מסוכן יותר שאנשים יעשו בה שימוש לרעה, כך אומר ד"ר רועי צזנה, חוקר במרכז בלווטניק לחקר הסייבר הבינתחומי שבאוניברסיטת תל-אביב, ומחבר הספר "השולטים בעתיד". ד"ר צזנה הרצה על סוגיה זו במוזיאון המדע על שם בלומפילד בירושלים, בליל המדענים בשבוע שעבר.

לדברי ד"ר צזנה התחום החשוב ביותר הוא ה-DEEP LEARNING, למידה מעמיקה שמושגת באמצעות יצירת רשתות עצבים מלאכותיות שמזכירות באופן גס למדי את דרך הפעולה של מערכות עצבים ביולוגיות. למעשה אנחנו לומדים מהטבע בכדי ליצור מבנים וירטואליים שמחקים את דרך הלמידה של מערכות עצבים ביולוגיות, אך לטענתו אנחנו עושים זאת בנקודות מסוימות בצורה יותר מוצלחת וממוקדת מכפי שהאבולוציה עשתה. אנחנו לא מנסים לייצר מוח במחשב, אלא רק לחקות דרכים מסוימות שבהן המוח האנושי והחייתי מגיעים להישגים הגדולים שלהם בתחומים כמו עיבוד תמונה, הסקת מסקנות, למידה ממספר רב של דוגמאות וכן הלאה.

לימוד עצמי המאפשר יכולות אינסופיות

בזכות הפיתוחים הללו מחשבים יכולים כיום לעשות דברים שלא הצליחו לעשות בעבר, למשל לזהות עצמים בתמונות ברמת וודאות טובה, כמו גם לבצע זיהוי פנים, זיהוי קול, הבנת דיבור אנושי ומתן תגובה הולמת, להתמודד עם משחקים ועוד מדובר בתחומים שהבינה המלאכותית לא התמודדה איתם בעבר, ובאופן כללי במצבים שה-AI לא נחשפה אליהם עד כה, אבל שכיום ביכולתה ללמוד מתוך מצבים אחרים מה עליה לעשות.

"אנחנו רואים שהבינה המלאכותית מצליחה אפילו לתכנת את עצמה במקומות מסוימים, כשאנחנו מרשים זאת", אמר ד"ר צזנה ותהה "מהי בעצם המשמעות של למידה אם לא לימוד עצמי?!".

צזנה טען בנאומו כי התבונה המלאכותית יכולה לקדם מאוד את תחום הרובוטיקה. הוא סיפר לקהל על מחקר מאוד מעניין שבמהלכו נתנו לבינה המלאכותית המושתת על למידה עמוקה מודלים של רובוטים מסוגים שונים ודרשו ממנה להבין איך מודלים צריכים לנוע בסימולציה בכדי שלא יפלו. למהנדסים אנושיים יידרשו המון זמן והמון עבודה למצוא את הפתרון לבעיות הללו, אבל הבינה המלאכותית יכלה להריץ סימולציות רבות מאוד, למצוא את הפרמטרים הייחודיים ולסגל יכולת תנועה מיטבית לכל סוג רובוט, לפי המבנה שלו.

ואולם ד"ר צזנה מסביר גם שכאשר אנחנו רוצים לשלוט ברובוטים ולאפשר להם לנוע ברחובות עלינו לקחת בחשבון דברים נוספים, והפעם מגבלות – רובוט עם ארבע רגליים שמאבד רגל או שמקל נתקע בגלגליו, או אפילו אם רק נפל בורג מאחת הרגליים, כל דרך התנועה שלו, שלמד עד עכשיו, חסרת תועלת לחלוטין. זאת בניגוד לאדם שאם רגלו נפצעה יכול להיאחז במקל או לצלוע יותר באטיות.

למדה לשחק GO יותר טוב מכל בני האדם מאז ומתמיד

"אנחנו רואים גם שהבינה המלאכותית יכולה לבצע מטלות שבני אדם לא מסוגלים ולפתח אסטרטגיות שבני אדם לא ידעו אפילו שהם צריכים לפתח בעבר. דוגמה יפה לכך שהבינה המלאכותית יכולה לפתח אסטרטגיות ואינטואיציה יותר גבוהה מאלו שבני האנוש יכולים היא משחק ה-GO, שהבינה המלאכותית התמקצעה בו בשנתיים האחרונות. הדרך שבה הבינה המלאכותית התמקצעה במשחק, שהוא הרבה יותר מסובך משחמט, הייתה שהיא שיחקה מיליון משחקים נגד עצמה ומכל משחק כזה היא למדה, ובכל פעם היא השתפרה לקראת המשחק הבא. "זו כמות משחקים שאדם לא יכול לשחק בכל ימי חייו, והבינה המלאכותית עשתה זאת בחודשים", סיפר צזנה.

כאשר ה-AI התמודדה מול לי סדול, אחד מאלופי ה-GO הבולטים בעולם, הוא היה בטוח שינצח אותה כי הוא זכר אותה מלפני שישה חודשים, כשעדיין הייתה בשלב מאוד התחלתי של האימונים שלה. אבל מה שהסתבר לו מהר מאוד זה שבחצי השנה הזו היא עשתה סדרת אימונים שאדם לא עושה במשך כל חייו וכך היא הצליחה לנצח אותו 4-1, תוך כדי שהיא משתמשת באסטרטגיות שבני אדם לא חשבו עליהן לפני כן.

"מסופר שאחד מאלופי ה-GO שצפה במשחקים פשוט התחיל לבכות בשלב מסוים, כי הוא ראה איך הבינה המלאכותית מראה לבני אדם שכל מה שהם חושבים שהם יודעים על משחק שקיים אלפי שנים לא משתווה למה שהבינה המלאכותית יכולה להביא לשולחן", אמר צזנה.

תשפר את חיינו בתנאי שישלטו בה בתבונה

"ההבנה הזו שהבינה המלאכותית יכולה לשפר את הביצועים שלנו, את התעשיות שלנו, את החיים הפרטיים שלנו ואפילו את הממשלות שלנו מתחילה לחלחל אצל כולם וכולם רוצים לדעת איך ומה תעשה, אבל השאלה הזו עדיין פתוח", אמר. "האמירה של פוטין שהמדינה שתהיה החזקה ביותר בתחום הבינה המלאכותית תשלוט בעולם זאת בדיוק הנקודה. אפשר לדבר על עתיד בעוד 50 שנים, שבו הבינה המלאכותית רוכשת רצונות משלה ומאיימת לחסל את בני האדם. בעתיד הרחוק. בכאן ועכשיו מה שחשוב הוא שכולם נמצאים במירוץ לשפר את הבינה המלאכותית גם בגלל שיש לה את היכולת לשפר את חיי היומיום".

לדבריו, ההערכות אומרות שעד 2030 הבינה המלאכותית תגדיל את כלכלת העולם ב-16%. יש מאין. פשוט בגלל שהבינה המלאכותית נכנסת לכל התחומים ומייעלת את ההתנהלות שלנו – לנהוג ברכבים, להטיס רחפנים, לטפל בנו מבחינה רפואית, פסיכולוגית וכן הלאה. אבל ד"ר צזנה הדגיש כי בנוסף לכך הטכנולוגיה תוכל גם להיות אחראית על מתקפות סייבר ועל מגננות סייבר. "אנחנו רואים שהעולם נהיה יותר מקושר ומי שיכול לבצע את מתקפות הסייבר החזקות והיעילות ביותר יכול לשתק מדינות שלמות", אמר.

"אין ספק שמי שישלוט בבינה המלאכותית המשוכללת ביותר אכן למעשה ישלוט בעולם ויקבל כוח גדול על פני יתר המדינות שאינן מתקדמות באותה המידה", סיכם ד"ר צזנה ואמר, ולכן זה "בעשורים הקרובים איננו צריכים לחשוש מכך שהבינה המלאכותית תצא מהשליטה האנושית אלא צריכים לחשוש מהשולטים בבינה המלאכותית ולשאול מה הם יכולים לעשות באמצעותה".