"בלא רגולציה ואתיקה מוסכמות – ה-AI יביא לכך שהגולם יקום על יוצרו"

"בני אדם לא אומרים 'לא' לטכנולוגיה. לתחושתי, יום אחד הבינה המלאכותית תהפוך להיות ישות על-תבונית, שעלולה לצאת מכלל שליטה. לא יהיה זה תסריט מופרך, שאיזשהו מפתח יצליח לפתח וליצור דבר חכם יותר מבן אנוש, וכך, הוא ימציא את ההמצאה האנושית האחרונה. המשימה שלנו ושל עמיתינו היא איך לגרום לכך, שכלי הבינה המפותחים יפעלו תחת רגולציות וכללי אתיקה, עם הגדרה נוקשה של מערכת היחסים שיש לנו, בני האנוש, עם המכונה החכמה. אני חושש מהאפשרות – הלא בלתי סבירה – שהגולם יקום על יוצרו, וכמו בסיפור המפורסם יפגע באנשים תמימים", כך אמר ד"ר אילן ששון, מומחה לבינה מלאכותית ומרצה לתארים מתקדמים בפקולטה להנדסה באוניברסיטת תל אביב.

בראיון לאנשים ומחשבים אמר ד"ר ששון, מנכ"ל Data Science Group, כי "אני בהחלט חושש מתרחיש שבו כלי בינה מלאכותית, אלגוריתם חכם, 'יחליט' לשטות במבחן טיורינג, וייכשל בו בכוונה. משמע, המכונה 'תבין' שעליה לשטות את הבוחן האנושי ותעשה זאת. היא תהיה בעלת מטרה  זדונית 'להרדים' אותנו, ואנו לא נדע שהיא הכשילה 'בכוונה' את עצמה".

לפני שש שנים הקים ד"ר ששון, יזם היי-טק, את החברה שבראשה הוא עומד, עם ד"ר גדעון רוזנטל, העוסק במדעי המוח ובלימוד מעמיק. "DSG היא מרכז מצוינות", אמר, "המוביל בתחום הבינה המלאכותית בישראל. אנחנו מתמחים בניתוח נתונים, תוך שימוש בכלי למידה עמוקה, DL, ולימוד מכוונה, ML, בשילוב מתודולוגיות מדעיות ייחודיות לנו – לשם הפקת מידע ותובנות בעלות ערך עסקי לארגונים". הוא ציין, כי "החברה מונה 30 עובדים מתחומי המדעים השונים, ו"גאוותי היא שהיא רווחית מהיום הראשון – מעולם לא גייסנו כסף".

מערכת החוזה הידרדרות של חולי קורונה

לדבריו, "היתרון המשמעותי שלנו הוא ביכולת לתת מענה מבוסס ניסיון בפיתוח פתרונות מבוססי AI לתחומי התעשייה השונים. כך, לבית חולים שיבא סיפקנו מערכת בינה מלאכותית, החוזה הידרדרות של חולי קורונה במהלך אשפוז, המסייעת למטב ולייעל את הטיפול של הצוות הרפואי. מרכז החדשנות של שיבא ערך תחרות, ואף שזכינו במקום השני, הפתרון שלנו נבחר ליישום. בעזרת הפלטפורמה הייחודית שלנו פיתחנו עוד אפליקציות רפואיות, העושות שימוש בכל נתוני שיבא. הפיתוח נעשה תוך הגנה על פרטיות המטופלים, עם התממה (אנונימיזציה) של הדטה. אנחנו חזקים בקרב ארגוני בריאות, יש לנו הבנה בתחום, ופיתחנו הרבה מאד מערכות מבוססות בינה מלאכותית, העושות שימוש בבסיסי נתונים גנומיים, או קליניים, או כאלו המבוססים על טקסט חופשי של רופאים, דוגמת מרשמים, משמע עם דטה לא-מובנה. לצד הרפואה, אנו חזקים ופעילים במגזר הפיננסי. לאחד מהלקוחות שלנו בארה"ב פיתחנו מערכת אלגו-טריידינג לשיפור ביצועי מסחר במניות ובסחורות. עבור טאבולה פיתחנו מערכת תיוג אוטומטי של תוכן אינטרנטי, הכולל תמונה וטקסט. לנייס עזרנו בפיתוח מערכת RPA למיכון תהליכים עסקיים. לאקס ליבריס עזרנו לשייך תכנים דיגיטליים ואקדמיים לחוקרים – על בסיס ניתוח טקסט".

שהמכונה תסביר למה החליטה כך ולא כך

"מערכות כגון אלו שאנו מפתחים", הסביר ד"ר ששון, "דורשות 'הסברתיות' של הבינה המלאכותית. מודלים של AI הם בבחינת 'קופסה שחורה': אין שקיפות אלגוריתמית, איני יודע למה המודל החליט כמו שהוא החליט. הבעיה היא, שאיני יכול לספק ללקוח מערכת ולומר לו 'כך האלגוריתם החליט'. לכן נדרשת בינה מלאכותית הניתנת להסבר, או כזו שנותנת פרשנות לחיזוי. אני מאמין גדול בסינרגיה בין גורם אנושי למכונה, בעיקר בעולם הרפואה: לאדם יש יכולת הפשטה שאין למכונה, ומנגד – המכונה בוחנת ויוצרת קשרים נסתרים מהעין, תבניות חבויות עם תובנות סמויות. חיבור שכזה בין אדם ומכונה הוא מעניין, כי כך המכונה תוכל ללמוד מהאדם וגם מהטעויות שלה".

"למרות כל החששות", סיכם, "אני מאמין גדול בשיתופי פעולה מכונה-אדם. חיבור שכזה הוא חשוב, מעניין והכרחי, אף אם הוא עלול להיות מסוכן לעיתים, ויש להשקיע מחשבה בפיתוח סייגים, תקנות וגדרות ברמה האתית והרגולטורית. בעוד שנתיים נשלש את מצבת כוח האדם של החברה ונהיה בעלי נוכחות משמעותית יותר בעולם. קיבלנו כמה הצעות רכש מחברות בארץ ובעולם – אך אנו מעדיפים להתפתח בעצמנו ולצמוח באופן אורגני".