"מצב ה-AI כיום: לא הכול ורוד"

"תחום הבינה המלאכותית חווה התקדמות מהירה, אבל יש לבחון אותה בעין ביקורתית, ולשאול האם היא אכן מחקה מחשבה ופעילות של בן אנוש בצורה טובה, כי לא תמיד 2=1+1. בכל הקשור ל-AI, יש לשפר את המצב הקיים – שהוא לא כל כך ורוד", כך אמר רביע מנסור, ארכיטקט ראשי בקבוצת יעל.

מנסור דיבר בפתח וובינר שנערך לפני ימים אחדים ביוזמת אנשים ומחשבים בנושא AI & KMDM, בהנחיית מוטי סדובסקי, יו"ר ועדת התכנים של המפגש – שהוא מנהל מכירות בכיר בקבוצת יעל.

לדברי מנסור, "הבינה המלאכותית, כמו מוח האדם, מבוססת על למידה מניסיון, יכולת הסקה ופתרון בעיות מורכבות. יש לבני אדם מגבלות כלליות ומנגד, יש להם שכל ישר והיגיון. מגבלת ה-AI נובעת מכך שלא בטוח שהתשובה שהיא משיבה היא אכן לפי השכל הישר. הבינה המלאכותית לא יכולה לטפל במיומנויות פיזיות, כגון הליכה, יציבה ונהיגה. בכל הקשור לתנועה ולגמישות, ה-AI מאוד מוגבלת, ולכן תחום הנהיגה האוטונומית, למשל, לא מתקדם מספיק".

"אנחנו לא רואים כיצד ה-AI עוזרת בבית", ציין. "אנחנו לא רואים אצלה יצירתיות, חדשנות, רגשות וקשר חברתי. בנוסף, מתן התשובות לשאלות הוא עניין טכני, ול-AI אין מטרה לבדוק את התשובות, היא לא עונה לשאלה האם התשובה שסיפקה היא נכונה, והיא גם יכולה לחזור ולטעות".

הבינה המלאכותית יודעת לחקות יכולות של המוח האנושי – אבל לא את כולן. צילום: ShutterStock

"אין ל-AI תודעה ורגש – וזה משליך על הטיפול בדאטה"

"בכלים שיש כיום", אמר מנסור, "ה-AI לא יכולה להסיק מסקנות ולקבל תובנות בצורה טובה, כי אין לה תודעה, רגש וקשר חברתי – וזה משליך על הטיפול בדאטה. כדי לעשות ניסיונות הסקה, על הבינה המלאכותית ללמוד מיליוני נתונים, וגם אז היא לעתים טועה. מגבלה נוספת כרוכה בטיפול בנתונים הארגוניים, מה שדורש מיומנות גבוהה, זמן ומשאבים. בעולם אבטחת המידע היא לא מספקת פתרונות פשוטים להיבט ההרשאות והניהול שלהן".

"ניתן לבחון את זה דרך כמות הנתונים: למרות ההתקדמות המסיבית בתחום, עדיין, ילד בן 4 יכול להכיל במוחו 50 פעם יותר נתונים מאשר אלה שיש במודל ה-LLM הגדול בעולם", ציין.

"בעיה נוספת קשורה להטיה: ה-AI מייצרת תשובות שמצויות בעיקר במרכזו של תרשים 'פעמון גאוס'. התשובות כמעט שלא נוגעות בצדדים של הפעמון. היצירתיות, לעומת זאת, מגיעה מהצדדים, והבינה המלאכותית לא מגיעה לשם. לכן היא לא מצליחה, ולא תצליח, למצוא בעיות חדשות", הטעים מנסור.

אינטגרציה מול מערכות רבות

"לצד המשאבים הרבים הדרושים לטיפול בנתונים הארגוניים", אמר, "נדרשת אינטגרציה של הבינה המלאכותית מול מערכות רבות, כי לא כל הדאטה נמצאת במאגרי נתונים שמפעילים LLM. האינטגרציה עם המערכות האחרות מהווה אתגר לא פשוט".

"עתיד ה-AI לא ברור, וזה הולך לכמה כיוונים", סיכם מנסור. "יש כמה תפיסות חדשות בתחום זה, אבל גם בהן טמונים סיכונים. יש חשש מאובדן שליטה, מהליכה לכיוונים עם פחות יצירתיות. קיים קושי בשאלה האם אולי ה-AI נשענת על תוכן שגוי, או על כזב, פייק. חשש נוסף מגיע מהכיוון של חיזוק ההטיות ופגיעה בחלשים. נדרשת חשיבה מערכתית וגלובלית כדי להגיע לכלי בינה מלאכותית שיהיו אתיים יותר – לא רק חכמים, אלא גם אנושיים יותר".