הסנדק של ה-AI על החששות ממנה: "זה בולשיט"

יאן לקון, דמות בולטת בתחום הבינה המלאכותית (AI) ומדען הבינה המלאכותית הראשית של מטא (Meta) עלה לאחרונה לכותרות בשל ביטול מוחלט ובוטה מצידו של החששות הרבים הנפוצים בציבור בנוגע להיות ה-AI איום קיומי על המין האנושי.

כתב הוול סטריט ג'ורנל כריסטופר מימס סיפר באחרונה בכתבה כי לקון הצהיר באוזניו באופן חד משמעי שהחשש שהבינה המלאכותית, המתקדמת ומתפתחת עוד ועוד, מהווה סכנה לאנושות הוא "בולשיט מוחלט". לקון, שהוא גם פרופסור במכון קורנט באוניברסיטת ניו יורק וזוכה בפרס טיורינג היוקרתי, הדגיש בדבריו את המגבלות של מערכות הבינה המלאכותית העכשוויות. הוא טען כי למודלי השפה הגדולים של ימינו אין תכונות חיוניות של אינטליגנציה, כגון זיכרון מתמשך, כישורי חשיבה והבנה של העולם הפיזי, ולכן ה-AI שעל בסיסם היא פועלת אינה יכולה להתחרות עם היכולת האנושית, או לגבור עליה.

It seems to me that before "urgently figuring out how to control AI systems much smarter than us" we need to have the beginning of a hint of a design for a system smarter than a house cat.

Such a sense of urgency reveals an extremely distorted view of reality.
No wonder the more… https://t.co/fbavtOA6YE

— Yann LeCun (@ylecun) May 18, 2024

חכמה כשל חתולי בית

למעשה לקון השווה בעבר את האינטליגנציה של המודלים הללו – שעל בסיסם עובדים כלים כמו ChatGPT או ג'מיני – לזו של חתול בית. הוא גם הוסיף וטען שלפני שהחברה מתפנה לדאוג שתיכבש ותשלט על ידי בינה מלאכותית סופר אינטליגנטית, יהא על בני האדם להצליח לפתח מערכות שהאינטליגנציה שלהם תעלה על זו הבסיסית של בעלי החיים – רק אז אולי אפשר יהיה להתחיל לחשוש.

דבריו אלו של לקון נאמרו כחלק מדיון שערך ב-X במאי עם הקולגה שלו יאן לייקה, חוקר למידת מכונה שכיום עובד באנתרופיק ובעבר כיהן גם כחוקר ב-OpenAI וב-DeepMind של גוגל. לייקה מגדיר את עצמו כמי שמחולל "אופטימיזציה לעתיד שלאחר ה-AGI, שבו האנושות פורחת". בשיחה ביניהם כתב לקון בין היתר: "נראה לי שלפני ש'נחפש בדחיפות כיצד לשלוט במערכות בינה מלאכותיות הרבה יותר חכמות מאיתנו' אנחנו צריכים לקבל התחלה של רמז לעיצוב למערכת חכמה יותר מחתול בית. תחושת הדחיפות הזו חושפת ראייה מעוותת ביותר של המציאות".

כדי להמחיש את דבריו הוסיף כי "זה כאילו מישהו אמר ב-1925 'אנחנו צריכים בדחיפות להבין איך לשלוט במטוסים שיכולים להסיע מאות נוסעים במהירות הקרובה למהירות הקול מעל האוקיינוסים'". הוא המשיך והסביר: "היה קשה להפוך מטוסי נוסעים לטיסות ארוכות לבטוחים לפני המצאת הטורבו ולפני שמטוס כלשהו חצה את האוקיינוס ​​האטלנטי בטיסה רציפה. עם זאת, אנו יכולים כעת לטוס למחצית העולם במטוסים דו-מנועים בבטיחות מוחלטת. זה לא דרש איזה מתכון קסום ליתר ביטחון. זה פשוט לקח עשרות שנים של הנדסה זהירה ושכלולים איטרטיביים. התהליך יהיה דומה עבור מערכות חכמות. יעברו שנים עד שהן יהיו חכמים כמו חתולים, ועוד שנים עד שיהיו חכמות כמו בני אדם, שלא לדבר על חכמות יותר מבני אדם (אל תבלבלו בין צבירת הידע העל-אנושי ויכולות השליפה הנוכחיים של ה-LLM עם אינטליגנציה ממשית). יידרשו שנים עד שהן ייפרסו ויכוונו במדויק ליעילות ובטיחות, בזמן שהן ילכו ויעשו חכמות יותר ויותר".

תשתלט על העולם או לאו? ה-AI. צילום: אילוסטרציה. Shutterstock

הסנדק של ה-AI – ביקורתי או פשוט נזעק להרגיע?

באופן מפתיע, דברים אלו של לקון משקפים ספקנות לגבי היכולות של טכנולוגיות AI עדכניות, במיוחד מודלים גדולים של שפה (LLMs), שרבים מיהרו להכתיר כיכולות-על חסרות גבולות, אשר עלולות להביא את ה-AI להשתלט על בני האנוש, על כלי הנשק וככלל – על העולם.

במהלך הקריירה שלו, לקון תרם תרומה משמעותית בתחום למידת המכונה, וזאת בעיקר כאחת הדמויות המייסדות של רשתות עצביות קונבולוציוניות (CNNs), ששינו תחומים כמו זיהוי ועיבוד תמונות. עבודתו פורצת הדרך בסוף שנות ה-80 הניחה את הבסיס לבינה המלאכותית המודרנית, ואיפשרה התקדמות בזיהוי דיבור והבנת שפה טבעית, בהם מצטיינים כיום ה-LLMs. למעשה לקון זכה בעבר בכינוי "הסנדק של ה-AI" בזכות היותו בין חונכיה. הרקע העשיר הזה שלו בתחום ה-AI מאפשר ללקון לגשת לטכנולוגיות הנוכחיות בעין ביקורתית, תוך שימת דגש על הפער בין היכולות הקיימות לבין היעדים הבאים שבני האדם נוטים לייחס לרוב לבינה מלאכותית, כמו השתלטות על העולם.

דבריו האחרונים הללו של לקון נאמרו בהקשר לדיון הרחב יותר על עתיד הבינה המלאכותית, אבל במקביל אליהם, יש לציין, המדען הבולט הדגיש את הפוטנציאל של הטכנולוגיה ליצור עוזרי AI מותאמים אישית שיכולים לשפר את חיי היומיום של בני האדם, על ידי מתן תמיכה במטלותיהם. "בעוד 10-15 שנים, לא יהיו לנו סמארטפונים", הוא קבע, וחזה מעבר למכשירי מציאות רבודה, שישלבו סיוע אינטליגנטי באופן טבעי יותר בחיינו.

בעוד שנקודת המבט של לקון על המגבלות של ה-AI ברורה, הוא אינו דוחה לחלוטין את הרעיון של השגת בינה כללית מלאכותית (AGI), אולם הוא מאמין שיהיה צורך בגישות חדשות כדי לקדם את התחום, כולל מאמצי מחקר של הצוות שלו ב-מטא – המתמקד בשילוב נתוני וידיאו מהעולם האמיתי, כדי לשפר את הבנת ה-AI.

למרות ההשקפה המבטלת והאופטימית שהוא מציג לגבי ה-GenAI במצב האבולוציוני הנוכחי שלה, ישנם קולות בקהילת הבינה המלאכותית שמתנגדים לדעותיו של לקון. מבקריו טוענים שביטול הסיכונים הפוטנציאליים של בינה מלאכותית מתקדמת עלול להוביל לכך שלא ינקטו מספיק אמצעים רגולטוריים סביבה, וכן שהאנושות לא תהיה מוכנה לקראת תסריטי בלהה שונים שעלולים בכל זאת להיקשר ביכולותיה.

בכל מקרה יש מי שהסבירו בתגובה כי הנפנוף העכשווי של לקון את החששות והפחדים הקיומיים הקשורים ל-AI ולהתפתחותה, מקורו בעיקר באמון שלו שהמגבלות הנוכחיות של הטכנולוגיה לא יאפשרו לה להתפתח כפי שסבורים החרדים מפניה. אלא שלפי המבקרים, אין לדעת איזה פיתוח או קפיצת מדרגה ביכולות הללו יעשה את ההבדל, כן או לאו.

יתרה מכך יש הסבורים כי דבריו של לקון שגויים משום שכבר כיום, עם כל המגבלות שמוצא המדען הבכיר ב-AI, הטכנולוגיה מאימת על בני האנוש. בין השאר מציינים המבקרים והחוששים את העובדה ש-AI כבר מסייעת כעת להפצת מידע מטעה שמוליך את הנחשפים אליו שולל – כמו למשל סרטוני דיפ פייק; וכן, למשל, את העובדה שהיא כבר גורמת לעובדים מסוימים לאבד את משרותיהם, ומשנה לבלי הכר את שוק העובדה של ימינו.