לפי מאסק ואלטמן ה-AI הג'נרטיבית תשנה את העולם – האמנם?

אילון מאסק וסם אלטמן שייסדו יחד עם יזמים אחרים את OpenAI – החברה שהביאה לעולמנו את כלי ה-AI החכם ChatGPT – כבר אינם ידידים או שותפים עסקיים, כידוע. אבל השניים מסכימים, כך מסתמן, על דבר אחד – מדובר בתקופה דרמטית מאוד, שהטכנולוגיה החדשנית שפותחה ועודה מתפתחת, הבינה המלאכותית הכללי (AGI) תשבש ותשנה את העולם לבלי הכר. באחרונה מאסק אף חיזק דברים דומים שצייץ מנכ"ל Quora, אדם ד'אנג'לו, שכתב כי הוא חושב שהטכנולוגיה עתידה להיות "האירוע החשוב ביותר" בהיסטוריה העולמית.

מאמינים בדרמטיות של ה-GenAI. אילון מאסק וסם אלטמן, מייסדי OpenAI. צילום: עיבוד ממוחשב כאילוסטרציה. מקור: garystockbridge617 ו-ויקיפדיה

ד'אנג'לו צייץ מוקדם יותר השבוע: "זה כל כך מדהים שאנחנו הולכים לחיות במהלך יצירת AGI. זה כנראה יהיה האירוע החשוב ביותר בהיסטוריה של העולם וזה יקרה בימי חיינו". מאסק – שבינתיים פתח את Xai,  חברת בינה מלאכותית השוקדת על מודל שפה גדול משלה ומתיימרת להתחרות באלטמן וב-OpenAI שלו – הסכים עם קביעה זו והגיב ב-"נכון. אני מקווה שזה ייצא טוב עבורנו, בני האדם".

True. I hope it’s nice to us humans.

— Elon Musk (@elonmusk) August 20, 2023

השיבוש הכי גדול שישנה הכל

הבינה המלאכותית הג'נרטיבית (GenAI) – שמערכות המבוססות עליה יכולות ליצור סוגים שונים של תוכן, כולל טקסט, תמונות וקוד, על בסיס הוראות כתובות ועל סמך דפוסים שנלמדו מהכשרה שעברה על תועפות של נתונים – היא, לפחות אם מאזינים להלך הרוח הרווח בגזרת הטק בתקופה זו, אחת הטכנולוגיות המרגשות והחשובות ביותר של זמננו, אם לא הטכנולוגיה המשמעותית ביותר אי פעם. בנוסף יש רבים שטוענים כי היא בעלת פוטנציאל לחולל את השינוי הגדול ביותר בהיסטוריה האנושית. 

חלק מהמומחים מאמינים שבינה מלאכותית ג'נרטיבית צפויה לחולל מהפכה בתעשיות רבות, החל משירותי בריאות, המשך בחינוך וכלה ביצירות אמנות. ותחת אותו הלך חשיבה יש גם מי שמזהירים שבינה מלאכותית יוצרת עלולה להביא איתה גם סיכונים משמעותיים, כמו הפצת מידע מוטעה שלא נוכל לשלוט עליו, יצירת זיופים עמוקים שיתעתעו באנושות ואפילו – הפעלת כלי נשק לפי גחמותיה.

כפי שכבר ניתן להבין, מאסק, אלטמן, דאנג'לו ורבים אחרים מאמינים שבינה מלאכותית ג'נרטיבית תשנה את העולם ותהיה אחת הטכנולוגיות החשובות בהיסטוריה האנושית. מאסק התבטא בנדון ישירות ואמר שיצירת ה-GenAI תהיה "האירוע החשוב ביותר בהיסטוריה של העולם" ושזה "ככל הנראה יקרה בימי חיינו", ואילו אלטמן הדהד את תחושותיו של מאסק, ואמר כי AI ג'נרטיבית היא "הדבר הכי מרגש שקורה בעולם כרגע".

"ומה אם הבינה המלאכותית היוצרת תתגלה ככישלון?" הפוסט של המדען גארי מרקוס עם תמונת הצפלין. צילום: לכידת מסך מאתר: https://garymarcus.substack.com/

הבינה המלאכותית הג'נרטיבית "יכולה להגיע לסוף די מהיר"

עם זאת, מפתיע לגלות כי לא כל העוסקים בתחום והמומחים בו סבורים כמותם.

גארי מרקוס, מדען ויזם שהוא אחד הקולות המובילים בתחום הבינה המלאכותית, טען בשבוע שעבר כי התחזיות לגבי ההשפעות הפוטנציאליות של ה-GenAI הן אולי מוגזמות. הוא הצביע על מספר "בעיות רציניות ובלתי פתורות" שיש לטכנולוגיה, כמו הנטייה שלה להמציא מידע שקרי באופן רהוט במיוחד (תופעה המכונה Hallucinations) וחוסר היכולת שלה לפעול בצורה מהימנה עם כלים חיצוניים.

מרקוס הזהיר שממשלות עלולות לעשות טעות אם יניחו שאכן ה-AI היוצרת תשנה את העולם. הוא טען שעלינו להתמקד בפיתוח מערכות AI ג'נרטיביות שהן אמינות ובטוחות, במקום במרדף אחר הבטחות לא מציאותיות להשפעה טרנספורמטיבית. מרקוס העלה לבלוג שלו פוסט, שזכה לכותרת "ומה אם הבינה המלאכותית היוצרת תתגלה ככישלון?" בצירוף בתמונת כדור פורח מסוג צפלין בשחור לבן, המסמלת המצאה מלהיבה שאיבדה גובה, תרתי משמע, מאוד מהר.

מרקוס הזהיר בפוסט שלו כי "כל תחום הבינה המלאכותית הג'נרטיבית, לפחות בהערכות שווי נוכחיות, עשוי להגיע לסופו מהיר למדי". הוא הוסיף וטען כי "אין לנו בעיה אחת, אלא הרבה, רציניות ובלתי פתורות בליבת ה-GenAI – החל מהנטייה שלה לבדות מידע שקרי (להזות), לחוסר היכולת שלה להתממשק בצורה מהימנה עם כלים חיצוניים כמו וולפרם אלפא (Wolfram Alpha) ועד לחוסר היציבות מחודש לחודש (מה שהופך אותה למועמדת גרועה לשימוש הנדסי במערכות גדולות יותר)".

"בבחינת המציאות, אין לנו סיבה קונקרטית, מלבד אופטימיות טכנית צרופה, לחשוב שהפתרונות לכל אחת מהבעיות הללו קרובים", ציין מרקוס בפסימיות מובהקת.

הוא הזהיר במיוחד מפני המצב שבו "אנחנו בונים את כל המדיניות הגלובלית והלאומית שלנו על הנחת היסוד שבינה מלאכותית ג'נרטיבית תשנה את העולם בדרכים שעשויות במבט לאחור להתברר כלא מציאותיות". בנוסף, לטענתו, ארה"ב ספציפית מסתכנת בהגברת המתיחות עם סין ולא מצליחה להציג רגולציה חשובה של תחום ה-AI בנושא הפרטיות, הטיה, שקיפות נתונים ומידע מוטעה. והיא עושה זאת במטרה לעודד התפתחות מהירה בתוך שאינה נדרשת לנושאים הקריטיים.

"אם לא ניתן לתקן הזיות, בינה מלאכותית כללית כנראה לא תרוויח טריליון דולר בשנה", אמר. "ואם היו כנראה לא תרוויח טריליון דולר בשנה, כנראה שלא תהיה לה את ההשפעה שאנשים מצפים לה, ואם לא תהיה לזה את ההשפעה הזו, אולי אנחנו לא צריכים לבנות את העולם שלנו סביב הנחת היסוד שהדבר יקרה", הבהיר מרקוס את הביקורת שלו.