"עלינו לחשוב על ההיבטים האתיים של ה-AI לפני שיהיה מאוחר"

"עלינו לחשוב על ההיבטים האתיים של ה-AI ושיפור המוח לפני שיהיה מאוחר", כך אמר פרופ' ג'ונתן גלובר, מקינגס קולג' לונדון (King's College London), אחד מתשעה זוכי פרס דן דוד, ואחד מהשלושה שזכו בפרס בממד זמן ההווה שניתן השנה לחוקרים בתחום הביואתיקה. טקס הענקת הפרסים התקיים ביום ראשון שעבר באוניברסיטת תל אביב

טקס הענקת פרסי דן דוד התקיים באחרונה בפעם ה-17 באוניברסיטת תל אביב במעמד משפחתו של איש העסקים דן דוד שהקים את הקרן והשתתף בעשרת הטקסים הראשונים – רעייתו גבריאלה ובנו אריאל.

פרופ׳ גלובר קיבל את פרס דן דוד על תרומתו המקורית להיבטים התאורטיים של הביואתיקה: על הובלת סדר היום המחקרי בנושאים רבים, ובמיוחד בתחום Human Enhancement והאתיקה של הפוריות. מחקרו המקורי מקיף נושאים שונים ומגוונים, ביניהם טבע האדם, מלחמה ושואה, אתיקה בגנטיקה, נוירואתיקה וסוגיות פסיכיאטריות. פרופ' גלובר חלק את הפרס על תחום הביואתיקה עם שני חוקרים נוספים, פרופ' יחזקאל עמנואל מאוניברסיטת פנסילבניה והברונית מארי וורנוק.

הפרופ' ג׳ונתן גלובר מקבל את פרס דן דוד מידי גבריאלה דוד, אשתו של דן דוד ואיתמר רבינוביץ. צילום: ישראל הדרי

"הביואתיקה היא רגולציה שנועדה למנוע נזקים, קודים של אתיקה רפואית, חוקים המסדירים תחומים כמו הפלות. ואולם אנו גם מקיימים דיונים פתוחים המיועדים לעתיד, תכנון כיצד להתמודד עם פיתוחים מדעיים עתידיים אפשריים לפני שיהיה מאוחר מדי, כמו בתחום הנשק הגרעיני בו נזכרו לטפל אחרי שנשק פותח. בזמן הפיתוח עצמו לא התקיימו דיונים ציבוריים".

"ישנם שני דברים שאנו זקוקים להתחיל לחשוב עליהם כבר כעת", אמר גלובר. "הראשון הוא קריאת מחשבותיהם מתוך פעילות מוחם (צפיה בסרט שבתוך ראשנו). ג'ורג' אורוול כתב בספרו 1984: 'כמה סנטימטרים בתוך הגולגולת שלנו הם המרחב הפרטי היחיד שנשאר' – כעת גם מרחב זה מאוים. התחום השני הוא בינה מלאכותית שתעבור את המגבלות הביולוגיות שלנו. בנושא זה אני מצטט את ריי קורצווייל בספרו 'הסינגולריות' – מוחות ביולוגים יוחלפו על ידי מוחות לא ביולוגים שיגיעו מהמחשבים העתידיים. האם  נוכל להיות בטוחים שמוחות מלאכותיים אלה יהיו בעלי מודעות? המוח הטבעי התפתח כדרך של היקום להיות מודע לעצמו".

מדוע אתה מודאג מההתפתחות במדעי המחשב שתביא לפיתוח הבינה המלאכותית ולשיפור המוח האנושי?
"הבינה המלאכותית מתפתחת בתקופה שבה המין האנושי עדיין לא בוגר מוסרית. לדעתי זה כמו נשק גרעיני. לא קיימנו דיון לפני שנעשה שימוש בפועל בנשק גרעיני. אני לא חושב שנגיע כל כך מהר לסינגולריות, אבל בכל זאת אנו צריכים כעת להתחיל לדבר איתם. נכון שהבינה המלאכותית תסייע לפתח דברים שיעזרו לנו וישפרו את איכות חיינו אבל מצד שני, קשה מאוד לבקר את ההתפתחות, וסיבה טובה למנוע את הפיתוח".

הפרופ' ג׳ונתן גלובר יחד עם גבריאלה דוד, אשתו של דן דוד ואיתמר רבינוביץ. צילום: ישראל הדרי

במילים אחרות, אמר גלובר, "אנו חיים בעולם שיש בו מאבקים אלימים בכל העולם, באוקראינה, בקרים, סרי לנקה, צפון ודרום קוריאה, הישראלים והפלשתינים – ולכן אני מאמין שכל מדינה תרצה לפתח נשק מבוסס בינה מלאכותית, כמו שהתחיל מירוץ גרעיני. נוכל לפתח מכונות מבוססות תבונה מלאכותי שיוכלו לחסל באופן פתאומי את צבא האויב. אני מניח שיהיה קשה לפנטגון לסרב להצעה לפיתוח נשק כזה".

ומדוע אתה חושש משיפור המוח האנושי באמצעות ממשק עם מחשבים?
"אני מודאג מכך שתהיה לאחרים גישה למוח ולאישיות שלנו. אני חושש שהדבר יתפתח בהדרגה, כמו שפיתחו שתל שמאפשר לנכים לשלוט על תנועת כסא הגלגלים בכוח המחשבה, לא משהו שמישהו יכול להתנגד אליו, גם לא תהיה התנגדות לפיתוח שתל מוחי שיאפשר הפסקת התמכרות, אבל כשיש שתל אחד ואחריו עוד אחד ועוד אחד, נוכל להחליף את המוח כולו ולדעת מה קורה בתוכו לפני שנבין מה קרה".

"במיוחד איננו רוצים לתת לממשלה לדעת על מה אנו חושבים, וזו הסיבה לקישור שעשיתי לספרו של אורוול, "1984". האם כבר הגענו לעידן האורווליאני? לדעתי עדיין לא, אבל שוב, צריך לחשוב על כך מראש."