בכירה בבית הלבן: "AI – סיכון גדול לכלכלה, לחברה ולביטחון הלאומי"

"בינה מלאכותית בכלל ו-LLMs (מודלי שפה גדולים – י"ה) בפרט, אכן מהווים סיכון גדול לקהילות ולחברות שלנו, לכלכלות שלנו ולביטחון הלאומי שלנו. אבל הם גם משקפים הבטחה דרמטית – לגילוי תרופות, לעולם סביבתי יותר, לעיצוב, למוזיקה ולאמנות. אנחנו רוצים להבטיח שלצד הדאגות והסיכונים הביטחוניים, גם נקצור את היתרונות מהמערכות המדהימות האלו – עבור החברות והכלכלות שלנו, ונעבוד בזהירות כדי לנהל את הסיכונים הללו", כך אמרה אן נויברגר, סגנית היועץ לביטחון לאומי לסייבר ולטכנולוגיה מתפתחת.

לשאלה האם בינה מלאכותית מהווה איום על המין האנושי, השיבה נויברגר כי "הטכנולוגיה חזקה מאוד ויש בה אלמנטים שאיננו מבינים. המפתח עבורנו הוא לנתח היטב ולחשוב מהם הסיכונים המשמעותיים ביותר ומה אנחנו יכולים לעשות כדי לנסות להבין אותם ולחשוב על גישות לטיפול בהם".

בבית הלבן ינסו בקרות הפחתות סיכונים משמעותיות מה-AI. נשיא ארה"ב, ג'ו ביידן, וסגניתו, קמלה האריס. צילום: עיבוד ממוחשב כאילוסטרציה. מקור: ShutterStock

"התחלנו לדון בבית הלבן על מערך בקרות לתחום"

לדבריה, "התחלנו לדון בבית הלבן על מערך בקרות לתחום, שלדעתנו יביאו להפחתות סיכונים משמעותיות, יעניקו נראות ושקיפות טובות יותר, ויטפלו בכמה ממרכיבי הליבה של אותם סיכונים. אבל, אני מדגישה – יש הרבה שאיננו יודעים על הטכנולוגיות האלו".

בצד החיוב ציינה נויברגר כי "בינה מלאכותית משפרת, למשל את שירותי הממשלה. באחרונה ביקרתי בסינסינטי ובשיקגו. במוקד 911 יש כל כך הרבה סוגים שונים של שיחות שמגיעות. יש אנשים שמפחדים. לאנשים יש מבטאים שונים. מפעילי המוקד הסבירו שהם משתמשים בבינה מלאכותית כדי לעזור לאמן את המוקדנים בכמה דרכים, להבין מהן השאלות הנפוצות ביותר ומה היו התשובות והדרכים היעילות ביותר להרגיע אנשים בפאניקה. השימוש הכי מעניין שמצאתי ב-AI, הוא ביכולת להתאים אישית את האימון של המוקדנים המתלמדים – על סמך סוגי השאלות שהם ענו באופן לא נכון, כדי שיוכלו לקבל יותר שאלות כאלה וללמוד". 

"אינני מאלה הסבורים שבינה מלאכותית תוביל לאבדון", סיכמה נויברגר, "קשה לעבוד באבטחת סייבר, להיות אחראית לתגובה למתקפות סייבר לאומיות ולחשוב ש-AI היא אסון. לרוב, הטכנולוגיה היא כפולה: יש דברים שמביאים תועלת אדירה ויש דברים שמביאים סיכונים משמעותיים. יש קוד תוכנה שנכתב כדי לשבור מערכות, נוזקה, קוד זדוני, ויש מערכות תוכנה שמהוות את הבסיס והתשתית לכל חיינו. המטרות שלנו הן לנסות, ככל שביכולתנו, להבין את הסיכונים המשמעותיים ביותר ולעצב מדיניות ולהגיב – במהירות. עלינו להדק את הקשר עם החברות הבונות את הטכנולוגיות האלה, כדי להתמקד יחד בהיבטים החשובים: האבטחה, ההגנה, הביטחון והאמון".