"ה-GenAI תשבש את 'מגרש המשחקים' בסייבר – לרעים ולטובים"

"מרחב הסייבר בעייתי להגנה משלל סיבות: הוא מורכב; האיומים מגוונים וגדלים; יש חוסר איזון בין התוקף והמגן – התוקף נדרש למצוא פרצה אחת ואילו המגן חייב להגן על כל ה-'מצודה'; המשתמשים חשופים למניפולציות של הנדסה חברתית; בכל ארגון יש שימוש במאות יישומים ועשרות כלי אבטחה; ומעל כל אלה – יש מחסור, הולך וגדל, של מיליוני מקצועני אבטחה. במשך שנים מדברים על כך שהבינה המלאכותית תיכנס ותשנה היבטים רבים בחיינו. כניסתה של הבינה המלאכותית היוצרת תגדיל משמעותית את הסיכונים בתחום הגנת הסייבר, אולם להערכתי – היא תשנה את המשחק גם לתוקף וגם למגן", כך אמר פרופ' ירון וולפסטל, מנהל מרכז המצוינות בסייבר של יבמ בבאר שבע, לאנשים ומחשבים.

המרכז הוא חלק מהמו"פ של הענק הכחול בישראל. בכובעו הנוסף, פרופ' וולפסטל מוביל את פעילות IBM Ventures – קרן ההשקעות של החברה בארץ.

מחקרים שמעלים נתונים מדאיגים

בדבריו ציטט פרופ' וולפסטל כמה מחקרים, לרבות מחקר שערך באחרונה מכון יבמ לערך עסקי (IBM Institute for Business Value), שמהם עולים כמה נתונים מדאיגים: יותר ממחצית הארגונים מעבירים נתונים רגישים לענן, ללא נראות; בממוצע, כשליש מיום העבודה של אנליסט אבטחה ב-SoC מושקע בבדיקת אירועים שהם "רעשי רקע", ובשל כך הוא מספיק לבדוק רק מחצית מההתרעות הקופצות; 80% ממנתחי האבטחה השיבו שללא מיכון, הם לא מסוגלים לעבוד; ו-94% מהמנהלים הצביעו על כך שחיוני לטפל בהיבטי האבטחה של תוכנת AI לפני שהיא מוטמעת.

"עד לא מכבר", ציין, "ארגונים השתמשו ב-AI מסורתי, אבל היססו לאמץ GenAI. באחרונה אנחנו רואים שינוי: כ-75% מהנהלות הארגונים רוצות לאמץ פתרונות מבוססי GenAI, כי היתרונות גוברים על הסיכונים שבתחום".

הבינה המלאכותית יוצרת סיכוני סייבר – אבל גם הגנה טובה יותר מפני סיכונים. צילום: ShutterStock

באופן די מתבקש, פרופ' וולפסטל דיבר על LLMs – מודלי שפה גדולים, שנמצאים בבסיס הטכנולוגיה של ה-GPT, ואמר ש-"הם יכולים לבצע מגוון משימות של עיבוד שפה טבעית (NLP) – לסכם טקסט, לתרגם, ליצור תוכן דומה לטקסט אנושי, להשיב לשאלות ולסווג קבצים. בכך הם מספקים לתוקפים יכולות דרמטיות חדשות, המבוססות על AI: מסעות פישינג מטורגטים בהיקף גדול, חיקויים איכותיים של קול, יצירת מוטציות מתוחכמות של נוזקה וייצור דאטה שתפגע במערכות ותעמיס עליהן. למעשה, מודלי השפה הגדולים הופכים לחלק ממשטח התקיפה, עם הקלה לתוקפים, שיכולים להשתמש באנגלית ולא בשפות פיתוח".

"מנגד", הסביר, "ה-GenAI משנה גם את ההגנה, מסייעת למגנים לאמץ אותה כדי למנוע איומים. הם יכולים לייצר תוכן, מובנה ולא מובנה, שעובר אימון על המודלים. כמו כן, ביכולתם לקבל מענה בשפה פשוטה לשאלות אבטחה מורכבות – מי הותקף? מי התקיף? מה החולשה? כיצד נוצלה? ואיך להתאושש?. המגן יכול להסתייע בבינה יוצרת כדי לסכם התראות, להתמודד עם ריבוי התראות וחיוויים, לתקצר את היסטוריית האירועים, להסביר את מידת הסיכון, לבנות תרחישים שמדמים מגוון איומים, להעצים את יכולות האנליסטים ועוד".

לסיכום אמר פרופ' וולפסטל, כי "הבינה המלאכותית היוצרת מוסיפה רובד חדש ואיכותי של חיזוי באבטחה. היא יכולה למצוא מחט בערמת שחת. כיוון שהיא אומנה על נתונים רבים, היא מסוגלת לזהות יותר איומים ומתקפות – במהירות ובקלות רבה. שילוב מיכון עם בינה מלאכותית מביא לקיצור משך הזיהוי של האיום עד לכשליש מהזמן, ובכלל – מביא לשיפור ביצועים ומתודולוגיות האבטחה ולטיוב התפעול של ההגנה. למען זה, חוקרים במרכז המצוינות בסייבר של יבמ באר שבע שותפים לפיתוח מערך האבטחה הארגוני העתידי ולהוספת רכיבי הגנה משמעותיים לפלטפורמת Watsonx. המגנים צריכים להיערך – ויש להם את הכלים כדי לעמוד בפרץ".