"הרעים עלולים לנצח בסייבר בעזרת מתקפות מותאמות אישית"

"עולם הסייבר מכיל איומים מז'וריים רבים. ישראל נערכה לקראתם ובעשורים החולפים התפתחה פה תעשייה משגשגת. עם זאת, עד היום לא היה 'פרל הרבור' (המתקפה היפנית שהביאה את ארצות הברית להצטרף למלחמת העולם השנייה – י"ה) ברוב ענפי הסייבר, לרבות במתקפות מבוססות ה-AI, בין השאר כי ארגונים רבים השקיעו השקעה 'מטורפת' בהגנה. תמיד קיים בסייבר סיכון ויש לערוך ניהול סיכונים מושכל. במרוץ החימוש שבין הרעים התוקפים לטובים המגינים, אחד הסיכויים המשמעותיים של התוקפים לנצח טמון ביכולתם לבצע מתקפות המותאמות אישית לקורבנות", כך אמר ד"ר טל שטיינהרץ, סמנכ"ל הטכנולוגיות של בלוסקיי (BlueskAi).

ד"ר שטיינהרץ היה סמנכ"ל הטכנולוגיות הראשון של מערך הסייבר הלאומי, בשנים 2013-2017. לאחר מכן הוא היה מייסד משותף וסמנכ"ל הטכנולוגיות של Syber.ai, והקים את Wib יחד עם גיל דון ורן אוחיון. זו פיתחה פתרונות אבטחה ליישומים מבוססי API עוד טרום עידן הבינה המלאכותית, ובפברואר לפני שנה נרכשה על ידי F5 בעשרות מיליוני שקלים.

הוא אמר לאנשים ומחשבים כי "הופעת הבינה המלאכותית היוצרת מחוללת לא מעט אתגרים. עם זאת, כשאני נפגש עם מנהלי חברות, המסר שלי פשוט: 'לא צריך להפריז באיום הטמון בבינה המלאכותית בשלב הנוכחי. יש להיזהר – אבל לא להחמיר יותר מדי'".

למה הכוונה?
ד"ר שטיינהרץ: "ניקח, לדוגמה, מגמה טכנולוגית אחרת – הענן. לדעתי, לארגון שכיום שם את כל נכסיו בענן, אין כרגע כל סיבה שלא לצרוך שירותי AI דרך העננים שמבטיחים שמירה על פרטיות. ובחזרה לסייבר: מניסיוני, יש בישראל ארגונים שיותר מאובטח להם לעלות לענן, כי יש שם חבילת אבטחה בסיסית רחבה יותר מאשר היכולת שלהם להגן על עצמם באון-פרם. והיה ויש מצב שבו מנהל האבטחה חושש מרמת האבטחה בענן, אין צורך להמציא את הגלגל מחדש – עליו להוריד את הנתונים הרגישים מהקלאוד לקרקע, לדאטה סנטר שלו".

"נכון", אמר ד"ר שטיינהרץ, "ייתכנו אירועי סייבר חמורים שהם תחת ההגדרה 'חצי תקיפתיים', כמו פרשת קיימברידג' אנליטיקה מהעשור הקודם בענף ה-API, שבה נחשף שחברת הייעוץ הפוליטי מבריטניה ניצלה חוסר בקרה או את העלמת העין של פייסבוק, וניגשה למידע על 87 מיליון משתמשי פייסבוק – שאותם היא מכרה למפלגה הרפובליקנית בארצות הברית".

היכן אתה רואה את הבינה המלאכותית והסייבר נפגשים?
"הם נפגשים בשלושה מקומות משמעותיים. בסייבר ההגנתי, ה-GenAI עושה מיכון לכל העולם העסקי. זו בשורה גדולה, שתשפר את יכולות ניהול ה-SoC ותביא לצמצום פעולות אנושיות סיזיפיות. בצד התוקפים, הבינה המלאכותית תסייע גם להם, כי תקיפה בסייבר היא עסק כלכלי. ה-AI תסייע לתוקפים לחדור, עם התאמה אישית והנדסה חברתית, אך מנגד, תסייע למגנים, בשיפור ביכולות הזיהוי והמניעה.

המקום השלישי שבו הסייבר וה-AI מתחברים הוא וקטורי התקיפה. הטכנולוגיה החדשה פותחת משטח תקיפה חדש. זה עדיין לא קורה משמעותית בשטח, זה מעט רחוק – אבל הולך למקום מאתגר. הגדלת משטחי התקיפה נובעת מאותו הדבר שקורה בהעברת יישומים לענן: כשאתה חולק מידע רגיש – יש פוטנציאל הזלגה. לטעמי, אלה שמתריעים מפני איום, איום ונורא, של 'זיהום' ה-LLM – קצת יצאו מפרופורציות. לנסות לגרום ל-LLM להשיב תשובה מסוימת זה מאתגר, ויש סיכוי שהמודל יפעל בצורה לא צפויה. לכן זו די ירייה באפלה, ולא וקטור תקיפה משמעותי. הנקודה הרגישה באמת בהגנת הסייבר מגיעה כשהארגון מטמיע סוכני AI שאוספים מידע ומנפיקים תובנות. אז הסיכון מגיע אם וכאשר התוקף מצליח להשתלט על הסוכן".

"סרטי המדע הבדיוני הופכים למציאות"

בלוסקיי הוקמה לפני שנתיים על ידי דניאל לאון, המנכ"ל, יניב חן, סמנכ"ל הפיתוח, וד"ר שטיינהרץ. הוא אמר כי "הבנו את הפער הקיים בין העובדה שכל אחד מאתנו 'משחק' עם ChatGPT בבית ובין האימוץ הארגוני שלו, שהינו חלקי והרבה פחות משמעותי. יש לכך כמה סיבות, ביניהן איומי אבטחת הסייבר והגנת הפרטיות, לצד העובדה שהטכנולוגיה רחוקה מלהיות מושלמת".

איפה אתם נכנסים?
"אנחנו עוזרים לארגונים להיכנס בצורה חלקה לעידן החדש, ובונים עבורם פתרונות מבוססי AI. כך, למשל, התוכנה רצה קדימה, ויש בעיה בת עשרות שנים: ארגונים נתקעים עם קוד שעבר זמנו. רתמנו את ה-LLM על מנת להבין ולייצר קוד, וכך ארגונים מקבלים קוד חדש בארכיטקטורה מודרנית, בזמן קצר ובפחות עלות. באופן דומה, אנחנו מסייעים לארגונים למכן 80%-90% מהתהליכים שקשורים למסמכים ולדו"חות".

ד"ר שטיינהרץ סיכם באומרו כי "אי אפשר לעצור את הטכנולוגיה ואת המודרניזציה, אבל בפעם הראשונה בחיי המקצועיים אני רואה שסרטי המדע הבדיוני הופכים למציאות. המהפכה הגיעה לחיינו, וסוכנים ממוחשבים יחליפו בני אנוש. אני יכול לראות שזה קורה – גם אם אני לא יכול לקבוע מתי. אני מאמין שניתן לרתום את הקידמה לטובת האנושות – רק שיש לעשות זאת באופן מושכל ואחראי".