"ה-AI היא חרב פיפיות – מועילה לטובים, אבל גם לרעים"

"הבינה המלאכותית היוצרת החלה כחידוש מרענן ויוצר כותרות, הייתה לכלי הכרחי שמאפשר תפוקתיות ויצרה לעצמה קהל לקוחות רחב – תאגידים, יוצרים, אמנים, מדענים וסטודנטים. אלא שבאופן בלתי נמנע, היא הפכה גם לכלי בידי הרעים, פושעי הסייבר. שחקנים רעים מחפשים כל הזמן דרכים לתקוף עם מאמץ נמוך ותשואה גבוהה. מתברר שה-Gen AI מספקת להם הזדמנויות מפתח, כי היא מעניקה מהירות, ומשפרת את יכולות ההונאה וההנדסה החברתית שלהם. הגנה מפני נוף האיומים החדש והגדל הזה דורשת תגובה מערכתית, שבה כולם – ממשלות, חברות, אקדמיה ועוד – משלבים ידיים", כך אמרה שאנון מרפי, מנהלת גלובלית לאסטרטגיות ניהול סיכונים ואבטחת מידע בטרנד מיקרו, בראיון לאנשים ומחשבים.

מה עושה את הבינה המלאכותית אטרקטיבית עבור ההאקרים?
מרפי: "אפליקציות שמופעלות על ידי בינה מלאכותית התבררו כפגיעות יותר וקלות לשימוש לרעה. פושעי סייבר אפילו השיקו שירותי מודלי שפה גדולים (LLMs) משלהם. ה-AI מקלה על התוקפים לשלוח הודעות פישינג ממוקדות, נטולות שגיאות ומשכנעות, בהיקף נרחב ובכמה שפות. היא מאפשרת, מעבר למיילים ולטקסטים, לכלול דיפ פייק של קול ו-וידיאו, כדי להפוך את האיום למשכנע עוד יותר".

לדברי מרפי, "מאמצי הפיתוח של LLMs מרושעים נמשכים וצפויים להימשך, בליווי כלים חדשים ליצירת נוזקות ומשימות תקיפה אחרות. יש להניח שיופיע שירות סייבר עברייני חדש – 'סיור כשירות' (ReconaaS): הרעים ישתמשו בבינה מלאכותית כדי לחלץ מידע אישי מנתונים גנובים וימכרו אותו לפושעי סייבר אחרים, לצורך מתקפות ממוקדות".

"ה-AI – חרב פיפיות"

מרפי כינתה את הבינה המלאכותית "מעין חרב פיפיות. לטובים היא עוזרת כמענה למצוקת כוח האדם במרכזי תפעול אבטחה (SoC), למיכון פעולות ידניות, להאצת ניתוחים ולאיתור מתקפות פוטנציאליות. למזלנו, למגנים יש הרבה כישרונות ויש משאבים לבנות פתרונות במהירות. אבל היא מסייעת בשני הכיוונים – למשל לגילוי חולשות. הבינה המלאכותית פשוט האיצה את המרוץ שבו מתמודדים התוקפים והמגנים".

מה המענה לזה?
"מענה ההגנה דורש לשלב שיטות אבטחה וכלים מתקדמים עם תרבות אבטחה ארגונית חזקה, עם אבטחה שבונים כבר מתחילת הפיתוח. הצד החיובי בסיפור שהוא שניתן להעמיק את ההגנה ולחזק את האבטחה בשילוב של גישות אפס אמון ושימוש בבינה מלאכותית. זו יכולה לסייע לצוותי אבטחת הסייבר לעבוד מהר יותר ולהיות פרודוקטיביים יותר, משום שהיא מאפשרת להסביר בשפה פשוטה ​​התראות, מפענחת אותן ואת האירועים במהירות, יכולה לבצע שאילתות חיפוש מדויקות ויעילות, ומפעילה אוטומטית תרחישי תגובה לאבטחה – ברגע שמתרחש אירוע".

לאילו מהאיומים מנהלי.ות האבטחה בארגונים צריכים.ות להתייחס?
"פושעי הסייבר בוחרים את המטרות שלהם בזהירות רבה יותר. במקום לתקוף כמויות גדולות יותר של משתמשים ולהסתמך שהקורבנות ילחצו על קישורים זדוניים, הם מכוונים למספר קטן יותר של קורבנות בעלי פרופיל גבוה יותר, באמצעות מתקפות מתוחכמות יותר. זה גם מאפשר להם לעקוף שכבות זיהוי מוקדם.

שחקני APT ממשיכים להראות מגוון ותחכום בהתקפותיהם, ובמיוחד בטקטיקות התחמקות מהגנה. ההאקרים עוסקים בכל: מפגיעות באימייל עסקי, שחוו גידול ב-2023, ועד לעלייה בפעילויות של עברייני סייבר בכמה תחומים, כגון הצפנה מרחוק, הצפנה לסירוגין, מעקף EDR באמצעות מכונות וירטואליות לא מנוטרות ומתקפות כופרה מרובות, שבהן הקורבנות נפגעים יותר מפעם אחת. גם מתקפות הפישינג הפכו להיות מתקפות על סטרואידים.

המלצתי למנהלי.ות האבטחה היא להבין ולדעת טוב יותר את משטחי התקיפה האפשריים שלהם.ן – עם נראות מקסימלית, ואת מצאי הנכסים. כך הם.ן יוכלו להבין לעומק את הסיכונים ובהתאמה, לבנות מערך הגנה כולל".

מרפי, מנהלת אישה בכירה בעולם הסייבר, שהוא עולם גברי, סיימה את דבריה בהתייחסות לשיעורן הקטן של הנשים מכלל המועסקים.ות בתחום: "על אף שהנשים מהוות מיעוט בענף הסייבר, אני מעודדת. באחרונה הייתי בכנס RSA וראיתי ספקיות אבטחה שבחרו לתרום רק לנשים או לארגונים שמעודדים העסקת נשים באבטחה. יש להבין – לכולם בתעשייה יש אינטרס גדול בהבאת יותר נשים לתחום, זה מצב שכולם וכולן ירוויחו ממנו. אווה צ'ן, מייסדת ומנכ"לית טרנד מיקרו, נבחרה כמה פעמים ברשימות 100 הנשים המובילות והמשפיעות באבטחת המידע והגנת הסייבר, ואף זכתה בכמה פרסים יוקרתיים. היא אמרה משפט שאני מזדהה אתו: 'יש הרבה יותר מ-100 נשים מצטיינות שעובדות בתעשייה שלנו כיום, והמשימה שלי היא להבטיח ולעודד יותר נשים לשקול קריירה בתחום אבטחת הסייבר'. אז בתחום הגיוון וההכללה, אני מעודדת – בראש הסניף הישראלי שלנו עומדת אישה, רויטל אוחיון, ויש נשים נוספות – בצוות הטכני וגם במכירות".