"לימוד מכונה ואוטומציה סוגרים על התוקפים במהירות"

"קבוצות תקיפה המפעילות כופרות בדרך כלל מפלסות את דרכן אל הארגון הקורבן – ואז מפעילות מגוון טכניקות לתנועה רוחבית דרך רשת הקורבן. לעיתים קרובות נוצר מרדף – בין התוקף שעובר מאזור לאזור, במטרה למצוא את המידע בעל הערך, אל מול המגינים, המנסים לסגור את הדלתות ולחסום את המסדרונות כדי למזער את גניבת הנתונים. יכולות של אוטומציה ולימוד מכונה סוגרים על התוקפים – במהירות", כך אמר יונגהו לי, מדען הנתונים הראשי של סופוס (Sophos).

לי דיבר בכנס RSA שהתקיים בשבוע שעבר באופן וירטואלי. לדבריו, "טכנולוגיית XDR – זיהוי ותגובה מורחבים, יכולה להקשות על חיי התוקף באמצעות הסרת הפערים בין רשתות, נקודות קצה, שרתים, ומוצרי אבטחת דואר אלקטרוני". הוא ציין, כי "בני אדם מתקשים לבחון במהירות את כל נתוני החברה ולחלץ מתוכם תובנות בעצמם. לכן עסקים צריכים למנף יכולות אוטומציה ולימוד מכונה, כדי להאיץ תהליך זה".

"עם זאת", ציין לי, "גם לאנליסטים אנושיים יש תפקיד חשוב מאוד בכל הנוגע לזיהוי תבניות, במסגרת עצירת התקפות מתקדמות יותר. באמצעות הצבת כל המידע הארגוני במקום אחד, יחד עם נתוני טלמטריה עשירים ונתונים מפורטים עם XDR, ניתן  למנוע ולזהות התקפות של כופרות".

לי הציג במסגרת הכנס את השימוש בלימוד שפה טבעית (natural-language Generative Pre-trained Transformer – GPT), על מנת  לייצר מסנן לדואר זבל המיוצר במכונה. הוא הציג תרחיש של שימוש חכם, אשר הופך את ה-AI לנשק כנגד עצמו. לדבריו, "מודלים של לימוד מכונה, כמו GPT, יכולים לייצר טקסטים קוהרנטיים, הדומים לשפת אנוש, על בסיס מערך נתוני אימון-מכונה קטן יחסית, עם צורך מינימלי באימון חוזר".

הוא הסביר, כי "הביצועים של כל פילטר דואר זבל מבוסס לימוד מכונה משתפרים ככל שהיקף הנתונים לאימון גדל. אבל הוספה ידנית של נתוני אימון יכולה להפוך לדרך פעולה איטית ויקרה. אצל סופוס, הפתרון היה שימוש בשתי שיטות שונות של יצירת טקסט נשלטת". כך, אמר לי, "הדבר הוביל למודל GPT עם תוצאות טובות יותר, תוך שהוא מכפיל את מערך הנתונים המקורי ביותר מפי חמישה. בשיטה זו, הכלי למעשה אימן את עצמו לגבי הדרך שבה דואר זבל אמור להיראות, על ידי כך שהוא יצר דואר זבל משלו".

"כשהוא חמוש בהודעות שנוצרו בלימוד מכונה, ואשר מחקות גם הודעות טובות וגם רעות, הפילטר הוכיח את עצמו כאפקטיבי מאוד", סיכם לי. "ניתן לאמן GPT כדי לזהות דואר זבל, אבל גם אפשר לבצע לו אימון חוזר באמצעות ייצור של דואר זבל חדש, ובכך – להעצים את מערך הנתונים. הביצועים של זיהוי דואר הזבל על ידי GTP משתפרים מעצם המאבק המתמיד בין יצירת הודעות לזיהוי".