ארה"ב מפתחת כלים למניעת מתקפות סייבר מבוססות AI

סוכנות הביון האמריקנית הממשלתית שהביאה לעולם את האינטרנט לפני יותר מיובל (וגם את ה-GPS) מעוניינת להילחם במתקפות סייבר מבוססות כלי בינה מלאכותית.

DARPA (ר"ת Defense Advanced Research Projects) – בעלת השם ה-"קליט" הסוכנות למחקר פרויקטי ביטחון מתקדמים שבמשרד ההגנה – אחראית על פיתוחים טכנולוגיים רבים לשימושים צבאיים ואזרחיים. הסוכנות, המכונה "המשוגעת", השיקה יוזמה, אחת מני רבות שלה: תוכנית GARD (ר"ת Guaranteeing AI Robustness Against Deception), שנועדה לפתח הגנות חדשות נגד מתקפות סייבר של יריבים, שמבוססות על מודלים של לימוד מכונה.

המטרה של המיזם היא להגיב לפעילויות התקפיות מבוססות בינה מלאכותית על ידי פיתוח הגנות לימוד מכונה שונות, ואז לבחון את ישימותן ולהעריך את מידת ההצלחה שלהן במניעה. חוקרים בתוכנית יצרו משאבים וכלים וירטואליים לקהילה בהתהוות, כדי שחבריה יוכלו לבדוק ולאמת את האפקטיביות של מודלים להגנה מבוססי לימוד מכונה – מודלים קיימים וכאלה שיפותחו.

"קהילות טכניות אחרות, כמו אלה שעוסקות בקריפטוגרפיה, אימצו את תפיסת השקיפות. כך, הן גילו שאם אתה פתוח ונותן לאנשים להסתכל על דברים – הטכנולוגיה תשתפר. בתוכנית שלנו אנחנו 'מעתיקים' את התפיסה הזו", אמר ברוס דרייפר, מנהל תוכנית GARD. לדבריו, "השאיפה היא להקל על החלפה פתוחה של רעיונות, כלים וטכנולוגיות שיכולים לעזור לחוקרים לבדוק ולהעריך את ההגנות מבוססות לימוד המכונה שלהם. המטרה שלנו היא להעלות את הרף הקיים, ולהביא יותר תחכום ובשלות לתחום".

"המטרה: לעזור לחברי קהילת GARD לשפר את כישורי ההערכה"

בנוסף לכלי המבחן הווירטואליים, החוקרים יצרו ארגז כלים, חומרי הדרכה ומערך נתונים של השוואת ביצועים עבור התוכנית. כל אלה זמינים לציבור הרחב. המבחן הווירטואלי, המכונה Armory, יאפשר לחוקרים "לבצע הערכות חוזרות, ניתנות להרחבה וחזקות של הגנות היריבים".

הצוות של DARPA כולל חוקרים מאוניברסיטת שיקגו, ממעבדות יבמ, מגוגל, מ-MITRE ומ-Two Six Technologies. לפי הסוכנות, "על אף שמתקפות מבוססות בינה מלאכותית הן תחום בהתהוות, החוקרים כבר הבחינו בנושאים נפוצים בעולם זה והחלו בסיווג הגנות של היריבים. חלק מהחומר שנאסף ומשותף פומבית הוא מאגר מחקר עצמי שפותח על ידי חוקרי גוגל, שכולל 'Test dummies' ('בובות מבחן') להערכת ההגנות השונות".

הגנת סייבר, AI ו-DARPA. צילום: BigStock

"המטרה היא לעזור לחברי קהילת GARD לשפר את כישורי ההערכה שלהם", ציין דרייפר. "נעשה זאת על ידי הבנה כיצד הרעיונות שלהם באמת עובדים ואיך להימנע מטעויות נפוצות שפוגעות בחוסן של ההגנה שלהם. כך, החוקרים יוכלו לקבל הבנה מעשית ולא רק תיאורטית. הפרויקט נועד לתת להם ניסיון בשטח כדי לעזור לשפר את הכישורים הללו".

תוכניות נוספות של DARPA

ביוני האחרון DARPA פצחה בתוכנית לחיפוש מידע על דרכים להבנת האופן שבו פועלים משטרים טוטליטריים בהיבט השליטה על המידע במדינה, עם כלי בינה מלאכותית.

באוגוסט 2020 הסוכנות הודיעה שהיא מעוניינת להצפין רכיבי אינטרנט של הדברים. זאת, לטובת חיפוש דרכים לאבטח מיליארדים של מכשירים המחוברים לאינטרנט נגד כלים עתידיים שוברי קוד. ביוני באותה השנה היא פיתחה דור חדש של טכנולוגיה, שעושה מכונות הצבעה, בסיסי נתונים רפואיים ומערכות דיגיטליות קריטיות אחרות בטוחים בהרבה מפני האקרים. הטכנולוגיה החדשה הביאה לכך שהשיטות האופייניות שהאקרים משתמשים בהן כדי לשבש ולפגוע בתוכנה שמופעלת עליהם הופכות בלתי אפשריות.

באוקטובר 2019 ביקשה DARPA להגדיל באופן דרסטי את מהירות הרשת, כדי לטפל בצווארי בקבוק ובנקודות חסימה לטובת יישומים עתירי מחשוב. באפריל באותה השנה היא פצחה במיזם חדש, שמטרתו לפתח פלטפורמת תקשורת חדשה ומאובטחת מאוד. היוזמה לתקשורת חסינה ואנונימית לכל אחד, בדומה לווטסאפ, נועדה לענות לגידול העצום של רשתות ארגוניות מבוזרות, שמתרחבות יותר ויותר בענן. גידול זה עולה על היכולת של כלי האבטחה המסחריים והעדכניים ביותר הדרושים לזיהוי האיומים בסייבר.

סוכנות שהולכת נגד הזרם

DARPA ידועה בדעות העצמאיות והלא קונפורמיות של אנשיה, ובכך שהעובדים שלה אוהבים לעשות דברים מחוץ לקופסה. כך, למשל, במסגרת אחד הפרויקטים החשובים שלה – פרויקט ולה, שהחל ב-1963 – ציידו אנשי הסוכנות לוויינים באמצעי גילוי קרינה אטומית, במטרה לעלות על ניסויים בנשק גרעיני, כולל ניסויים תת ימיים.

מפה של ARPANET בשנות ה-70. מקור: Semaforo GMS

בשנות ה-60 של המאה הקודמת, מימנה הסוכנות את ARPANET (ר"ת Advanced Research Projects Agency Network – בתרגום חופשי: רשת הסוכנות לפרויקטי מחקר מתקדמים). זו הייתה רשת מיתוג המנות הראשונה בעולם, וממנה התפתחה רשת האינטרנט. הרשת נועדה לשימוש לפרויקטים באוניברסיטאות ובמעבדות מחקר בארצות הברית והחלה לפעול באוקטובר 1969.

פרויקטים נוספים שנעשו בה היו מימון מחקר שבמסגרתו נוצר עכבר המחשב הראשון; מחקרי בינה מלאכותית ומציאות מדומה; מחקרים אודות רובוטיקה; שותפות בפיתוח ה-GPS לדורותיו; פיתוח תאי דלק קלים לשימוש במכשירים שנישאים על גב חיילים; פיתוח כלי רכב לא מאויש לשדה הקרב; ופרויקטים נוספים רבים.

התקציב של DARPA גדול, אבל ההיתכנות של הפרויקטים שלה נמוכה ביותר, ויש שאומדים אותה בפחות מ-10%. ממילא, רוב התוכניות שמבצעת הסוכנות חסויות ומכוונות לצאת נגד המגמות העיקריות המדוברות בשדות הטכנולוגיים השונים.