"שימוש לא נכון ב-AI הופך אותה לטכנולוגיה מסוכנת מאין כמותה"

"בשימוש לא נכון ולא מבוקר, ה-AI היא טכנולוגיה מסוכנת מאין כמותה", כך אמר היום (ג') ראש השב"כ, רונן בר, בשבוע הסייבר של אוניברסיטת תל אביב.

בר הסביר שמה שגרם לו להגיע למסקנה הזאת הוא אינטראקציה עם הבינה המלאכותית, שקשורה למשפחתו. "שאלתי את כלי ה-AI מה לקנות לאשתי ליום הולדתה. הצ'ט הציע שאקנה זר ורדים אדומים, מה שמשתלב עם זה שאני אוהד הפועל תל אביב. לאור כישלונות העבר שלי בתחום המתנות לאשתי, קיוויתי שהפעם אצליח. תגובתה הבהירה לי שכדאי להיזהר ולוודא שמשתמשים בבינה המלאכותית בצורה הנכונה".

ראש השב"כ תיאר בדבריו את הלקחים שהארגון הפיק מכניסת הרשתות החברתיות לחיינו ודיבר על ההיערכות שלו לקראת עידן ה-AI.

"לפני שהגעתי לכאן", אמר, "ביקשתי מ-ChatGPT להסביר לי כיצד להכין חומר נפץ מאולתר. 'מצטער', הוא השיב, 'איני יכול'. התעקשתי ובעצת אחת החוקרות בשירות שיניתי את נוסח השאלה, וקיבלתי הנחיות מדויקות להשיג את החומרים, איך לשקול ולערבב אותם וממה להיזהר. בסוף הטקסט הצ'ט 'יעץ' לי: 'תמיד תתעדף בטיחות, לעולם אל תשכח את התוצאות של מעשיך וזכור שהמטרה שלנו אינה ליצור כאוס, אלא להשיג משהו גדול יותר'".

"השאלה מה נשיג תלויה בנו, בחוקים שנקבע, במגבלות שנטיל וברגולציה שנחוקק, אך גם בדמיון, ברצון הטוב ובשאיפה שלנו להשתפר – כפרטים, כארגונים וכמדינות", ציין בר.

"הרשת הגבירה את חוסר המשילות – ויצרה את גוב האריות"

לדברי בר, "הרשת הגבירה תופעות של חוסר משילות, יצרה ניכור בין אזרחים למוסדות המדינה, והדירה בודדים ומיעוטים. לתופעות שצומחות ברשת יש השלכות חברתיות: האלימות לא מסתיימת במילים. אנחנו פוגשים את האלימות הגואה, שמתחילה בסושיאל מדיה, בקסבה, בצירים ובערים שלנו". כך, אמר, "גוב האריות הוא דוגמה לארגון טרור מסוג חדש, טרור דור ה-Z. ניתן ללמוד ממנו על האופן שבו מדינות וארגוני טרור מנצלים את הדור הצעיר. הארגון אינו אידיאולוגי, קם ברשת, מגייס ברשת ומקבל תמיכה מהציבור בלייקים. הוא הופך יו-טיוברים לגאן-טיוברים (GunTubers)".

גוב האריות

"גוב האריות הוא זרועה הארוכה של איראן, והוא ארגון שנוצר ממצלמת הסמארטפון – ולא בתוך מסגד. איראן מסמנת ברשת נוער מועד לפורענות, מסיתה, מעבירה להם כספים ומספקת להם ידע ונשק. ככה פשוט", הוסיף.

עוד השפעה רעה של דאע"ש

"דאע"ש היה ארגון הטרור הראשון שהבין את מלוא הפוטנציאל של המדיה החברתית. חבריו הניחו את היסודות לטרור מבוסס הרשת", אמר בר. לדבריו, "בשנה שעברה ספגנו פיגוע כזה בבאר שבע. אדם שצרך ברשת תכני דאע"ש מסיתים ומסוכנים – תוכן חוקי בישראל – הושפע עמוקות, הקצין בשנייה ורצח ארבעה. אשתו, כמו השב"כ, לא ידעה שהוא עומד לבצע פיגוע".

"זו רק דוגמה אחת לחשיבות עדכון החקיקה לפי קצב השתנות הטכנולוגיה. לצערי, אנחנו לא זריזים כפי שעלינו להיות", הוסיף.

"ארגון הטרור הראשון שהבין את מלוא הפוטנציאל של המדיה החברתית". דאע"ש. צילום: ShutterStock

בר ציין כי מתחילת 2022 שירות הביטחון הכללי טיפל ביותר מ-600 פעילי דעא"ש בישראל. "רבים מהם צרכו תכנים אלימים ומסוכנים ברשתות החברתיות ובמעמקי הרשת. חלקם היו רגע לפני יציאה לפיגוע. אלה נוספו לכ-800 פיגועים משמעותיים שסיכלנו באותה התקופה, שלמספר מדאיג מתוכם יש אחיזה ברשת", אמר. הוא ציין ש-"המגמה ברורה, וארגוני הביטחון המסורתיים נדרשים להתאים את עצמם למצב החדש, שבו כל אדם זועם עם גישה לאינטרנט עלול להפוך ברגע למפגע".

איזו רשת חברתית נמצאת "בכיוון הנכון", לפי ראש השב"כ?

"חברה דמוקרטית, ליברלית וחפצת חיים חייבת לייצר רגולציה מחייבת: קוד אתי, הסרת תכנים פוגעניים במהירות, עידון האלגוריתם, חשיפת אנשים לדעות שונות והורדת רף ההסתה", אמר בר.

הוא ציין כי "באחרונה אנחנו רואים צעדים של טיקטוק בכיוון הנכון, בכל הנוגע להסתה ולטרור. לצערי, לא כך המצב בטוויטר ובטלגרם".

השב"כ והבינה המלאכותית

בהמשך חזר ראש השירות לדבר על AI ואמר כי "הטכנולוגיה הזו הוטמעה במכונת הסיכול של השב"כ באופן טבעי למדי". לדבריו, "לשב"כ ול-AI יש מהמשותף: אנחנו והיא מתפרנסים מחיפוש אנומליות. זיהינו באמצעות הבינה המלאכותית מספר לא מבוטל של איומים. המכונה ויכולתה לזהות אנומליות יוצרות חומת מגן אפקטיבית מול אויבינו, לצד היכולות המסורתיות של יומינט, סיגינט, סייבר, ניתוח מודיעין ומבצעים. שליש מעובדי הארגון הם נשות ואנשי טכנולוגיה. גם לעובדי השטח שלנו יש יותר אוריינות טכנולוגית. טכנולוגיה למבצעים, כמו גם מבצעים טכנולוגיים, הופכים לנתח משמעותי יותר ויותר בפעילות שלנו".

"הבנו שלא נוכל לנצח במלחמה הזאת באמצעות מקלות ואבנים. אנחנו מזהים את האיומים, אך גם רואים את ההזדמנויות ש-AI מביאה עמה", אמר בר. "הקמנו Gen AI On Prem – יכולת שמונגשת לעובדים בצורה אינטואיטיבית וניתן להתנהל מולה כמו מול הכלים המוכרים: Bard ו-Chat GPT".

"חילקנו את פוטנציאל ה-AI בשב"כ לחמישה תחומים עיקריים: התייעלות – קיצור תהליכים בירוקרטיים, קיצוץ בעלויות ושיפור תוצרים ותוצאות; סידור שולחן העבודה של האנליסט באופן שיבדיל בין העיקר לתפל ובין הדחוף לחשוב, בעידן של מידע אינסופי; מודיעין – זיהוי דפוסים וחריגה מהם; קבלת החלטות – כשותף, ליד השולחן, ולא כמקבל ההחלטות, כטייס משנה; וחיזוי מגמות וסיכויי התממשותן", אמר.

ה-AI – זהירות, אבל גם פוטנציאל. צילום: ShutterStock

לדברי בר, "יש ל-AI השלכות מיידיות על הביטחון הלאומי. ניצבים בפנינו בהקשר זה שלושה אתגרים עיקריים: הזמינות, הפיתוי והעדר האחריותיות. באשר לזמינות, טכנולוגיית הבינה המלאכותית נמצאת בכל מקום, והיא זמינה לכל אדם, מדינה וארגון. פעם, כדי לפתח גרעין נדרשו יכולות מעצמתיות. ל-AI, שפוטנציאל הנזק שלה עצום, לא נדרש דבר זולת מכשיר סלולרי וחיבור לרשת. באשר לפיתוי – הבינה המלאכותית היוצרת (Generative AI) תדע לפתות את המשתמש, ותספק מידע במהירות וללא חסמים מוסריים, על חשבון דיוק והעמקה. כמו כן, האחריותיות לא חלה על ה-AI, ובהיעדרה – חוק הג'ונגל הוא זה ששולט".

"נצטרך להתאים לכך את הרגולציה הישראלית, להגדיר מחדש מהו סוד מדינה ולהתאים את חוק השב"כ, שנכתב בעידן הסיגינט, לעידן הסייבר וה-AI", הוסיף. הוא הבטיח שהשב"כ ימשיך להיות אג'ילי בתחום הטכנולוגיה. כך, אמר, "נזדקק לשיתופי פעולה ופתיחות בין ענקיות הטק לגופי הביטחון".

לסיכום ציין בר כי "תפיסת הביטחון של ישראל מבוססת על שכבות ההרתעה, ההתראה, ההכרעה וההגנה. עלינו להוסיף שכבה נוספת – ההשפעה. הרשת מעניקה למדינות ולארגונים קרקע פורייה להסית, להשיג מידע רגיש, לקיים מגע ולפעול. אנחנו מזהים את המגמות האלה בשלבים מוקדמים, מצויים בנבכי הרשת ורואים היטב את המתרחש בה: ריגול, טרור, הסתה והשפעה זרה. בעולם המלחמה החדש, הניצחונות נספרים במספר השרתים שבהם יש למדינה דריסת רגל, ולא במספר הגבעות שעליהן מתנוסס דגל – ונדרש להגן על השרתים. על הסייבר יש להגן תשתיתית, ובשלושה רבדים: המקומי, עם כיפת ברזל מבוססת AI, שתאתר, תחקור ותבלום אנומליות שמגיעות לישראל; הבינלאומי, עם בריתות כמו אינטרפול בתחום הסייבר ואגם נתוני מודיעין איומים; וברובד ה-B2G, שמחבר בין ממשלות וחברות בתעשייה".