"המשתמש הוא הגורם המרכזי למתקפות מבוססות AI"
" ה-LLM מקל עליו מאוד לעשות דברים טיפשיים ולהעצים את האתגר של אנשי האבטחה", כך אמר אייל עסילה, מנכ"ל CyberLion Advisory
"המשתמש הוא הגורם המרכזי למתקפות המבוססות על בינה מלאכותית. אם עד לפני שנה, בטרם ה-ChatGPT 3, הבינה המלאכותית היוצרת (GenAI) הייתה מושג רחוק מאתנו, כיום, ה-LLM (ר"ת Large Language Model – מודל שפה גדול; י"ה) מקל מאוד על המשתמש לעשות דברים טיפשיים ולהעצים את האתגר של אנשי האבטחה", כך אמר אייל עסילה, מנכ"ל CyberLion Advisory.
עסילה דיבר במפגש של פורום CSC מבית אנשים ומחשבים, שנערך לפני ימים אחדים ביס פלאנט בראשון לציון ועסק באתגרי הסייבר שעולים מהבינה המלאכותית בכלל ומזו היוצרת בפרט.
לדבריו, "הבינה המלאכותית קיימת שנים רבות, אבל בשנים האחרונות היא הופכת ליותר ויותר שימושית".
"חשוב להבין איך סביבת ה-AI עובדת", הוסיף. "הבינה המלאכותית משמשת בין היתר לאינטראקציות שבין אנשים למכונות. היא נותנת לנו תשובות ואנחנו נותנים לה פידבק. אלא שהיא יכולה לתת גם תשובות שגויות. הרבה אנשים לא באמת בודקים את התוצר של ChatGPT, אבל אם הם כן עושים זאת, מוצאים תשובה שגויה ומעירים על כך לפלטפורמה – הרבה פעמים היא מתנצלת".
שאלה של גישה
"בואו נדבר על הגישה", פנה עסילה לקהל. "ארגונים נתקלים בבקשות מעובדים, שאומרים: אנחנו רוצים להשתמש ב-ChatGPT או ב-בארד. אלה כלים שאנשי האבטחה לא יודעים עדיין איך להשתמש בהם". הוא דיבר בהקשר זה על AGI Teaching – לימוד של בינה מלאכותית, שבסופו של דבר תוכל לעשות את כל מה שהאדם יכול לעשות. "זה מתחלק לשלוש מתודות: למידה מפוקחת, למידה לא מפוקחת או כזו שהיא מפוקחת בחלקה. הסיכונים בכך הם אימון דאטה בצורה לא יעילה, לימוד דאטה דו משמעי ופידבק דל או מושהה", אמר.
באשר לרגולציה של ה-AI, עסילה ציין כי "בישראל אין כזו ובאירופה יש, אבל היא לא רלבנטית, כי היא לא מותאמת לבינה המלאכותית היוצרת".
עסילה סיים בטיפים למנהלי האבטחה אודות הטיפול בעולמות ה-AI בהיבט של הסייבר, ובכלל. "ראשית", אמר, "תאמצו את הלמידה של התחום ואת שיתוף הפעולה. לימדו בעצמכם והתעמקו בנוף האיומים. תנו אחריות למשתמשים. ולבסוף, תנו עדיפות לסוגיות אתיות ולשימוש בבינה מלאכותית תוך שמירה על הערכים האתיים של הארגון".
תגובות
(0)