פודקאסט: מי יגן עלינו מפני ה-ChatGPT?

טרנד הבינה המלאכותית, כולל זו היוצרת (ה-Generative AI), שמשגע את העולם, מייצר גם אתגרי אבטחה לא פשוטים, במיוחד כאשר מדובר על הטמעת מערכות כגון ChatGPT בארגונים. זה מתווסף לסכנות האחרות שיש בעצם השימוש בתוכנה החכמה, שמוצבה בעולם ככזו שיש לה תשובות על כל שאלה בכל נושא – למשל, נושא הפרטיות.

איציק צלף, מנהל אבטחת מידע לאומי במיקרוסופט ישראל, שהייתה הראשונה שהציפה את הנושא (והיא גם המשקיעה עיקרית ב-OpenAI, החברה שמאחורי ה-ChatGPT), מציע בראיון לפודקאסט אנשים ומחשבים זווית מעניינת על הסכנות שיש במידע שאנחנו נותנים לשירות החכם ומקבלים ממנו, כיצד אנחנו יכולים להתגונן ואיך הענקית מדרמונד נותנת מענה לאיומים אלה במערכות הארגוניות שלה.

ממה אנחנו צריכים להיזהר כשאנחנו משתמשים ב-ChatGPT?
"ה-ChatGPT, שרוב המאזינים והקוראים מכירים אותו, הוא למעשה עוד מנגנון של הבינה המלאכותית. אולם, בניגוד לדור הקודם, (הדור הנוכחי של הכלי – י"ק ור"ק) מגיע מאומן, ובעצם מסוגל לייצר תוכן חדש. עכשיו, מעבר לאיומי הסייבר או לאיומים סטנדרטיים שאני, כספק שירות, צריך להגן על הלקוח מפניהם, ה-ChatGPT מביא אתו כמה איומים או חולשות שצריך להתייחס אליהם בצורה קצת אחרת. באופן כללי הייתי מגדיר את זה כשימוש לא נאות בפלטפורמה, שזה לא דבר חדש, אבל פה יש לזה משמעות קצת אחרת".

שימוש לא נאות על ידי מי?
"על ידי הלקוח. הוא מפעיל את ChatGPT ומבקש שייצרו לו קוד זדוני לשימוש לא נאות. אז נכון שאת הפעילות הזו אפשר היה לעשות קודם לכן, אבל הקלות שבה ניתן לגשת למערכת ולקבל את הדברים האלה הופכת את זה לקריטי באמת".

תן דוגמה…?
"אם אשאל את המערכת שאלה שהתשובה עליה קשורה לעולמות לא אתיים, אז המערכות שלנו בגרסאות החדשות יחסמו את המידע ולא יוציאו אותו. זה דבר שימשיך ללוות אותנו כל הזמן, והוא בטיפול.

הסוגייה השנייה בתום הסכנות של ה-AI היא ההשפעה וההטעיה. יש דברים שמכונה לא יכולה לעשות, כמו לאשש או להפריך פרדיגמות. בסך הכול, התהליך מבוסס על נתונים ועובדות שמזינים למכונה, ועל סמך זה אתה מקבל תשובות. אם אני שואל שאלה מטעה או מזין מידע לא נכון, אני בעצם גורם לסוג של חולשה שגורם אחר יכול לנצל לטובתו. אם אני לוקח את זה לתחום הסייבר, למשל – המשמעות חמורה יותר".

איציק צלף, מנהל אבטחת מידע לאומי במיקרוסופט ישראל. צילום: ניב קנטור

כפי שאמרת, היכולות האלה קיימות לא מהיום. מה ההבדל?
"יש משמעות לאופן שבו אתה מנגיש את המידע. כשאתה עושה זאת על ידי תשובות שמנוסחות ברמה מאוד גבוהה ומשכנעת, אתה בעצם את עוצמת תוצאת ההטעיה".

יש דרכים למנוע את התופעות האלה?
"כמו שאמרתי, קשה למכונה לאשש או להפריך תשובות. אנחנו נותנים ציון איכות לתשובות שלדעתנו המכונה יכולה לתת ואם התשובה רחוקה מהאמת, יש התראה. בכל מקרה, אנחנו תמיד מדגישים: נדרש שיקול דעת של המשתמש ועליו לבדוק את המידע בכמה מודלים".

איך מתמודדים עם זה כאשר מדובר בשימוש עסקי?
"כאן אנחנו מגיעים לשיתוף הפעולה בין מיקרוסופט ל-OpenAI, שמייצר פוטנציאל ליכולות שמגבירות את האמון במערכות אלה. מה שאנחנו עושים הוא שאנחנו מאפשרים לצרוך את השירותים הללו בשני אופנים: מהצד האחד להשתמש בזה כפלטפורמה סגורה בתוך המערכות של הארגון, כאשר התעבורה של המידע עוברת אל הענן של מיקרוסופט, Azure, ומהצד השני אנחנו מאפשרים לייצר תת מודל, שמבוסס על הדטה בייס של הארגון עצמו, שממנו המשתמש שואב את המידע, על ידי זה שמאמנים את המודל על הנתונים של הארגון".

כיצד אתם מתמודדים עם השפעות הסייבר?
"אנחנו כרגע עושים פיילוט שמהותו הוא יצירת שפה שמבינה את עולמות הסייבר, יודעת מה המשמעות של מתקפה, ובהתאם לזה אנחנו מאמנים את המכונה. אנחנו בשלב של פיילוט על כל המוצרים שלנו. היתרון הוא שבעתיד, אנשי הארגון יוכלו לשאול את המכונה שאלות שבעבר רק אנשי סייבר ידעו לשאול, למשל ברגע שמתגלה מתקפה, יש שאלות בסיסיות שהמכונה תוכל להשיב עליהן".

התפקיד שלך הוא ניהול אבטחת מידע בתשתיות לאומיות. הסבר לנו מה המשמעות?
"כמו שאנחנו יודעים, ישראל היא אחת המדינות המובילות ביותר בתחום הסייבר. זו הזדמנות מצוינת עבורנו להביא את יכולות הסייבר לגופים שיש להם אחריות או השפעה על השוק המקומי, על הכלכלה, על הביטחון, כמו גם גופי חדשנות וטכנולוגיה, בעיקר באמצעות שותפויות שרובן דיסקרטיות. זוהי פעילות גלובלית שיש לה גם היבט מקומי. יש לנו פה נכסים אסטרטגים, כמו מרכזי פיתוח ודאטה סנטרים, שמצריכים הגנה רב שכבתית, מעבר לסייבר הסטנדרטי".

האם אתם עובדים עם הרשויות בישראל בכל מה שקשור לדאטה סנטר שאתם בונים במודיעין?
"הפעילות היא גלובלית. למיקרוסופט יש מעל 60 דאטה סנטרים (ברחבי העולם – י"ק ור"ק). אני לא רוצה להתייחס ספציפית לדאטה סנטר זה או אחר, זה נושא רגיש שלא מדברים עליו".