"הגורם האנושי – קריטי באבטחה, במיוחד באיום מתקדם כמו דיפ-פייק"

"כזב עמוק, דיפ-פייק, היא אחת הטכנולוגיות המרתקות והמאתגרות ביותר שצמחו מתחום הבינה המלאכותית. היא מדגימה את העוצמה האדירה של AI בעיבוד ויצירת תוכן, אבל גם מציבה אתגרים משמעותיים בתחום האבטחה והאמינות של מידע דיגיטלי, כי היא טומנת בחובה סיכונים משמעותיים למימוש מטרות זדוניות, כגון יצירת חדשות מזויפות, סחיטה ופגיעה בפרטיות ויכולת להטעות ולהשפיע על דעת הקהל", כך אמר לאנשים ומחשבים רוני צארום, מייסד ומנכ"ל סייפוקס (Cyfox).

צארום מדלג זה שלושה עשורים בין עולמות ה-IT, היזמות, הסייבר וה-AI, והוא מהראשונים בארץ שלמד והתעמק ב-AI כבר בתחילת שנות ה-90'.

"דיפ-פייק מבוססת על רשתות נוירונים עמוקות, שהן מודלים מתקדמים של בינה מלאכותית. הטכנולוגיה לומדת מדגימות רבות של תמונות, או קטעי וידיאו, ואז משנה או יוצרת תוכן חדש – שנראה אמיתי לחלוטין. יכולת זו – להחליף פנים, קולות ותנועות בצורה כה משכנעת היא תוצאה ישירה של ההתקדמות העצומה בתחום הלמידה העמוקה".

"הסיכונים העיקריים בטכנולוגיה", אמר צארום, "הם כמה: ראשית, יש את הסכנה של הפצת מידע כוזב בקנה מידה גדול. דיפ-פייק עלולה, ויכולה, לשמש ליצירת סרטונים מזויפים של אישי ציבור או מנהיגים, מה שעלול להשפיע על דעת הקהל ואפילו על תהליכים דמוקרטיים. שנית, יש סיכון גדול לפגיעה בפרטיות ובמוניטין של אנשים. ניתן ליצור תוכן מזויף, שעלול לגרום נזק אישי או מקצועי עצום. בנוסף, בסייבר, דיפ-פייק מציבה אתגר חדש בזיהוי והתמודדות עם הונאות מתוחכמות. למשל, ניתן להשתמש בה ליצירת שיחות וידיאו מזויפות לצורך הונאות פיננסיות".

ההתמודדות, אמר צארום, "צריכה להיות רב-ממדית. יש צורך בפיתוח טכנולוגיות מתקדמות לזיהוי דיפ-פייק. חברות בתחום משקיעות רבות בפיתוח אלגוריתמים מבוססי AI, שמסוגלים לזהות תוכן מזויף בדיוק גבוה. שנית, חייבת להיות רגולציה מתאימה. מדינות צריכות לחוקק חוקים שיתמודדו עם השימוש הזדוני ב-דיפ-פייק, תוך איזון עם חופש הביטוי. לבסוף, חינוך ומודעות ציבורית הם קריטיים. אנשים צריכים להיות מודעים לקיומה של הטכנולוגיה הזאת ולפתח חשיבה ביקורתית כלפי תוכן דיגיטלי".

"יש גם שימושים חיוביים לטכנולוגיית דיפ-פייק", ציין צארום, "בתעשיית הבידור, למשל, דיפ-פייק מאפשרת יצירת אפקטים מיוחדים מרהיבים. בתחום החינוך, ניתן להשתמש בטכנולוגיה ליצירת חוויות למידה אינטראקטיביות ומרתקות. מנגד, בטכנולוגיה נעשה גם שימוש זדוני: באחרונה היה מקרה מעניין, שבו ארגון פיננסי גדול היווה מטרה למתקפת סייבר מתוחכמת, שכללה שימוש בדיפ-פייק. התוקפים יצרו סרטון וידיאו מזויף של מנכ"ל החברה, המבקש מעובד בכיר לבצע העברה כספית דחופה. הסרטון היה משכנע להפליא, כולל קול ומחוות זהים לאלו של המנכ"ל האמיתי".

"מניעת הונאה שכזו אינה אתגר פשוט", הסביר צארום. "המפתח הוא שילוב של טכנולוגיה מתקדמת והדרכה נכונה של העובדים. ישנן מערכות שניתן להפעיל לזיהוי אנומליות קטנות בסרטון – תנועות עיניים לא טבעיות ואי-התאמות זעירות בסנכרון השפתיים. בנוסף, צריך להקפיד לפעול לפי נהלים, שמחייבים לאמת בקשות מסוג זה דרך ערוץ תקשורת נפרד. השילוב של טכנולוגיה ונהלים יכול למנוע נזק פוטנציאלי של מיליוני דולרים. גם ההתמודדות עם הפן האנושי באבטחה היא נקודה חשובה מאוד. הגורם האנושי הוא קריטי באבטחת סייבר, במיוחד כשמדובר באיומים מתקדמים כמו deepfake. ארגונים צריכים להשקיע הרבה יותר בהדרכות ובהעלאת מודעות. יש להדריך עובדים לפתח חשיבה ביקורתית ולזהות דגלים אדומים בתקשורת דיגיטלית".

אחד הכלים המעניינים שפותחו לזיהוי דיפ-פייק, אמר, "הוא 'ניתוח מיקרו-הבעות'. זו טכנולוגיה שמנתחת תנועות פנים זעירות שקשה מאוד לזייף. המערכת מסוגלת לזהות אי-התאמות מזעריות בתנועות שרירי הפנים שאופייניות לדיפ-פייק, אפילו באיכות גבוהה מאוד".

"עתיד המאבק בין טכנולוגיות דיפ-פייק לבין טכנולוגיות הזיהוי הוא בהחלט מרוץ חימוש טכנולוגי מרתק", סיכם צארום. "ככל שהטכנולוגיות ליצירת דיפ-פייק משתפרות, כך גם הכלים לזיהוין. אני צופה שבעתיד הקרוב נראה שימוש נרחב יותר בטכניקות של למידה עמוקה ו-AI לזיהוי מהיר ומדויק יותר של תוכן מזויף. במקביל, נראה גם התפתחות של טכנולוגיות 'הוכחת מקור', שיאפשרו לאמת את האותנטיות של תוכן דיגיטלי. צריך להיות ערניים ולפתח חשיבה ביקורתית. בעידן המידע הדיגיטלי, חשוב לבחון היטב את המידע שאנחנו צורכים, במיוחד אם הוא נראה מפתיע או קיצוני. אל תהססו לאמת מידע ממקורות נוספים, ותמיד זכרו, שלא כל מה שאתם רואים או שומעים הוא בהכרח אמיתי. עם זאת, אני אופטימי: ככל שנהיה מודעים יותר לטכנולוגיות כמו דיפ-פייק, כך נהיה מוכנים יותר להתמודד עם האתגרים שהן מציבות".