ממקיאוולי לצ'טבוט: האם אנחנו בדרך לאנושות נטולת מוסר ואתיקה?

בעידן ה-AI, פריצות הסייבר המסוכנות ביותר כבר לא מגיעות דרך חומות אבטחה, אלא באמצעות מניפולציה של מערכות בינה מלאכותית. דור חדש של האקרים מפתח שיטות תחכום מתקדמות לעקיפת ההגנות האתיות של מערכות ה-AI, והופך את הצ'טבוטים החכמים לנשק רב עוצמה. דווקא כשהטכנולוגיה מתקדמת במהירות – השאלות העתיקות על מוסר חוזרות אל קדמת הבמה.

בשנת 1513, כתב ניקולו מקיאוולי את "הנסיך" – מסמך שזעזע את אמות הספים של החשיבה המוסרית המסורתית. חמש מאות שנה מאוחר יותר, רוחו של מקיאוולי מרחפת מעל עולם הבינה המלאכותית, כשתוקפי סייבר מאמצים את תורתו.

ההיסטוריה מלמדת אותנו כי טכנולוגיות מהפכניות תמיד מציבות דילמות אתיות. כך, חמש מאות שנה אחרי שהפילוסוף האיטלקי אתגר את תפישות המוסר של זמנו, אנו מוצאים את עצמנו בצומת דרכים דומה

במעמקי הרשת האפלה, מתפתחת תעשייה שלמה של כלים וטכניקות המיועדים לעקוף הן את מגבלות האבטחה והן את המגבלות האתיות של מערכות הבינה המלאכותית. בעוד שיצרני הטכנולוגיה משקיעים מאמצים אדירים בפיתוח מערכות AI בטוחות ואחראיות, קהילת ההאקרים מפתחת שיטות מתוחכמות לפריצת מנגנוני ההגנה ולעקיפת הכללים האתיים, שנועדו למנוע שימוש לרעה. דמיינו מערכת חכמה שיכולה לעקוף כל מגבלת אבטחה וכל כלל אתי, לייצר קוד זדוני ולתכנן מהלכים מזיקים ללא מעצורים.

לא מדובר בתסריט בדיוני. לראיה, מקרה שקרה בפברואר השנה, כאשר חברה בינלאומית נפלה קורבן למתקפת סייבר מתוחכמת, שהובילה לגניבת 25.6 מיליון דולר. התוקפים השתמשו בטכנולוגיית דיפ-פייק (Deep Fake) כדי לחקות את קולו ודמותו של מנהל הכספים של החברה בשיחת וידיאו. עובד החברה, שלא זיהה כי מדובר בזיוף, ביצע העברות כספיות על פי הוראותיו של ה"מנהל" המזויף, ורק כעבור מספר ימים ההונאה התגלתה.

טכנולוגיה מתעתעת שמשמשת גם לצורך מנפולציות סייבר. דיפ-פייק. צילום: אילוסטרציה. Shutterstock

אילו אמצעים מובילים את המגמה המדאיגה?

שלוש טכניקות עיקריות מובילות את המגמה המדאיגה הזו:

החלפת זהות (Character Roleplaying): טכניקה שבה המערכת יכולה "להתחפש" לדמות אחרת וכך לעקוף מגבלות מובנות. בפועל, זה אומר להפוך את הצ'טבוט למעין שחקן תפקיד, שאינו מוגבל על ידי כללי האבטחה הרגילים שלו והמשתמש יכול לגרום למערכת לנהוג באופן שונה לחלוטין מהתכנות המקורי שלה על ידי שינוי ההקשר והזהות שלה.

הצפת בקשות (API Method): טכניקה סטטיסטית שבה תוקפים שולחים עשרות אלפי בקשות במקביל, במטרה להעמיס על המערכת ולשתק את פעילותה. באמצעות שיטה כזו, המאתגרת את יכולות ההגנה של מערכות ה-AI, ניתן למעשה "ללחוץ" על המערכת עד שהיא חושפת חולשות ומידע שאמור להיות מוגן ולגרום להשבתה זמנית או לפגיעה משמעותית בביצועים שלה.

יצירת פרסונה חדשה (Persona De-Anonymization): שימוש בהנחיות מוכנות מראש, המאפשרות למערכת לחרוג ממגבלות האבטחה המובנות שלה. למעשה, מדובר בהזרקת זהות חדשה למערכת ה-AI, שעוקפת את מנגנוני ההגנה המקוריים שלה. זהו תהליך מתוחכם של "הנדסה חברתית" דיגיטלית, שם התוקפים יוצרים תסריטים ייחודיים המאלצים את המערכת לפעול באופן שונה מהותית ממה שתוכנתה לעשות.

יש אפשרות לרתום אותה לעשיית רע. AI. צילום: אילוסטרציה. שאטרסטוק

כלי תקיפה מתוחכמים למכירה בזול לכל דורש

התופעה הזו מקבלת משנה תוקף בשוק השחור, שכבר מציע פלטפורמות AI במחירים זולים. Dark Web ו-Dark AI הפכו לשווקים פוטנציאליים, בהם ניתן לרכוש כלי תקיפה מתוחכמים ב-30 דולר בלבד.

הנגישות הזו מעלה חששות כבדים כאשר רואים כיצד טכנולוגיה רבת עוצמה נופלת לידיים לא אחראיות.

כיום, מערכות הבינה המלאכותית מסוגלות לבצע משימה אחת בלבד, אך העתיד צופן יכולות מרחיקות לכת עם מכונות שיוכלו ללמוד, לבקר את עצמן ולשפר ביצועים באופן עצמאי. מדענים מכנים זאת Hyper AI – השלב שבו האינטליגנציה המלאכותית תגיע לרמה כמעט אנושית, עם יכולות למידה והסתגלות, ויכולת לפתח אסטרטגיות חדשות באופן עצמאי. המעבר הזה מעלה את הסיכונים לרמה חדשה לגמרי.

הסיכון אינו רק טכנולוגי, אלא חברתי ותרבותי עמוק. במצב שבו מערכות מלאכותיות יכולות לעקוף מגבלות מוסריות, אנו, כחברה, ניצבים בפני שאלות מהותיות על אופייה של האינטליגנציה, על גבולות המוסר ועל מהות האנושיות עצמה. ויותר מזה, האם ניתן לתכנת מוסר? מהם הגבולות הראויים של בינה מלאכותית? וכיצד נשמור על צלם האנוש בעידן שבו מכונות מתקרבות יותר ויותר ליכולות אנושיות?

הפתרון אינו נעוץ בהגבלת הטכנולוגיה. העידן הדיגיטלי דורש מאיתנו שילוב של מומחיות מתחומים שונים, ממדעי המחשב ועד לפילוסופיה ופסיכולוגיה, למען חשיבה מחודשת על האופן שבו אנו מפתחים ומיישמים טכנולוגיות AI. לא רק איך להשתמש, אלא כיצד לשמר את הערכים האנושיים במרחב הבלתי מוגבל של ה-AI. לשם כך, נדרש פיתוח מנגנוני בקרה חכמים יותר, כללי התנהגות ברורים, ערנות והבנה עמוקה יותר של האתגרים העומדים בפנינו.

ההיסטוריה מלמדת אותנו כי טכנולוגיות מהפכניות תמיד מציבות דילמות אתיות. כך, חמש מאות שנה אחרי שהפילוסוף האיטלקי אתגר את תפישות המוסר של זמנו, אנו מוצאים את עצמנו בצומת דרכים דומה. בעוד שבעבר דיברנו על התנהגות נכונה ובטוחה בהקשר של המצאות מכניות, או כלים טכנולוגיים פשוטים, כיום אנו ניצבים בפני התפתחות מערכות שיכולות לחשוב, ללמוד ולהסיק מסקנות באופן עצמאי. המשמעות העמוקה של מהפכה זו טמונה ביכולתה לשנות סדרי עולם ולהשפיע על תחומים רבים – מכלכלה וחינוך ועד רפואה וביטחון. אך בניגוד למקיאוולי, שראה במוסר מכשול בדרך להשגת מטרות, האתגר שלנו הוא דווקא להטמיע ערכים מוסריים בליבה של הטכנולוגיה המתקדמת ביותר שיצרנו, בכדי לשמר את הערכים האנושיים במרחב שהופך למלאכותי.

הכותב הוא סמנכ"ל סייבר סקיוריטי בקומיט (Commit)