מלכודת AI: תוכנה חדשה ל"לכידת" בוטים
מפתח המכונה Aaron B, יצר כלי בשם Nepenthes, המייצר אינסוף דפי אינטרנט כדי להטעות בוטים של בינה מלאכותית ● האם הכלי יהיה יעיל במאבק נגד זליגת מידע?
![כלי חדש מערים עליהם ומחבל בפעולתם. בוטי ה-AI.](https://www.pc.co.il/wp-content/uploads/2025/01/shutterstock_1369969424-1.jpg)
מפתח בשם Aaron B, שקצה נפשו בבוטים הסורקים את האתרים והקוד שלו כדי להשתמש בהם לצורך אימון מודלי בינה מלאכותית יוצרת, יצר תוכנה קטנה שמטרתה לגרום לבוטים לבזבז זמן ומשאבים ולא להפיק את התוצאות שהם רוצים.
הוא קרא לתוכנה Nepenthes ('כדנית' בעברית) – על שם הצמח הטורף שמספק 'מלכודת דבש' כדי ללכוד את המזון שלו – וברגע שהיא מזהה סריקה של בוט אימון, היא מתחילה להפיק עשרות דפי אינטרנט באופן אקראי, כדי לבלבל את הבוט.
כל דף כזה מכיל מעט טקסט בהקשר כלשהו, כמה שורות בלבד, ולאחר מכן הדף יוצר רשימה של קישורים שמפנים את הסורק לעוד ועוד דפים כאלה עם עוד קישורים לא אמיתיים שמפנים לעוד דפים כאלה, וכך הלאה.
הדפים נוצרים באיטיות כדי לגרום לבוטים לחשוב שמדובר בדפים קבועים ברשת, שאינם משתנים, כך שלכאורה הם מכילים מידע רלוונטי לאימון – למרות שמבחינת נתונים מדובר בנתוני זבל שצרך לפנות מאגם הנתונים בסופו של דבר, כי אחרת הם יכולים לפגוע ב-LLM הסופי.
ניתן להשתמש בכלי באופן הגנתי כדי להציף כתובות אתרים חוקיות באתר, כדי למנוע מבוטים לגשת לתוכן אמיתי, או באופן פוגעני – על ידי הזנתם בכמות גדולה מאוד של נתונים חסרי תועלת. "בקיצור, לתת להם לשאוב שטויות עבור שטח הכונן שזמין עבורם ואז להיחנק", אמר Aaron B, שכינה את הכלי שלו 'סדיסטי'.
תגובות
(0)