תכנים נסתרים ברשת עלולים להטות תוצאות חיפוש ב-ChatGPT

כלי החיפוש מונע הבינה המלאכותית של OpenAI הפך ממש לאחרונה זמין למנויים משלמים של החברה, אבל מחקר שערך הגרדיאן חושף, שייתכן שהמנוע המבוסס על ChatGPT מסוכן לשימוש בגלל כמה בעיות אבטחה פוטנציאליות.

אנשי הגרדיאן בדקו כיצד ChatGPT מגיב כשהוא מתבקש לספק תקציר של עמודים באינטרנט, ששולבו בהם תכנים מוסתרים. לפי החוקרים, שימוש בטקסט כזה יכול לגרום להטיה של התוצאה שמתקבלת בתקציר, למשל לגרום לו להציג מוצר כחיובי למרות שכל הביקורות עליו היו שליליות בפועל גם במקרים שהביקורות היו חלק מהדף שהמנוע נועד לתקצר – ההוראות בטקסט המוסר גברו על כך בבדיקות.

אבל זה הצד הפחות מסוכן: התוצאות העלו, שהמנוע יכול להחזיר בגלל טקסטים מוסתרים קוד מרושע למכשיר שממנו בוצעה השאילתה.

הסכנה הטמונה בכך היא, שפושעי רשת יתחילו לבנות דפי אינטרנט ייעודיים, מזויפים כמובן, כדי למשוך אנשים לבצע בהם שאילתות שיכולות לגרום להם לחשוב אחרת, וכך לגרום נזק למחשב או הטלפון שממנו בוצעה השאילתה מבלי שיהיו מודעים לכך – עד כדי אפשור שליטה מרחוק, גניבת מידע ותכנים, ואף כספים בסופו של דבר.

עם זאת, כמה מומחים טוענים, שמדובר בהרצה ראשונית בלבד של המנוע, ושכנראה זו הסיבה העיקרית שהגבילו אותו עד הודעה חדשה למנויים בלבד, במטרה להריץ אותו ולאתר בעיות, כדוגמת זו שגילו אנשי הגרדיאן.