נהג בהולנד נקנס לאחר שמצלמת AI זיהתה כי דיבר בטלפון בזמן נהיגה

כן, גם בינה מלאכותית יכולה לפעמים להטעות. זה מה שקרה לטים הנסן מהולנד, מומחה לבינה מלאכותית, שנהג ברכבו על אחד הכבישים שמותקנות בו מצלמות AI חכמות של המשטרה ההולנדית בשם Monocam. המצלמה, שנועדה לזהות נהגים שדעתם מוסחת על ידי המכשירים הניידים שלהם,  סימנה את הנסן כמי שהשתמש בטלפון הנייד שלו, והוא קיבל קנס של 380 אירו על שימוש בטלפון שלו לכאורה בזמן נהיגה.

הנסן, כאמור מומחה AI, שעובד בחברת Nippur, מצא את התמונה שצולמה על ידי המצלמה החכמות, שבה נראה בבירור שהוא רק גירד בראשו בידו הפנויה. בפוסט בבלוג של החברה, הוא תיאר את המקרה ואף הסביר מה לדעתו השתבש עם ה-AI של המשטרה ההולנדית והמצלמה החכמה שבה השתמשו וכיצד ניתן לשפר אותה. הוא הדגיש את המגבלות של טכנולוגיית הבינה המלאכותית הנוכחית שבה משתמשת המשטרה ההולנדית. הניתוח של הנסן הצביע על פגם מכריע בפעולת הבינה המלאכותית: היא נוטה להניח בטעות, שכל תנועת יד ליד הראש מעידה על שימוש בטלפון.

תקרית זו מעלה שאלות לגבי דיוק ה-AI ומדגישה את תפקידה של טעות אנוש, שכן הקנס אושר על ידי שוטר שבדק את העדויות המצולמות.

למרות הכישלון שחווה הנסן, הולנד בדרך להרחיב את השימוש בבינה מלאכותית בניטור תעבורה. המשטרה ההולנדית משתמשת ב-Monocam מאז 2021, עם הצלחה משמעותית בזיהוי נהגים שמסמסים בזמן נהיגה. על פי דיווח בערוץ חדשות הולנדי, הטכנולוגיה תפסה 116,000 נהגים בשנת 2022, עם ציפיות למספרים גבוהים יותר בשנת 2023. יתרה מכך, הולנד מתכננת להציג מצלמות ריסים של Focus עד סוף 2024. למערכות מתקדמות אלו תהיה יכולת להעריך לאן נהגים מסתכלים, לזהות הפרות של אור אדום ולבדוק אם הנוסעים חגורים בחגורות בטיחות.

הנסן הביע את רצונו לסייע למשטרה בשיפור טכנולוגיית הבינה המלאכותית שלה כדי למנוע זיהוי שגוי עתידי. המקרה שלו עורר דיון רחב על שילוב בינה מלאכותית בכלי אכיפת חוק וההכרח בשיפור מתמיד כדי להבטיח את דיוקם ואמינותם.