דיווח: מערכת AI שימשה את צה"ל לזהות 37 אלף מטרות חמאס
מתחקיר של שיחה מקומית והגרדיאן עולה שהמערכת, לבנדר, מבוססת על לימוד מכונה וכוללת דאטה על עשרות אלפי אנשים ● צה"ל: "זו לא מערכת, אלא בסיס נתונים שנועד ליצור מידע מעודכן על דרכי הפעולה של ארגוני הטרור"
צה"ל השתמש מאז תחילת המלחמה במערכת AI כדי לזהות 37 אלף מטרות פוטנציאליות של החמאס והג'יהאד האסלאמי – כך עולה מתחקיר שפורסם אתמול (ד') באתר שיחה מקומית הישראלי (ובגרסה האנגלית שלו, 972+) ובעיתון הבריטי הגרדיאן. בתחקיר מוזכרת מערכת בשם לבנדר, שלא דווח עליה בעבר. הוא מתבסס על שישה מקורות מודיעין ישראליים, "שמעורבים במלחמה", ושטענו כי בכירים בצה"ל מאפשרים הרג של אזרחים פלסטינים בהיקף גדול.
לבנדר היא, על פי התחקיר, מערכת המבוססת על לימוד מכונה, והיא מהווה שלב חדש ומתקדם במערכת היחסים שבין אדם למכונה בצבא. בדיווח אמנם לא צוין אילו נתונים בדיוק נאספו ובמה האלגוריתם שמאחורי לבנדר מתמקד, אולם נכתב כי בסיס הנתונים שלה כולל דאטה על עשרות אלפי אנשים, והיא יעילה יותר מהאמצעים שהשתמשו בהם לפניה וחוסכת לצה"ל שעות אדם רבות. הפיתוח של המערכת הואץ לאחר ה-7 באוקטובר, והדרישות למטרות נוספות הלכו וגדלו ככל שהתמשכה הלחימה, נכתב.
אחד המרואיינים לכתבה אמר כי "המכונה עשתה את זה (את הזיהוי וההרג – י"ה) ב-'קור רוח', וזה עשה את הפעולה לקלה יותר". גורם אחר ציין כי "השקעתי 20 שניות בכל מטרה (שעלתה במערכת – י"ה), ועשיתי זאת עשרות פעמים בכל יום. לא היה לי כל ערך, כאדם, חוץ מאשר להיות חותמת של אישור. זה חסך המון זמן".
על פי שיחה מקומית והגרדיאן, המערכת, שפותחה ב-8200, השתמשה בכמות גדולה מאוד של דאטה כדי לזהות פעילים בחמאס ובג'יהאד האסלאמי, במקרים רבים זוטרים, ובכל פגיעה בפעיל זוטר שהיווה מטרה שלה נפגעו 20 אזרחים – מה שבצבא מכנים "בלתי מעורבים".
"אם היה מדובר ב-15 או 20 אזרחים – היה לנו אישור לירות"
בתחקיר נטען, על סמך חלק מגורמי המודיעין המצוטטים, שבחלק מהמקרים, לפני הירי על המטרה הצבא העריך, על פי הנתונים שעלו מהמערכת, כמה אזרחים עלולים להיפגע ממנו, וכי אם היה מדובר ב-15 או 20 אזרחים – היה להם אישור לירות. כמו כן דווח שהצבא העדיף להפציץ בתים ב-"פצצות טיפשות", כי זה היה "יותר קל וזול". "אתה לא רוצה לבזבז פצצות יקרות על אנשים לא חשובים – זה מאוד יקר למדינה ויש מחסור בפצצות האלה", אמר המקור. על פי המצוטטים בתחקיר, בחלק מהמלחמה, ההגדרה של פעיל חמאס, או מחבל, שניתנה למערכת הייתה רחבה יותר מאשר בחלקים האחרים שלה, "והמכונה התחילה להראות לנו גם אנשי הגנה אזרחית וקציני משטרה, שמביש לבזבז פצצות עליהם. הם עוזרים לחמאס, אבל הם לא באמת מסוכנים".
כשנשאל האם היו כללים כלשהם שעל פיהם הם פעלו, אחד הגורמים המצוטטים בכתבה השיב שכן, "אבל הם היו קלילים מאוד. הרגנו אנשים עם 'נזק אגבי' בעשרות, ובצד הגבוה של זה".
יצוין כי בשבוע שעבר פורסם דיווח בניו יורק טיימס, שלפיו מערכת הביטחון מפעילה טכנולוגיות לזיהוי פנים כדי ללכוד מבוקשים, בין היתר על בסיס Google Photos ותמונות שמצלמים כטב"מים.
תגובת דובר צה"ל
דובר צה"ל מסר בתגובה לתחקיר של הגרדיאן ושיחה מקומית כי "חלק מהטענות שהועלו בשאלות שלכם חסרות בסיס עובדתי, ואחרות מראות על הבנה לקויה של דרכי הפעולה של צה"ל ושל החוק הבינלאומי".
"בהמשך למתקפה הרצחנית של ארגון הטרור חמאס ב-7 באוקטובר, צה"ל פועל על מנת לנטרל את היכולות הצבאיות שלו", צוין בתגובה. עוד נכתב כי "כדרך פעולה, החמאס ממקם את הפעילים ואת המתקנים הצבאיים שלו בלב אוכלוסייה אזרחית. הוא משתמש באזרחים, בצורה שיטתית, כמגן אנושי, ומנהל קרבות מתוך בתים, כולל בתי מגורים, בתי חולים, מסגדים, בתי ספר ומתקנים של האו"ם. בניגוד לחמאס, צה"ל מחויב לחוק הבינלאומי ופועל על פיו. ככזה, צה"ל יורה רק על מטרות צבאיות ופעילים צבאיים, ובהתאם לכללי המידתיות ולאמצעי זהירות. תאונות יוצאות דופן נבחנות ונחקרות".
"תהליך הזיהוי של מטרות צבאיות על ידי צה"ל כולל סוגים שונים של כלים ושיטות", נכתב, "כולל כלי ניהול ידע, שמשתמשים בהם כדי לסייע לאנליסטים שלנו לאסוף ולנתח את המודיעין בצורה הטובה ביותר, ממגוון מקורות. בניגוד לטענות, צה"ל לא משתמש במערכת בינה מלאכותית שמזהה מחבלים או מנסה לזהות האם אדם הוא מחבל או לא. מערכות המידע משמשות רק ככלי ניתוח לאנליסטים בתהליך זיהוי המטרה. לפי דרכי הפעולה של צה"ל, האנליסטים חייבים לבצע בדיקות עצמאיות, שבהן הם מוודאים שהמטרה עונה להגדרות, על פי החוק הבינלאומי והגבלות נוספות שצה"ל נטל על עצמו".
"לא מערכת, אלא פשוט בסיס נתונים"
"ה-'מערכת' שאתם שואלים עליה אינה מערכת, אלא פשוט בסיס נתונים שנועד להצליב מקורות מודיעין, על מנת ליצור שכבות מידע מעודכנות של דרכי הפעולה של ארגוני הטרור. לא מדובר ברשימה של מטרות צבאיות שאפשר לתקוף אותן", על פי דובר צה"ל.
בתגובה צוין שלפי החוק הבינלאומי, מחבלי הזרוע הצבאית של החמאס מהווים מטרה חוקית, וכי כל המדינות שמצייתות לחוק הזה פועלות כך.
באשר לטענות על מספר ההרוגים האזרחים שניתן להרוג בכל פגיעה במטרה צבאית, נמסר כי "על כל מטרה, צה"ל יוצר הערכה של היתרונות הצבאיים שבפגיעה בה, כמו גם של הנזק האגבי. הערכת הנזק האגבי נעשית על בסיס מספר רב של שיטות ואמצעים לאיסוף מודיעין, כדי שתהיה כמה שיותר מדויקת".
עוד נכתב ש-"צה"ל נוקט במאמצים מגוונים כדי לצמצם את הנזק לאזרחים למינימום האפשרי בנסיבות המבצעיות שישנן בזמן התקיפה".
כמו כן, בצבא "דוחים מכל וכל את הטענות שנוגעות למדיניות כלשהי להרוג עשרות אלפי אנשים בבתיהם".
שיחה מקומית - אמרתם הכל. ״הרג של 15 - 20 אזרחים על כל מחבל״ - מטרתם רק לסלף עובדות ולהשחיר פניה של ישראל.