AWS מקפיאה לשנה שימוש של משטרות בטכנולוגיית זיהוי הפנים שלה

עוד הצלחה למחאת האפרו-אמריקנים בארה"ב, בעקבות רציחתו של ג'ורג' פלויד בידי שוטרים לבנים במינאפוליס: אנדי ג'סי, מנכ"ל AWS, הודיע על הקפאה למשך שנה של שימוש משטרות בארה"ב ב- Amazon Rekognition – שירות זיהוי הפנים של החברה.

בפברואר השנה אותו ג'סי הגן על השימוש של גורמי אכיפת החוק בשירות זיהוי הפנים, אולם ההפגנות הצוברות תאוצה בשבועיים האחרונים של תנועת Black Lives Matter נגד התנהגות המשטרה, גרמו לו לשנות את דעתו ולהודיע על ההקפאה של השימוש בשירות מבוסס הבינה המלאכותית על ידי שוטרים.

בפוסט קצר בבלוג החברה, שלא נשא חתימת מחבר, אמזון אמרה שהיא תרצה לראות חוקים אשר מגנים מפני שימוש לרעה בטכנולוגיה. טכנולוגיות זיהוי פנים מבוססות בינה מלאכותית הן נושא שנוי במחלוקת, בשל שתי סיבות: החשש מפני פגיעה בפרטיות המזוהים, והעובדה שהטכנולוגיה מקלה על עריכת פרופיל גזעי.

"דגלנו בכך שממשלות צריכות לנקוט ברגולציות נוקשות ומחמירות יותר, כדי לערוך בקרה ולשלוט בשימוש האתי בטכנולוגיית זיהוי פנים", נכתב בבלוג AWS. "בימים האחרונים נראה כי הקונגרס מוכן להתמודד עם אתגר זה. אנו מקווים כי ההקפאה לשנה שעשינו לשימוש בטכנולוגיה על ידי שוטרים, תיתן לקונגרס מספיק זמן ליישם חוקים וכללים מתאימים, ואנחנו מוכנים לעזור אם הדבר יתבקש".

ענקית הענן הוסיפה כי תמשיך להתיר שימוש בטכנולוגיה שלה לארגונים הנאבקים בעבדות ובסחר העולמי בבני אדם, כמו גם במקרים של ילדים נעדרים.

תכונת זיהוי הפנים. אילוסטרציה: ליה קולטירינה, BigStock

בכנס AWS re: Invent בנובמבר 2016, ענקית הענן הציגה את Rekognition, שירות היכול לאתר אובייקטים בתמונה, לזהות אנשים, לערוך התאמות בין פרצופים ואפילו לבצע ניתוח סנטימנטים, משמע לקבוע אם האדם בתמונה מחייך או מזועזע. בסרט של התכנית "פרונט-ליין" ברשת הציבורית האמריקנית PBS על הנושא, ששודר בפברואר השנה, ג'סי הגן על השימוש של גורמי אכיפת החוק במוצר הטכנולוגי החדשני. "אנו מאמינים כי ממשלות והארגונים המופקדים על שמירת הקהילה שלנו חייבים לקבל גישה לטכנולוגיה המודרנית המתוחכמת ביותר שקיימת", אמר ג'סי לתוכנית הטלוויזיה. אנשי התכנית הביעו בפניו את החששות כי Rekognition הגיעה לשוק בטרם הייתה מוכנה לכך, וכי "המשטרה ערכה ניסויים עם השירות החדש על הציבור – ועשתה זאת מטעם החברה", בלא כל רגולציות ברורות המסדירות את השימוש בה. בתגובה אמר ג'סי כי הוא מקדם בברכה רגולציה של הממשלה לתחום.

"מעולם לא קיבלנו דיווח על שימוש לרעה שנעשה בטכנולוגיה שלנו על ידי גורמי אכיפת החוק", אמר ג'סי. "אני חושב שמתקבלת הרבה תועלת לקהילה בשל שימוש בטכנולוגיית זיהוי פנים. ראינו כבר מאות ילדים שהיו נעדרים, וכעת בשל השימוש בטכנולוגיה, הם התאחדו מחדש עם הוריהם. מאות קורבנות סחר בבני אדם ניצלו. לטכנולוגיה יש כל מיני שימושים, בעולמות האבטחה, הזיהוי והחינוך. בסופו של יום, האנשים המשתמשים בכל טכנולוגיה צריכים להיות אחראים על השימוש בה. ואם הם משתמשים בה בצורה לא אחראית, עליהם לתת את הדין ולשלם את המחיר על כך", קבע. ג'סי אמר כי הרוב המכריע של מחלקות המשטרה משתמשות בטכנולוגיה לפי ההנחיות שנקבעו באמזון. "והיה אם לאו, יש לנו דיאלוג עימן, ואם נגלה שהן משתמשות בטכנולוגית זיהוי הפנים בצורה לא אחראית – לא נאפשר להן להשתמש בשירות ובפלטפורמה שלנו".

הפליק-פלאק לאחור של ג'סי מגיע ימים מעטים לאחר שיבמ הודיעה כי לא תציע יותר תוכנות לזיהוי פנים וניתוחים הקשורים לתחום. במכתב לקונגרס האמריקני, ארווינד קרישנה, המנכ"ל החדש של יבמ, קרא ל-"מאמצים חדשים למרדף אחר צדק ושוויון גזעי".

"החברה תפסיק להציע תוכנה לזיהוי פנים, והיא מתנגדת לכל שימוש בטכנולוגיה שכזו למטרות פיקוח ומעקב על ההמונים ובניית פרופיל גזעי", כתב קרישנה. הוא קרא לחקיקת חוקים פדרליים חדשים ש-"יביאו לכך שהמשטרה תנהג ביותר אחריות על התנהגות בלתי הולמת". הוא ציין כי "כעת הגיע הזמן להתחיל שיח לאומי בשאלה האם וכיצד צריך להשתמש בטכנולוגיית זיהוי פנים על ידי גורמי אכיפת החוק".