דו"ח של אונסק"ו: סירי, אלקסה ועוזרות קוליות מייצרות הטיה מגדרית

אנחנו מכנים אותן עוזרות קוליות, ולא עוזרים קוליים, בעיקר משום שלמרבית הישויות הווירטואליות מבוססות הבינה המלאכותית שמסייעות לנו יש קולות ושמות נשיים – אלקסה, סירי וקורטנה. אפילו ל-Google Assistant (או בשמה האחר Google Home), אשר לה שם ניטרלי אמנם, יש קול נשי כברירת מחדל. אבל, על פי דו"ח חדש שפורסם על ידי ארגון אונסק"ו – האמון על תחומי החינוך, המדע והתרבות מטעם האו"ם – יש להן גם אישיות נשית כנועה. מדוע?

התשובה, כך טוען הדו"ח של הארגון, היא היעדר כמעט מוחלט של נשים בצוותים הטכניים שפיתחו את השירותים הללו, וכלים דיגיטליים מתקדמים אחרים.

הייתי מסמיקה אם הייתי יכולה

הדו"ח של אונסק"ו נקרא "הייתי מסמיקה אם הייתי יכולה" (I’d Blush If I Could), וזוהי למעשה תגובה סטנדרטית שניתנת על ידי סירי – כשברירת המחדל של קול נשי היא שמוגדרת במצב העוזר הדיגיטלי של אפל – בתגובה לעלבונות ממשתמשים.

אונסק"ו מבקשים להפנות את תשומת הלב הציבורית (וכנראה גם את זו של המגזר הטכנולוגי) לכך שאמירות כמו זו של סירי הן מקור ליצירת תפישה של המין הנשי כ"חלש" וככנוע.

לפי הדו"ח, מלבד סירי, כל העוזרות הקוליות האחרות שהן "נקבות" מבטאות גם הן תכונות של כניעה, והתנהגויות מגדריות סטריאוטיפיות אחרות המובנות במוצרי הבינה המלאכותית, שאותן הגדיר אונסק"ו ככאלו המנציחות "אי-שוויון מגדרי במגזרי החינוך והטכנולוגיה".

אונסק"ו גם הדגיש את התגובות הפסיביות והנימוסיות שהעוזרות מספקות כאשר משתמשים מטיחים בהן הערות פוגעניות בעלות הקשר מיני, והזהיר מפני כך שהאלגוריתם שלהן מחזק גישות הטרוסקסואליות ולא פלורליזם מגדרי.

לפי הארגון, לעוזרות למיניהן אין כוח סמכותי להגיב על מה שהמשתמשים מבקשים מהן, ולכן הן "מכבדות פקודות ומגיבות לשאילתות, ללא התחשבות בנימתן או בעוינותן". אונסק"ו טוען כי בקהילות רבות הדבר מחזק את ההטיה המגדרית הנפוצה, שנשים הן סובלניות אל וכפופות ליחס לקוי".

לעזור יותר לנשים ולנערות לטפח מיומנויות דיגיטליות

הדו"ח מספק מספר המלצות ואלו כוללות הצעה להפסיק את הנוהג להעניק לעוזרים הדיגיטליים קול נשי כברירת מחדל; לתכנת את היישויות הווירטואליות העוזרות לנו כך שהדבר לא יעודד עלבונות סקסיסטיים ושפה פוגעת, ובמקביל – להמשיך לפתח ולקדם רכישת מיומנויות טכניות מתקדמות בקרב נשים ונערות, כך שהן יכולו לנווט את היצירה של טכנולוגיות חדשות לצד עמיתיהן, הגברים.

בהתחשב בצמיחה המואצת של תחום העוזרים הקוליים, אומר הדו"ח, יש צורך דחוף לעזור יותר לנשים ולנערות לטפח מיומנויות דיגיטליות. הארגון דיווח, כאמור, על היעדר ייצוג נשי משמעותי בצוותים המפתחים כלי AI – רק 12% מחוקרי תחום הבינה המלאכותית הן נשים, רק 6% ממפתחי התוכנה הן נשים, והסיכוי שנשים הן שירשמו פטנטים משלהן בתחום טכנולוגיית המידע והתקשורת הוא פי 13 נמוך יותר מהסיכוי שגברים יעשו זאת.

"מכונות צייתניות וכנועות שמתיימרות להיות נשים נכנסות לבתים שלנו, למכוניות ולמשרדים", אמרה סניה גולסר קורט, מנהלת שוויון בין המינים באונסק"ו. "הכניעה הקשה שלהן משפיעה על האופן שבו אנשים מדברים, ומספקת מודל לאופן שבו נשים מגיבות לבקשות ומבטאות את עצמן. כדי לשנות מסלול, אנחנו צריכים להקדיש תשומת לב רבה יותר לאיך, מתי והאם טכנולוגיות AI הן מגדריות, ובאופן מכריע, מי ממגדר אותן".