בגלל הטיות מגדריות גוגל נאלצה לשנות תכונת השלמות אוטומטיות ב-Gmail

בחודש מאי הכניסה גוגל לשירות המייל שלה תכונה חדשה שאפשרה למשתמשים להשלים משפטים באופן אוטומטי בזמן שהקלידו אותם להודעות הדוא"ל שלהם ושנקראת Smart Compose. אבל התכונה ה"חכמה" מבוססת הבינה המלאכותית של גוגל הראתה סימנים מדאיגים שהיא עמוסה בדעות קדומות בנושאי מגדר, גזע, מעמד וכדומה. גוגל הודיעה כעת כי היא משביתה חלק מהיכולות של התכונה, כיוון שהן כללו הטייה מגדרית

הענקית ממאונטיין וויו הסבירה על אופן הפעולה של התכונה ה"חכמה" שלה, שמסייעת לניסוח מהיר של אימיילים בהתבסס על התוכן של המיילים שהתקבלו, והרחיבה כיצד בכוונתה לגרום לאלגוריתם שלה כעת להיות יותר שוויוני בעבור כל המשתמשים, כך חשף רויטרס. על התכונה נאסר מעכשיו לספק הצעות השלמה שקשורות לכינויי מגדר במאמץ לעשות אותה יותר מכילה.

לכן, אם אתה תקלידו את המילים 'אני אוהב', ההשלמה החכמה יכולה להציע את המילים 'אותך' או 'את זה' בכדי להשלים את המשפט – אבל היא לעולם לא תציע לכם את האפשרות 'אותו' או 'אותה' יותר.

הסיבה לכך היא שגוגל חוששת כי הטכנולוגיה החדשנית שלה עלולה בטעות להעליב משתמשים על ידי כך שהיא מציעה להם השלמה שגויה מגדרית.

משקיע או משקיעה?

ועל אף שיש מי שבעיניהם מדובר בעניין לא מזיק, השלכות של טכנולוגיה מוטה ומבוססת דעות קדומות עלולות להיות משמעותיות. כך למשל, אחד המדענים של גוגל גילה בינואר שכשהקליד "אני פוגש משקיע בשבוע הבא", ההקלדה החכמה הציעה לחוקר שאלת מעקב אפשרית: "האם אתה רוצה לפגוש אותו?" במקום "אותה".

כדאי להזכיר כי באנגלית המילה investor מכוונת גם למשקיע זכר וגם למשקיעה נקבה, ולכן התכונה לא יכולה הייתה לדעת למי התכוון המקליד, אבל מאידך עשתה את ההשלכות על בסיס הביג דטה שממנו היא לומדת והסיקה שמדובר בגבר. אולי כי כאלו הם מרבית המשקיעים. אבל לא רק שהשלמה שכזו יכול לייצר מצבים מביכים, היא גם מחזקת סטריאוטיפים מיושנים ולא ראויים, שעלולים לגרום למשתמשים מסוימים להרגיש שהטכנולוגיה מתנכרת להם.

אז, גוגל החליטה לשנות זאת ידי הסרת כל זכר לשפה מגדרית מה-Smart Compose שלה.

אבל מכיוון שבינה מלאכותית לומדת, כאמור, ממאגרי מידע עצומים שמבוססים על מה שבני האנוש כותבים כעניין שבשגרה, נדמה שיש לגוגל עדיין הרבה עבודת התאמה וניקוי בפניה, כמו למשל להסיר השלמות שמעידות על הטיה מעמדית או גזעית, כמו גם את ההשלמה האוטומטית של מנוע החיפוש שלה, שבעבר התגלו בו לא מעט השלמות אנטישמיות, למשל.