בטוויטר מתנצלים על אלגוריתם שבחר תמונות לתצוגה באופן "גזעני"

טוויטר (Twitter) בוחנת טענות לפיהן האלגוריתם שלה, הבוחר בתמונת תצוגה מקדימה לתמונה גדולה המוצמדת לציוצים, מוטה גזעית. החברה כבר הביעה התנצלות על הדברים, שמושכים אליה כעס, במיוחד בעידן שבו תנועת BLM כה דומיננטית, ושגזענות ויחס לא שוויוני והוגן כלפי מי שאינם בהירי עור נמצאים בלב העיסוק הציבורי בעולם המערבי.

הכל החל כשכמה ממשתמשי הרשת החברתית המצייצת הבחינו בתופעה, שלטענתם מתבטאת בכך שכלי החיתוך מבוסס האלגוריתם מעדיף פנים לבנים על פנים שחורים. משתמשי טוויטר שחשדו בקיום התופעה ערכו ניסויים שונים, שאכן הצביעו על כך שהאלגוריתם של הרשת החברתית מוטה גזעית בתעדוף התמונות שהוא מבצע.

אחד המשתמשים הדגים כיצד כשצירף לציוצים שהעלה לפלטפורמה תמונות של נשיא ארה"ב לשעבר, ברק אובמה, ושל מיטש מקונל – סנטור מטעם מדינת קנטקי, ומנהיג סיעת הרוב הרפובליקנית בסנאט מאז 2015 – נראה בבירור שהאלגוריתם של טוויטר בחר להציג דווקא את פניו של מקונל. יתרה מכך, אובמה צץ בתמונה המקדימה רק כאשר המשתמש הפך את הצבעים בתמונה שלו לנגטיב – מה שהפך את צבע העור של השניים ללא רלוונטי בעבור האלגוריתם.

Trying a horrible experiment…

Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia

— Tony “Abolish (Pol)ICE” Arcieri ? (@bascule) September 19, 2020

Let's try inverting the colors… (h/t @KnabeWolf) pic.twitter.com/5hW4owmej2

— Tony “Abolish (Pol)ICE” Arcieri ? (@bascule) September 19, 2020

אותה תופעה מטרידה גם בדמויות מצוירות וחיות

כמה וכמה משתמשים פרסמו עוד הוכחות שבהן ניכר כי בתמונות שבהן מופיעים אנשים עם צבעים שונים, טוויטר בוחרת להציג את בעלי העור הבהיר יותר, לאחר חיתוך התמונות כך שיתאימו לפרמטרי התצוגה שלה באתר ובהטבעות של הציוצים באתרים אחרים (embeds). המשתמשים שתלו במכוון תמונות מאורכות שבחלק האחד שלהן מופיע אדם בהיר ובאחר – כהה עור (לחצו על התמונה המופיעה חתוכה בציוץ כדי לראות את התמונה לפני החיתוך). חלק מהמתקוממים הסקרנים אפילו ניסו לבחון את הדבר עם דמויות מצוירות, למשל מהסדרה "משפחת סימפסון", ושתלו בציוץ תמונה מולחמת של הקולגות של הומר מהמפעל, לני לאונרד הבהיר (אם כי צהוב) ושל חברו הטוב קארל קארל קארלסון השחור. האלגוריתם בחר גם במקרה הזה בבעל העור הבהיר. מעניין לציין כי גם במקרה של צילומי כלבים האלגוריתם העדיף את הכלב הלבן על פניו של הכלב השחור.

I wonder if Twitter does this to fictional characters too.

Lenny Carl pic.twitter.com/fmJMWkkYEf

— Jordan Simonovski (@_jsimonovski) September 20, 2020

טוויטר נוהגת כבר מזה זמן לחתוך תמונות באופן אוטומטי, כדי למנוע מהן לתפוס יותר מדי מקום בפיד הראשי, ולאפשר הצגת תמונות מרובות באותו ציוץ. החברה משתמשת בכמה כלים אלגוריתמיים כדי לנסות להתמקד בחלקים החשובים ביותר בתמונה, ומנסה להבטיח שפנים של אנשים כמו גם הטקסט יישארו בחלק החיתוך של התמונה.

הסיבה לבחירת האלגוריתם דווקא בפנים הלבנים אינה ברורה. דובר טוויטר התייחס לדברים ואמר כי "הצוות שלנו בדק הטיה לפני קביעת המודל, ולא מצא ראיות להטיה גזעית או מגדרית בבדיקה שלנו. אבל מהדוגמאות האלה ברור שיש לנו יותר ניתוחים לעשות". הדובר הבטיח כי טוויטר תמשיך לשתף את מה שתלמד, אילו פעולות היא מבצעת, וכן תפתח בקוד פתוח את הניתוח שלה כדי שאחרים יוכלו להכיר את הממצאים ואף לעשות שימוש בקוד העדכני.