מסמכי פייסבוק מגלים: החברה מסכנת ביודעין את המשתמשים

קונסורציום של 17 כלי תקשורת אמריקנים החל לפרסם השבוע (ב') סדרת מסמכי פייסבוק פנימיים שהודלפו בידי חושפת השחיתות פרנסיס האוגן – עובדת החברה לשעבר שהחליטה להוציא לאוויר העולם את מה שלמדה בזמן היותה חלק מחברת הענק העוצמתית.

האוגן שמה ידה על מספר רב של מסמכי חברה שעוסקים בתחומים שונים. אלו חושפים, בין היתר, את אזהרות העובדים על טעויות של פייסבוק בנוגע לטיפול בתכנים. כמו כן, המסמכים מדגישים את הנזק הפוטנציאלי, כמו גם הקיים והריאלי, שפייסבוק גורמת למשתמשיה.

הדיווחים הללו התפרסמו על ידי בלומברג, The Verge, רויטרס והוושינגטון פוסט, בין השאר, ומציגים תמונה כוללת ומאוד לא מחמיאה לתדמיתה של חברת הענק, שניסתה ומנסה שוב ושוב לתעדף את הדומיננטיות והיתרונות שלה על פני בטיחות או רווחת המשתמשים.

בנוסף, מהמסמכים עולה כי מארק צוקרברג, מנכ"ל החברה, היה מודע לכך שהפלטפורמה שימשה להגברת מה שמכונה דיבור שנאה, וזאת על אף שהעיד אחרת לגמרי כשהתייצב לחקירה בפניי הקונגרס האמריקני. לפי התקשורת, כל ההנהגה הבכירה של החברה ידעה שהבעיה חמורה בהרבה ממה שפייסבוק הודתה בו בפומבי.

עוד ניתן היה ללמוד משפורסם באחרונה כי הרשת החברתית הדומיננטית מסירה רק 5 אחוזים מהתוכן הקשור לדיבור שנאה, וכי המנהלים ידעו שהרשת החברתית מקטבת את היחסים בין בני אדם אך לא נקטו בפעולה מספק, או כמעט שלא עשו דבר לכאורה, כדי למגר את התופעה או לפחות לצמצם אותה.

במקביל, פוסטים מראים כי בשלבים המוקדמים של מגיפת הקורונה צוקרברג עמד גם מאחורי ההחלטה שלא לנקוט בצעדים דרסטיים יותר נגד מידע מוטעה הקשור לנושא הנפיץ.

פרנסיס האוגן בתכנית 60 דקות. צילום מסך צילום: צילום מסך

הזנחת המדינות המתפתחות והשפות שאינן אנגלית

לפי סוכנות הידיעות AP, הנתונים שאספה האוגן מראים שפייסבוק "הבינה את עומק הפגמים במשך שנים, תוך שהיא עושה מעט בנידון". בהקשר זה, הסוכנות מדגישה כי "בכמה מהאזורים הכי לא יציבים בעולם, תוכן טרור והסתה לשנאה הולכים ומתרבים, כאשר לחברה ממשיך להיות מחסור בסוקרי תוכן הדוברים שפות מקומיות ומבינים את ההקשר התרבותי".

רויטרס דיווח על מסמכים המראים שפייסבוק הזניחה מספר מדינות מתפתחות – כמו למשל את אתיופיה שבה מתנהלת ממש מלחמת אזרחים כיום – ואפשרה לתכנים אלימים וקיצוניים מטעם תושביהן וגורמי עניין להתפרסם בפלטפורמה בלי צנזורה כמעט.

הדבר נבע בעיקר משום כוח אדם מצומצם של סוקרי תוכן שיודעים את השפה, שמסוגלים לבצע הערכת ההקשר התרבותי ולפעול באופן אפקטיבי בנידון. "התוצאה היא שלחברה יש אמון בלתי מוצדק במערכות הניהול האוטומטיות שלה, שאינן יעילות במדינות שאינן דוברות אנגלית", סיכמו ב-Engadget את המסקנות הנגזרות מהמידע שנחשף.

פייסבוק הגיבה לטענות כי לא היו לה הכלים לזהות דברי שטנה בשפות האתיופיות, אורומו או אמהרית, והצהירה כי היא פועלת להרחבת צוות ניהול התוכן שלה.

המסמכים מאשרים גם שמבחינה טכנית יש לפייסבוק מגרעות שהיא מודעת אליהן ושגורמות נזקים למשתמשיה. לפי החשיפה, בחברה נעשה ביודעין שימוש באלגוריתמי תיווך אוטומטיים לא מספיק איכותיים, שבמקרים רבים מפרשים בטעות פוסטים של משתמשים. "יישמנו את התוכן האנטי-טרוריסטי בצורה לא נכונה בערבית", נכתב במסמך שבו מוזכר שהמערכת הנוכחית "מגבילה את המשתמשים להשתתף בשיח הפוליטי על ידי מניעת זכותם לחופש הביטוי".

ל"הזנחה" הזו של מדינות מתפתחות בשל "חיסכון" בגיוס כוח אדם מקומי המתאים לסקירת התכנים יש לעיתים תוצאות הרסניות-עד-קטלניות. כך למשל, כשזוג חוקרי פייסבוק יצרו חשבון דמה ב-2019 כדי לבדוק איך משתמשים בקרלה, הודו, חוו את אתר המדיה החברתית, הם מצאו כמות מדהימה של דברי שטנה, מידע מוטעה וקריאות לאלימות בפלטפורמה, כך דיווח הטיים. "ראיתי יותר תמונות של אנשים מתים בשלושת השבועות האחרונים ממה שראיתי בכל חיי", כתב החוקר.

מכיוון ש-340 מיליון משתמשי פייסבוק הם הודים, מדובר למעשה בשוק הגדול ביותר של החברה, אך הוא לא זוכה למענה הולם לצרכיו, או כמעט שלא זוכה בכלל להתייחסות החברה לנושאים הטעונים במדינה.

עוד ניתן ללמוד ממחקרים של עובדי פייסבוק, שהחברה פשוט עוברת למדינות מבלי להבין את ההשפעה הפוטנציאלית שלה על קהילות מקומיות, במיוחד בכל הקשור לתרבות ופוליטיקה, ולאחר מכן לא מצליחה לספק משאבים מתאימים כדי למתן את ההשפעות הללו.

התיעוד שנחשף ממש הדגים באופן כללי כיצד הבינה המלאכותית שמזינה את האלגוריתם של פייסבוק, שעליו היא מסתמכת כנראה כדי למתן תוכן בשפות זרות, לא מצליח לזהות במדויק תוכן מסוכן שאינו באנגלית.

כך למשל עולה מהמסמכים שהאלגוריתם של פייסבוק אסר בטעות האשטאג המתייחס למסגד אל-אקצא בעיר העתיקה בירושלים, משום שחשב שהוא מייצג את הקבוצה המיליטנטית שנקראת חללי אל-אקצא – שלוחה חמושה של מפלגת הפתח.

החברה התנצלה מאוחר יותר, אך הסרה בשוגג של תוכן משמשת דוגמה מעולה לאופן שבו האלגוריתמים של ענקית המדיה החברתית יכולים לחנוק דיבור פוליטי בשל מחסומי שפה ומחסור בהקצאת משאבים מחוץ לצפון אמריקה.

האוגן, שהעידה גם בפני מחוקקים בריטים, אמרה ש-"פייסבוק אומרת דברים כמו, 'אנחנו תומכים ב-50 שפות', כאשר במציאות, רוב השפות הללו מקבלות חלק קטן ממערכות הבטיחות שמקבלת האנגלית". היא אף הוסיפה וציינה כי האנגלית בבריטניה שונה מזו האמריקנית מספיק כדי ש"לא אתפלא" אם מערכות הבטיחות שפותחו בעיקר עבור ארה"ב לא היו הולמות אפילו לבריטניה.

בעיתות בחירות – פיקוח כמעט הכי קפדני דווקא על ישראל. צילום: BigStock

ישראל – השנייה בסדר העדיפות למיתון תוכן בפייסבוק

The Verge נשען על מסמך שחשפה האוגן ובו נחשף כי הענקית ממאנלו פארק מתמקדת רק במעקב אחר כמה מדינות מפתח, בעיקר סביב תקופות בחירות.

המגזין ציטט דוגמה אחת ממסמכי פייסבוק פנימיים המתארים צוות של החברה שנפגש בסוף 2019 כדי לדון כיצד להשתמש בצורה הטובה ביותר במשאבי מיתון התוכן לקראת הבחירות הגדולות שהתקרבו בכמה מדינות.

מתברר כי לקראת הבחירות בהן ארה"ב, ברזיל והודו קיבלו "דרג אפס" (tier zero), המזכה את הפלטפורמות שלהן במירב המשאבים ובפיקוח המתמיד והיזום ביותר מטעם החברה. ישראל, איראן, איטליה וגרמניה דורגו לקראת הבחירות כ"דרג 1" (tier one), על פי הדו"ח – משמע, ישראל הקטנה היא במקום השני בסדר העדיפות של פייסבוק בנוגע לפיקוח על תוכן וחשש ממנו.

ככלל, על פי The Verge, מערכת הניהול מבוססת הדירוג הזה של פייסבוק כוללת רק 30 מדינות, כל אחת מקבלת משאבי ניהול לפי הדרגה שלה, וכל שאר המקומות על פני כדור הארץ נמצאים במעקב מועט מאוד.

הטיים מגזין פירסם מסמך אחד דרמטי במיוחד המגלה ש-87% מהתקציב העולמי של פייסבוק לזמן המושקע בסיווג מידע מוטעה מופנה לארצות הברית, בעוד ש-13% "מופרשים" לשאר העולם – וזאת למרות העובדה שמשתמשים בצפון אמריקה מהווים רק 10% מסך המשתמשים היומיים בפלטפורמה.

סחר בבני אדם

על פי CNN, פייסבוק נאבקה במשך שנים בניסיון לשלוט בתוכן הקשור למה שהיא מכנה עבדות ביתית – צורה של סחר באנשים לצורך עבודה בבתים פרטיים, באמצעות שימוש בכוח, כפייה או הונאה – כך ניתן היה ללמוד ממסמך פנימי נוסף שנחשף.

התיעוד מסגיר שהחברה ידעה על סוחרי בני אדם המשתמשים בפלטפורמות שלה בדרך זו לפחות מאז 2018. התופעה הפכה כל כך חמורה עד שב-2019, אפל איימה בסנקציה לחסום את הגישה של פייסבוק ואינסטגרם שבבעלותה ל-App Store שלה. בתגובה עובדי פייסבוק מיהרו להוריד תוכן בעייתי בנידון ולבצע שינויים במדיניות חירום, כדי להימנע ממה שהם תיארו כתוצאה ש"עלולה להיות חמורה" עבור פייסבוק.

אבל בעוד שפייסבוק הצליחה להרגיע את חששותיה של אפל באותה תקופה, ולהימנע מהסרה מחנות האפליקציות, המסמכים שהתגלו כעת מעידים שהבעיות בנושא זה נמשכות.

למשל, התגלו מסמכי פייסבוק המתארים נשים שנסחרו בדרך זו, כשהן נתונות להתעללות פיזית ומינית, מורעבות, שכרן נשלל מהן ושמסמכי הנסיעה שלהן הוחרמו כדי שלא יוכלו לברוח. ואולם דו"ח פנימי של פייסבוק מתחילת השנה ציין כי "עדיין קיימים פערים בזיהוי שלנו של ישויות בפלטפורמה העוסקות בעבדות ביתית".

במסמך זה פורט כיצד הפלטפורמות של החברה משמשות לגיוס, קנייה ומכירה של מי שמיועד.ת ל"עבדות ביתית". ושוב ניתן ללמוד שפייסבוק פשוט ידעה ויודעת ולא פועלת כדי למגר את התופעה המחרידה שהיא עצמה מעצימה, לכאורה.

פייסבוק לא שמרה עליה. גבעת הקפיטול. צילום: BigStock

הבחירות בארה"ב והפלטפורמה שסיפקה פייסבוק למחאה האלימה

המסמכים גם גילו שהנרטיבים הכוזבים על "הונאת בחירות" שקידמו תומכי הנשיא האמריקני לשעבר דונלד טראמפ בשירות שלה בבחירות לנשיאות ארה"ב ב-2020 שויכו לתוך אותה קטגוריית תוכן שלפי מדיניות פייסבוק אינה מפרה כללים. זהו תחום אפור, המאפשר למשתמשים להפיץ טענות על בחירות גנובות, מבלי לחצות קווים שיצדיקו מיתון תוכן או הסרתו כליל מהשירות.

וכך, למרות שפייסבוק חסמה את קבוצת Stop the Steal ב-5 בנובמבר, 2020, בשל הטלת ספק כוזב בלגיטימיות הבחירות ובגין קריאה לאלימות, הקבוצה כבר צברה יותר מ-360,000 חברים – ובנוסף קבוצות פייסבוק חדשות מלאות מידע מוטעה החלו לצוץ מדי יום.

הדבר הביא לכך שנאמני טראמפ ואנשי קונספירציה ימניים הצליחו לנצל את הרשת החברתית לתועלתם, ואפשר שכך גם אורגנו והופקו ההתפרעויות בגבעת הקפיטול דרך פייסבוק מבלי שזו עשתה מספיק כדי להימנע מתסריט האימה הזה.

עובדי פייסבוק רבים הביעו את דאגותיהם בשלוחות ההודעות הפנימיות כשצפו בהמון האלים תוקף את הקפיטול ב-6 בינואר – חלקם כתבו שהם רוצים להפסיק לעבוד בחברה, מכיוון שמנהיגים לא שמו לב לאזהרותיהם.

הנוער עוזב והחברה מודאגת מהעתיד ומחותמה בהיסטוריה

בלי או עם קשר, מסמכים אליהם התייחסו ב-The Verge העידו כי מספר משתמשי פייסבוק המתבגרים ירד ב-13% מאז 2019, והוא צפוי לרדת ב-45% נוספים בשנתיים הקרובות. מחקר של החברה האמריקנית מראה כי "אם פחות ופחות בני נוער יבחרו בפייסבוק ככל שהם מתבגרים", החברה תתמודד עם ירידה חמורה עוד יותר ממה שציפו בעבר בסך משתמשיה.

פייסבוק לא הגיבה בינתיים באופן גורף לחשיפות אבל מעניין לגלות כי בתוך המסמכים החדשים שיצאו לציבור יש אזכור של הודעה שפרסם אחד העובדים בשירותי ההודעות הפנימיים של החברה ובה ציין: "ההיסטוריה לא תשפוט אותנו בסלחנות".