יוטיוב נאבקת: מסירה בממוצע סרטון לא הולם אחד בכל שנייה

דיווחים על תכנים לא ראויים שמתפרסמים ביוטיוב (YouTube) ומעוררים סערה הם כמעט עניין שבשגרה, כשהכעסים הרווחים על ענקית הווידיאו הם בעיקר בגין הצמדת פרסומות של מותגים מובילים ואהודים לתוכני שנאה, פדופיליה ושאר רעות חולות שעברו מתחת לרדאר של החברה.

אחד הקהלים שככל הנראה עלול להיפגע באופן הקשה ביותר מתכנים שכאלו הם ילדים, שמסתבר שעושים בפלטפורמה שימוש ניכר. בנובמבר האחרון התחייבה החברה כי תכנים שיסומנו יוסרו מהשירות, ואמרה ש-"הצוות שלנו מורכב מהורים אשר מחויבים לשיפור האפליקציה".

השבוע (א') התפרסם כי מודעות של 300 ענקיות, וביניהן למשל סיסקו (Cisco), פייסבוק (Facebook), מיקרוסופט (Microsoft), לינקדאין (LinkedIn), מוזילה (Mozilla), נטפליקס (Netflix), אדידס (Adidas), הועלו בערוצי יוטיוב שמקדמים פדופיליה ותנועות קיצוניות כמו ארגוני ניאו-נאצים – כך על פי תחקיר של CNN. החברה הגיבה והבטיחה: "אנחנו עובדים עם המפרסמים ומסדירים את הדברים".

מה באמת קורה ביוטיוב?

אבל מה באמת קורה ביוטיוב והאם החברה עושה מאמצים כנים להילחם בתכנים הרעים והמזיקים כל כך?

מנכ"ל גוגל (Google), סונדר פיצ'אי, ציין במהלך שיחת הרווח של אלפבית (Alphabet) – החברה האם של ענקית החיפוש – אתמול (ב') פרטים מדו"ח השקיפות האחרון של גוגל, שהיא כידוע החברה האם של יוטיוב, ואלו חשפו מידע מדהים הממחיש את מידת האלימות, העיסוק במין ובתכנים בלתי הולמים אחרים בפלטפורמת הווידיאו הנחשבת בעולם.

לפי הדו"ח, ברבעון הרביעי של 2017, הוסרו בסך הכל כ-8,284,039 סרטונים, לאחר שסומנו על ידי מנהלים אנושיים ועל ידי היכולות הטכנולוגיות של יוטיוב, בגין הפרת האיסור שלה להעלאת תכנים העוסקים בפורנוגרפיה, בהסתה לאלימות, בהטרדה או בדברי שטנה לשירות שלה. מדובר על יותר מסרטון אחד בכל שנייה.

הרוב המכריע של קטעי הווידיאו האלה – מעל 6.6 מיליון – סומנו על ידי האלגוריתם של יוטיוב הפועל על פי יכולות למידת המכונה המתקדמות שלה, וקצת יותר מ-1.1 מיליון מהתכנים זוהו וסומנו על ידי מנהלים בני אנוש שהחברה מעסיקה. רק 402,335 מהתכנים סומנו על ידי צופים בודדים, ומדהים עוד יותר – רק שבעה על ידי סוכנויות ממשלתיות.

כ-75% מהסרטונים הלא-הולמים הוסרו לפני שאי-פעם הוצגו בפלטפורמה – כלומר, למעלה מ-1.6 מיליון סרטוני וידיאו המכילים תוכן לא הולם הופעלו על ידי משתמשים לפחות פעם אחת לפני הסרתם.

עוד נתונים מעניינים: מהתוכן הבלתי הולם, כ-30% מסומן בשל היותו מיני; 26.4% על היותו ספאם או מוליך שולל; 15.6% על דברי שנאה או אביוז; 13.5% על היות התכנים אלימים או דוחים, אפיון שהוא – למרבית הפליאה – דווקא בין הקטגוריות הקטנות יותר.

מבין הארצות מהן אנשים מרבים לסמן תכנים לא ראויים ביוטיוב, נמצאת הודו בראש, ואחריה ארצות הברית, ברזיל ורוסיה.

10,000 עובדים על הניטור – אבל תיאלץ להשתמש בעיקר ב-AI

במהלך השנה האחרונה ספגה יוטיוב תלונות אינספור על סרטונים בעייתיים, או ממש חמורים שנמצאו על הפלטפורמה שלה. החברה הבטיחה והתחייבה שהיא לוקחת את העניין ברצינות, ואמרה כי שכרה השנה יותר מ-10,000 אנשים שעובדים על הבעיה ותיקונה.

אבל בשל קנה המידה העצום של שירותיה – כמו במקרה של פייסבוק – גוגל ויוטיוב מאמינות כי בסופו של דבר גם הן יצטרכו להסתמך על יכולות למידת המכונה והבינה המלאכותית כדי לפתור את בעיית הפיקוח על התוכן.

אז יוטיוב עשתה ועושה על מנת לנטר את התכנים שמתפרסמים אצלה, אבל אנחנו נשארים עם הידיעה שהחברה אולי יירטה, כפי שהיא טוענת, כ-4.5 מיליון סרטונים שהתוכן שלהם לא ראוי לפני שמישהו בכלל הספיק לצפות בהם, אבל שמבין המיליארד ויותר משתמשים שצורכים תכנים באמצעותה, היו מי שכן נתקלו בסרטונים הלא ראויים – למען הדיוק, 1.5 מיליון משתמשים צפו בהם בשלושה חודשים בלבד.

גם אם מרבית הסרטונים הללו לא הזיקו לצופים שנתקלו בהם באופן מאסיבי, מספיק שלאחד מהם יש פוטנציאל לערער משתמש, או לפגוע במפרסם – בכדי להביא את הרשויות לסבור שהאתר זקוק ליותר פיקוח. ואולי בצדק.