דו"ח מטריד: מאות אפליקציות מסוכנות לילדים ב-App Store

מחקר חדש של ארגוני הבטיחות לילדים Heat Initiative ו-ParentsTogether Action שממצאיו פורסמו השבוע חשף תמונה מדאיגה ביותר: מאות אפליקציות ב-App Store של אפל, המסווגות כמתאימות לילדים, מכילות תוכן ותכונות מסוכנות ומטעות. בתוך 24 שעות בלבד, זיהו החוקרים מעל 200 אפליקציות בעלות קיטלוג של התאמה לגילאים צעירים (4+, 9+, 12+), אך שבפועל מכילות תוכן אשר אינו ראוי לילדים. הדו"ח – שכותרתו "דירוגים רקובים: 24 שעות באפסטור של אפל" (Rotten Ratings: 24 Hours in Apple's App Store) – מצביע על כשלים חמורים במערכת של אפל המשמשת למיון וסיווג היישומים, וכן על הצורך הדחוף בשיפור אמצעי הבטיחות עבור ילדים בחנותה של ענקית הטכנלוגיה.

APPLE’S APP STORE IS A MINEFIELD OF INAPPROPRIATE KIDS’ APPS

Think your 4-year-old is safe on the App Store? Think again.

A report found over 200 “kid-friendly” apps with features like stranger chats, sexual games, and AI girlfriend simulators—all rated for kids 12 and under.… pic.twitter.com/IcBoX6dF9R

— Mario Nawfal (@MarioNawfal) December 23, 2024

מה בדיוק נחשף במחקר?

החוקרים התמקדו ביישומים המופיעים בחנות בקטגוריות שלהן היסטוריה של סיכונים לילדים: אפליקציות צ'אט, אפליקציות יופי, אפליקציות דיאטה והרזיה, אפליקציות גישה לאינטרנט ללא צנזורה, וביישומי משחקים. הדו"ח מפרט מספר דוגמאות קשות שהחוקרים חשפו. ביניהן בין השאר:

משחקים מיניים: החוקרים זיהו יותר מ-24 משחקים בעלי תוכן מיני מפורש, שעל אף שנקראו באופן מפורש "משחקי מסיבות למבוגרים" או "XXX חריף", דורגו כמתאימים לילדים מגיל 4 ומעלה. לדוגמה, האפליקציה "Exposed 2" מציעה מצבי משחק מיניים ואף כוללת תמונה של ילדה צעירה. אפליקציות נוספות, כמו "Tap Roulette Shock My Friends", ו-"5 Second Rule Adult Party Game", מכילות שאלות ותמונות לא הולמות.

אפליקציות צ'אט עם זרים: בדו"ח נחשף כי החוקרים זיהו תשע אפליקציות צ'אט המאפשרות לילדים להתחבר עם זרים – חלקן מתמקדות בבניית קשרים רומנטיים או מיניים – אך שדורגו כמתאימות לילדים מגיל 4 ומעלה. כך לדוגמה, האפליקציה "Renz" ספגה ביקורות רבות על כך שהיא מקשרת ילדים עם מבוגרים זרים, ואפילו דווח על מקרה של סחיטה מינית באמצעותה. בנוסף, אפליקציות כמו "Slowly" ו-"SoulChill" סבלו מביקורות דומות ונמצאות תחת הקטלוג שמאפשר לילדים להשתמש בהן. נחשף גם כי האפליקציה "JusTalk Kids", למרות שהוגדרה כ"בטוחה", ספגה תלונות על פדופילים שעושים בה שימושים שונים.

אפליקציות צ'אט אנונימיות: עוד דיווח המחקר על ארבע אפליקציות המאפשרות תקשורת אנונימית לחלוטין עם זרים שדורגו כמתאימות לילדים מגיל 4 ומעלה. דוגמאות לכך כוללות את "SimpleX Chat" ו-"JSPP", המאפשרות שיחות פרטיות והעברת תמונות ותוכן אחר שניתן למחוק בקלות, ללא שובל דיגיטלי.

אפליקציות צ'אט מבוססות בינה מלאכותית: 12 אפליקציות צ'אט המופעלות באמצעות AI – שחלקן מכוונות לדייטים ומתן עצות – התגלו ככאלו שדורגו כמתאימות לילדים, על אף הסיכונים הידועים הגלומים בצ'אטים עם בינה מלאכותית, במיוחד בקונטקסט המסוים. הדוגמאות כוללות את "Chatster AI" ו-"AI chat 4.0".

מסנני יופי: יותר מ-40 אפליקציות מסנני יופי, כולל כאלה שחיקו פרוצדורות קוסמטיות, דורגו כמתאימות לילדים מגיל 4 ומעלה. אפליקציות כמו "Body Tune" ו-"Face and Body Photo Editor Pro" מעודדות דמויות רזות ומעוותות, ותורמות לדימוי גוף שלילי.

אפליקציות דיאטה והרזיה: יותר מ-21 אפליקציות דיאטה והרזיה, המכילות הוראות להפסקת ארוחות וצום ממושך, דורגו כמתאימות לילדים מגיל 4 ומעלה. אפליקציות כמו "Lose It!" ו-"Lose Weight at Home in 30 Days" מאפשרות הגדרת כמויות קלוריות נמוכות מדי לילדים, ומעודדות הפרעות אכילה.

אפליקציות דירוג מראה: 14 אפליקציות המשתמשות בבינה מלאכותית כדי לדרג את מידת המשיכה למשתמשים, לעתים קרובות עם ציון מספרי מ-1 עד 10, דורגו כמתאימות לילדים. בין היישומים הללו נכללו למשל "Face Rating" ו-"Umax".

אפליקציות גישה לאינטרנט לא מצונזר: יותר מ-43 אפליקציות VPN, המאפשרות עקיפה של פילטרים של בתי ספר, דורגו כמתאימות לילדים מגיל 4 ומעלה. הדוגמאות כוללות את "VPN – Fast VPN Super" ו-"VPN – Unlimited Best VPN Proxy".

משחקים אלימים: יותר מ-28 משחקי ירי ופלילים שהתגלו על ידי החוקרים, סווגו כמתאימים לילדים מגיל 9 או 12 ומעלה. הדוגמאות כוללות את "Gun Simulator", "One Shot Kills ו-"Sniper Killer".

משחקים העוסקים בפשע ופעילות בלתי חוקית: משחקים כמו "Mob Wars LCN", "Drugs Empire" ו-"Underworld Empire" מאפשרים לילדים לגלם תפקידי מאפיונרים וסוחרי סמים.

One week ago today, parents who lost kids to iPhone harms stood outside of the @Apple store in Grand Central Station in NYC and asked for safer devices, alongside @heatinitiative and @_WeAreMAMA. Click the link to support them! https://t.co/tNighfmQV4

— ParentsTogether Action (@ptogetheraction) December 12, 2024

הורים שימו לב: המשמעות הקשה של הממצאים

הדו"ח מצביע על כשלים חמורים במערכת סיווג הגיל של אפל, המאפשרת לאפליקציות מסוכנות להגיע לילדיהם של ילדים. ההיקף העצום של ההורדות של אפליקציות אלו (מעל 550 מיליון הורדות בסך הכל) מדגיש את חומרת הבעיה ואת הפוטנציאל לפגיעה בקטינים עקב היעדר מיון נכון של היצא האפליקציות בחנות אפל. הדו"ח קובע שהחברה, כארגון, מרוויחה כסף רב ממודל עסקי זה, ומאשים את החברה באי לקיחת אחריות ובהיעדר שקיפות. הדו"ח מציין שאפל מפנה את כל האחריות המשפטית למפתחים, תוך התחמקות מאחריות משלה לתוכן אליו נחשפים ילדים בתיווכה, לכאורה.

הדו"ח מציין שאפל טרם הגיבה לממצאים. עם זאת, מקורות אחרים מציינים כי אפל טוענת שהיא בודקת אפליקציות שאינן עומדות בקריטריונים של דירוג גיל ומרחיקה אותן מחנותה. בנוסף נטען שענקית מקופרטינו דחתה מעל 100 אלף הגשות של אפליקציות בשנים האחרונות, בגין הפרת הנחיות הקשורות לסיווגי גיל המשתמשים.

דובר מטעם החברה אמר כי "ב-אפל אנו עובדים קשה כדי להגן על פרטיות המשתמשים וביטחונם ולספק חווייה בטוחה לילדים", והוסיף שהחברה מספקת להורים מגוון אפשרויות להגן על ילדיהם, כולל הגבלת גישה לאפליקציות וסימון תוכן בעייתי. אולם, הדו"ח טוען, ומוכיח, כי אפל בכל זאת אינה מבצעת ביקורת יסודית מספיק על האפליקציות שהיא מציעה.

הדו"ח מציע לאפל לנקוט במספר צעדים לשיפור המצב כך למשל החוקרים מציעים ביקורת צד שלישי: יישום מערכת ביקורת עצמאית של צד ג' – בדומה למערכות הדירוג של סרטים ומשחקי וידיאו – שתסייע לוודא שקיטלוג גיל היעד מתאים לתוכן היישום. עוד מציעים החוקרים לאפל לאמץ שקיפות ובהירות גדולות יותר בתהליך הדירוג – על סמך הנחיות ברורות המבוססות על מומחים בפיתוח יישומים לילדים. עוד הומלץ לחברה להקפיד על אכיפת דירוגי הגיל, ולהטיל אחריות על מפתחים המנסים לעקוף את כללי המערכת. ולבסוף הוצע לאפל לטרוח על שיפור בקרות ההורים באמצעות בחינה עקבית יותר של דירוגי הגיל והתאמתם הריאלית ליישומים.

הדו"ח מציין שישנם תחומים נוספים הדורשים בדיקה, כמו פרסומות בתוך אפליקציות, פרטיות נתונים ותשלומים חבויים באפליקציות. בנוסף, הדו"ח מזכיר מחקרים קודמים שהראו שהגבלות גיל בחנות אפל אינן נאכפות בצורה מספקת ושהילדים יכולים לגשת בקלות לאפליקציות המיועדות למבוגרים. כך למשל מחקר קודם שנערך על ידי המרכז הקנדי להגנה על ילדים גילה כי אפילו עם בקרות הורים, ילדים יכלו להוריד אפליקציות שקוטלגו כהולמות לגיל גבוה יותר.

הבעיות החמורות מאוד שנחשפו בדו"ח מסכנות לכאורה את בטיחות ילדים שעושים שימוש בחנות אפל ובמכשיריה, ויש רבים כאלו בעולם. לפי החוקרים קיים כעת צורך דחוף של אפל ליישם שינויים משמעותיים במערכת התווית הגיל שלה ובמנגנוני האבטחה, כדי לגונן על ילדים מפני תוכן מסוכן ומטעה, ויפה שעה אחת קודם. בינתיים – אם אתם הורים לקטינים המשתמשים ב-iPhone, iPad ויתר המכשירים מבוססי ה-iOS – החנו באלף עיניים איזה יישומים מותקנים על המכשירים הללו, ומסכנים, לכאורה, את ילדיכם.