הרשתות החברתיות לא יצרו את הפדופיליה, אבל הן בהחלט עוזרות לה לשגשג ולפרוח באופן שלא היה אפשרי קודם לכן. מה שפעם נדחק לשוליים כטאבו האולטימטיבי, רוכב כעת על מנגנון משומן שמחבר טורפים לילדים בלחיצת כפתור. החיבור של קישוריות חסרת גבולות, אלגוריתמים חסרי עכבות ומודל עסקי נטול מצפון, יצר מציאות שבה פגיעה בילדים לא רק מתאפשרת, היא מואצת.
אלגוריתם ההמלצות של הרשתות מציע לטורפים הפדופילים עוד סרטונים של קטינים ועוד ילדים לעקוב אחריהם - כמו המלצות לסדרה הבאה ב"נטפליקס". מחקרים הוכיחו כי הוא לא מסתפק בכך - הוא גם מעודד הקצנה ויצירה של טורפים חדשים. והטורף כבר לא צריך להיות זאב בודד, הרשתות החברתיות מייצרות עבורו קהילות.
מול המציאות הזו הרגולציה הייתה אמורה להציב גבולות, אבל כמו בנושאים אחרים שקשורים לענקיות הטכנולוגיה, גם בהגנה על הילדים - הרגולטורים והמחוקקים פשוט קורסים. כך למשל, האיחוד האירופי לא הצליח אפילו להאריך מנגנון זמני שאיפשר לזהות תכני התעללות בילדים. במקביל, החקיקה הרחבה יותר נגד פורנוגפיה פדופילית (CSA Regulation) תקועה מאז 2022.
ההשלכות חמורות - האזורים הסגורים ביותר ברשתות החברתיות, שבהם הפגיעה היא הקשה ביותר, הופכים לפחות מפוקחים. הפער הזה בין עוצמת הטכנולוגיה לחולשת הפיקוח הולך ומתרחב, וסופח אל תוכו עוד ועוד קורבנות. שלושה מהם החליטו לאחרונה לנסות ולהיפרע מאחד מברוני הטכנולוגיה שאיפשר את ההתעללות הוירטואלית בהם.
שלושה בני נוער גילו שתמונות שלהם כקטינים עובדו באמצעות גרוק (Grok), מנוע הבינה המלאכותית של טוויטר (X), לתמונות פורנוגרפיות שהופצו אחר-כך בדיסקורד ובטלגרם, ואף נסחרו בין קבוצות פדופיליות.
המולטי-מיליארדר אילון מאסק, הבעלים של טוויטר וגרוק, סירב במשך זמן ארוך לעשות שינויים במנוע כדי שלא ניתן יהיה לייצר באמצעותו חומרים פדופליים, בטענה שהוא שומר על חופש הביטוי. השלושה הגישו תביעה ייצוגית כנגד חברת xAI של מאסק, בטענה שבחברה ידעו על הסיכונים.
המקרה של שלושת הנערים הוא רק דוגמה. לעבירות מיניות נגד קטינים יש פנים רבות ברשתות החברתיות: עבריינים סוחרים בחומרי התעללות מינית בילדים (CSAM) באמצעות רשתות חברתיות מוצפנות; יותר משליש מהעבירות שדווחו למוקד 105 בישראל בשנה האחרונה היו של סחיטה מינית (sextortion) של ילדים וצעירים ברשתות החברתיות; עבריינים מפתים ומגייסים קטינים למטרות סחר וניצול מיני באמצעות פלטפורמות כמו אינסטגרם, טיקטוק ופייסבוק, ועוד.
הרשתות החברתיות הן כר פורה לפדופיליה ולא במקרה. הן מאפשרות גישה ישירה לילדים, והן מאפשרות פעולה באופן אנונימי ובאמצעות זהויות בדויות. אבל הבעיה עמוקה עוד יותר. למעשה, היא חלק מהמבנה של הרשתות עצמן: הרשתות החברתיות מחברות בין פדופילים ויוצרות קהילות עברייניות, והאלגוריתם שלהן לא רק מגיב לביקוש לפדופיליה - הוא מייצר אותו. חוקרים טוענים כי מנגנון ההמלצות של הרשתות החברתיות עלול ליצור הסללה ממשית לפדופיליה.
הרשתות החברתיות יוצרות קהילות - של פדופילים
זה מתחיל כמו כל שימוש רגיל ברשת. משתמש נכנס, צופה בכמה סרטונים, לוחץ על עוד אחד. שום דבר חריג. אבל לאט לאט הפיד משתנה. האלגוריתם מזהה עניין ומתחיל להציע עוד תוכן, קצת יותר נועז, קצת יותר גבולי. עוד סרטון, ועוד המלצה. בשלב מסוים מופיעים גם תכנים של בני נוער, אחר כך תכנים מרומזים של ילדים. המשתמש לא בהכרח חיפש את זה, הוא פשוט המשיך לצפות, או לגלול.
הגבול נשחק בהדרגה, כמעט בלי להרגיש. במקביל, כאמור, הרשת עושה דבר נוסף: היא מחברת בין משתמשים דומים. מי שנמשך לתוכן כזה מתחיל לראות עוד חשבונות, עוד האשטגים, עוד קבוצות. זה כבר לא אדם אחד מול מסך, זו קהילה שלמה שנבנית סביבו.
רשתות חברתיות לא רק מארחות פדופילים. הן עוזרות להם למצוא זה את זה ולבנות קהילה ענפה ותוססת - של פדופילים. על כך מעיד ניסוי שערכו תחקירני ה"וול סטריט ג'ונרל" וחוקרים מהאקדמיה. האלגוריתם של אינסטגרם מזהה עניין משותף ומתחיל לחבר בין משתמשים, להמליץ על חשבונות דומים ולהוביל לתוכן קשור ורלוונטי.
כך, משתמש שנחשף לחשבון "פדופילי" אחד עלול לקבל מיד המלצות לעוד חשבונות שמוכרים תוכן מיני של ילדים, האשטגים רלוונטיים וגם קישורים לאתרים חיצוניים. כלומר, הרשת החברתית לא רק משקפת קהילה קיימת, אלא בונה ומרחיבה אותה באופן אקטיבי דרך מנגנון ההמלצות שלה.
האלגוריתם מסליל לפדופיליה
אבל בכך לא מסתכמים הנזק והסכנה. המודל העסקי של הרשתות החברתיות, המבוסס על המלצות תוכן, מוביל אותן לייצר הסללה לפדופיליה. האלגוריתם לומד את המשתמש ומוביל אותו בהדרגה לתכנים קיצוניים יותר. מקס פישר, בספרו "מכונת הכאוס", מתאר כיצד אלגוריתם יוטיוב הציע למשתמשים שחיפשו תכנים פורנוגרפיים, סרטונים תמימים של ילדים ובהמשך גם תכנים מיניים מרומזים של קטינים, וכך יצר בפועל מסלול של רדיקליזציה.
הצד האפל של "ניתוח העדפת משתמש" הוא שכאשר מדובר במבוגר עם עניין מיני בילדים, האלגוריתם ישרת את אותה העדפה. איזה תוכן מקדם האלגוריתם לחשבונות של מבוגרים שעוקבים אחרי חשבונות של ילדים ונוער? לפי התחקיר של ה"ג'ורנל", התשובה המטרידה היא: צילומים נועזים של ילדים, סרטונים מיניים גלויים למבוגרים ופרסומות של מותגים גדולים. למשל, פרסומת לפיצה הופיעה לאחר סרטון של גבר מבוגר שכוב על מיטה וזרועו מונחת על מה שנאמר בכתובית שהיא ילדה בת עשר.
הממצאים של תחקיר ה"ג'ורנל" מעידים כי מספיק לעקוב אחרי חשבונות של ילדות מתעמלות או מעודדות כדי שהאלגוריתם של אינסטגרם יתחיל להזרים לפיד שלך תכנים מיניים של מבוגרים ושל ילדים. האלגוריתם לא מחכה לחיפוש מפורש, עצם המעקב אחרי ילדות ברשת מספיק כדי להציף משתמשים בתוכן מיני ולהקצין אותו בהדרגה.
בתחקיר נוסף שפורסם ב"ג'ורנל" זוהו 405 חשבונות שמכרו תוכן מיני של קטינים, חלקם בני 12, עם יותר מ-22,000 עוקבים, וכן קידום של האשטגים כמו #pedobait ו-#preteensex. ההמלצות חוזרות גם לאחר דיווחים לפלטפורמות. כלומר, אין כאן כשל נקודתי אלא מנגנון המלצה שמעצים את הבעיה - מזהה עניין, מזין אותו ומעמיק אותו.
האם כל זה קורה במקרה או שזה קורה כי זה משתלם? כדי לענות על השאלה כדאי להיזכר כיצד באביב ובקיץ 2023 מטא ביצעה קיצוצים נרחבים בכוח האדם בתחום האכיפה של תכנים מזיקים.
הרשתות מתנערות מאחריות ומעדיפות תירוצים
האלגוריתם מוביל לחומרים פדופיליים, ובמקביל גם לתכנים יומיומיים לחלוטין כמו ילדים רוקדים בטיקטוק או סרטוני משפחה תמימים ביוטיוב. תחשבו על זה בפעם הבאה שאתם משתפים סרטון של הילדה או הנכדה קופצת לבריכה או עושה גלגלון. טורפים מיניים עושים בתכנים אלו שימוש, סוחרים בהם והיום גם יכולים לבצע בהם שינויים באמצעות AI.
והאמת? קל לדרוש אחריות אישית ממבוגרים לא להעלות תכנים של הילדים - אבל איפה מי שצריך להגן על הבטיחות של המערכות האלה? הרשתות החברתיות מתנהלות כמו מנהלי לונה פארק שמעלים את האורחים לרכבת הרים ללא חגורות או אביזרי בטיחות, ומבקשים מההורים שיחזיקו את הילדים כדי שלא יתרסקו. הרי בכל מדינה נורמלית, פארק שעשועים כזה היה נסגר מיד ומנהליו היו נשלחים לשנים ארוכות לכלא.
לאלגוריתם אין מוסר. הוא לא תוכנת להבחין בין טוב ורע אלא למלא מטרה אחת בלבד: למקסם מעורבות ולייצר רווח. אם מה שמשאיר משתמשים זמן רב יותר באפליקציה הוא תכנים פדופיליים, זה מה שהאלגוריתם יקדם. הוא גם ייצר קהילות ויחבר בין משתמשים בעלי העדפות דומות - גם כאשר הן מחליאות.
האלגוריתם ככה לא בשל גזירת גורל, אלא כי כך תכננו אותו בני אדם. המפתחים והמנהלים של הרשתות החברתיות. ומה עושות הפלטפורמות? הן מורידות תכנים תחת לחץ ציבורי, אבל מסרבות לעשות שינויים מבניים בארכיטקטורה של הרשתות. מטא, למשל, טוענת שהיא מסירה מיליוני פריטי תוכן פדופיליים מדי חודש, אבל המבנה של הרשת והאלגוריתם שלה מציפים אותם כל העת מחדש.
ובכלל, הצהרות דוברי הרשתות לגבי "אלפי", "מאות אלפי" או "מיליוני" תכנים מחרידים שהן מסירות, הן בסוף תרגיל ביחסי ציבור. הם הרי לא מספרים לנו כמה תכנים נותרים ברשת, מזהמים את סביבת המידע שלנו ומסכנים את ילדינו.
או למשל, אחרי שמטא הודיעה שהסירה 16 אלף קבוצות פדופיליות והסתירה 190 אלף תוצאות חיפוש, האלגוריתם המשיך להציג תוכן בעייתי למשתמשים, להציג האשטגים של פורנוגרפיית ילדים ולהציע אותם באופן יזום למשתמשים שהתנהגותם הדיגיטלית זוהתה כ"חשודה", ואפילו לקדם קבוצות פומביות הממוקדות בהחצנת מיניות של קטינים, חלקן מונות מאות אלפי משתמשים.
כבר שנים רבות המגמות והנתונים האלה ידועים למנהלי הרשתות החברתיות, הם עצמם הרי אוסרים על הילדים שלהם להשתמש במדיה חברתית. ההיקפים האדירים של התופעה מצביעים על כך שהאלגוריתמים פועלים ללא רסן, ומאפשרים לקדם או לכל הפחות נכשלים מלעצור קידום של תוכן פדופילי.
כל זה קורה בזמן שהפלטפורמות הדיגיטליות הופכות לחברות העשירות בעולם, והמנהלים שממשיכים להיכשל במיגור התופעה גורפים לכיסם הון עתק. הגיעה העת לדרוש מהחברות הללו אחריות, לדרוש מהמנהלים הללו להגן על הילדים שלנו כמו כמו שהם מגנים על הילדים שלהם, ובמיוחד - לדרוש מהמדינה שתקבע מחדש את כללי המשחק, כך שיעבדו לטובתנו ולטובת הילדים שלנו, ולא רק לטובת שורת הרווח של כמה מונופולים דיגיטליים.
עו''ד יהודית פינטוב היא עמיתת מחקר בכירה במכון ברנדייס