מדינת ישראל דוחקת בחברת פייסבוק לשנות את האלגוריתם שלה כך שימנע ממשתמשים להיחשף לתכנים שהמדינה מגדירה כמסיתים ובלתי חוקיים. גופי ממשלה ישראליים מקיימים בשנים האחרונות מגעים עם פייסבוק ומנסים לגרום לרשת החברתית לסנן ולמחוק תכנים פוגעניים – אך גורמים בכירים במשרד החוץ אמרו ל"העין השביעית" כי פייסבוק טרם הוכיחה שהיא עושה מספיק כדי לעצור את ההסתה. במשרד החוץ מתחו ביקורת חריפה על תפקודה של הרשת החברתית, והאשימו אותה בכך שהיא נמנעת מלפעול נגד פרסומים מסיתים כדי לא לפגוע ברווחים.

בשנים האחרונות, עם התבססותה של פייסבוק כפלטפורמה מרכזית להפצת מידע, דעות וקריאות לפעולה, הגבירה ממשלת ישראל את נסיונותיה לעצב את דעת הקהל המקומית והבינלאומית באמצעות הרשת החברתית. לצד מידע רשמי שמפיצים גופי ממשל ישראליים בפייסבוק, הממשלה גם מעודדת ציבורים שונים – בעיקר אזרחים ישראלים ויהודים מהתפוצות – להפיץ בשם עצמם מסרים מטעמה, וכך לסייע להסברה הממשלתית בארץ ובחו"ל. לצד זה, גורמי ממשל גם מנסים לגרום לפייסבוק לנטר ולחסום מידע שלטענתם מסכן את אזרחי ישראל ויהודים המתגוררים מחוצה לה.

כיצד מחליטה מדינת ישראל אילו מסרים ראוי לחסום? שאלה זו ואחרות הופנו לפני כחצי שנה למשרד החוץ במסגרת בקשת חופש מידע שהגישה עמותת "הצלחה" בשיתוף עם "העין השביעית". במשרד החוץ, שבראשו עומד ראש הממשלה בנימין נתניהו, סירבו להשיב על כך בטענה כי מסירת המידע עלולה לשבש את תפקודו התקין של המשרד.

עם זאת, לדברי גורם בכיר במשרד החוץ ששוחח עם "העין השביעית" וביקש לא לציין את שמו, הכללים שלפיהם פועלת הממשלה פשוטים למדי: פרסומים שראוי למחוק הם פרסומים שתוכנם נוגד את חוקי ישראל, או כאלה המפירים את תקנון השימוש של פייסבוק. הממשלה מפעילה מערכת ניטור שתוצריה מועברים לעיון של משפטנים. הללו מנתחים את הפרסומים וקובעים באילו מקרים יש לפנות לפייסבוק ולדרוש את הסרת התוכן, ולאחר מכן נציגים של הממשלה פונים לפייסבוק העולמית – אך משום שלמדינה אין סמכויות אכיפה כלפיה, הם תלויים כיום בשיקול הדעת של עובדי הרשת החברתית.

"אנחנו לא דורשים שהאינטרנט יהיה תקין פוליטית ולא דורשים הסרה של כל אמירה פוגענית. אנחנו כן חושבים שהחברות צריכות לקחת אחריות ולהסיר שיח שטנה שמסכן יהודים – וזה לא מתבצע כיום באופן יזום"

גורם אחר במשרד, ראש חטיבת תפוצות ודתות עקיבא תור, אומר שפייסבוק ומקבילותיה צריכות לשנות באופן גורף את שיטות הסינון שלה. "אנחנו סבורים כי חברות האינטרנט והמדיה החברתית צריכות לבצע ניטור יזום באמצעים מקוונים (אלגוריתמים) כדי ליישם באופן פרו-אקטיבי את ה-code of conduct שלהן עצמן לגבי חומרי שטנה שאינם אמורים להופיע בפלטפורמות שלהן", מסר תור, שכחלק מתפקידו אחראי על סינון פרסומים אנטישמיים מקוונים.

האם נציגי הממשל מבדילים בין פרסומים מסיתים ומסוכנים ובין פרסומים שהם בגדר ביקורת לגיטימית על מדיניות הממשלה? לדברי תור, הוא ועמיתיו אינם דורשים להסיר דברי ביקורת. "ביקורת על צה''ל או על הדרג הפוליטי לא קשורה בהכרח לאנטישמיות", הוא אומר. "אנחנו מתנגדים לשיח שמסכן קהילות יהודיות, מוסדות יהודיים ויהודים באשר הם. אנחנו לא דורשים שהאינטרנט יהיה תקין פוליטית ולא דורשים הסרה של כל אמירה פוגענית. אנחנו כן חושבים שהחברות צריכות לקחת אחריות ולהסיר שיח שטנה שמסכן יהודים – וזה לא מתבצע כיום באופן יזום".

מדיניות הסינון העכשווית של פייסבוק ושל שאר הרשתות החברתיות מתבססת על תלונות וולונטריות של גולשים, שמסמנים תכנים שלדעתם ראוי לצנזר ומעבירים את ההכרעה לגביהם לעובדי הרשת החברתית. לדברי תור, המדיניות הזאת אינה מספקת מענה הולם – שכן מפרסמים שנחסמו יכולים לשוב ולפרסם בקלות את אותם תכנים מסיתים תחת שמות משתמש אחרים.

פייסבוק ושאר ענקיות האינטרנט אינן מפרסמות באופן יזום את הכללים שלפיהם הן פועלות – אם כי לאחרונה דלפו ופורסמו ב"גרדיאן" מסמכים פנימיים של הרשת החברתית, ובהם מידע גם על סוגיה זו. ממשלת ישראל, מצדה, דורשת שחברות דוגמת גוגל ופייסבוק יאמצו אמות מידה מוסכמות שיגדירו מהו "שיח שטנה", וגם יפרסמו אותן באופן רשמי. כך, מאמינים בממשלה, ניתן יהיה לפקח על תפקודן של ענקיות הרשת.

"להבנתנו, אף חברה אינה מעסיקה היום מספיק עובדים כדי לטפל בכמות התלונות הקיימות, שלא לדבר על התלונות בפוטנציה", מוסיף תור, אך מציין כי לאחרונה הצהירה פייסבוק שתשכור 3,000 עובדים שיעסקו בניטור תכנים. על-פי התכנון, בסך הכל תעסיק פייסבוק 7,500 עובדים שיופקדו על סינון פרסומים בעייתיים – מהסתה, דרך הטרדה ועד חדשות מזויפות. חלקם יידרשו לטפל גם בפניותיה של ממשלת ישראל.

"העולם הזה הוא עולם אלגוריתמי, והאלגוריתמיקה שלו בנויה בצורה מסוימת: אם אתה אוהב חתולים, תקבל עוד חתולים; אם אתה אוהב להרוג יהודים – תקבל עוד 'להרוג יהודים'. זאת האלגוריתמיקה, לא הרצון או הטוב או הרע של הרשתות החברתיות"

בשנה שעברה, בכנס שהתקיים באוניברסיטת תל-אביב, נקט תור בלשון ביקורתית יותר: "חברות האינטרנט, כשאנחנו נפגשים עם הנציגים שלהן, אומרות לנו – 'הנושא של הניטור נורא בעייתי ונורא קשה'. אבל זה לא ייתכן. הרי אם חברה מסוגלת להתאים בין העמוד שלך למודעה והפרסומת המדויקת שאתה צריך לקבל, וכל זה מתבצע על-ידי אלגוריתם, ייתכן שהתעשיות מסוגלות גם כן לנטר שיח שטנה אלים ומסוכן באמצעות אלגוריתמים".

הגורם האחר במשרד החוץ מתנסח ביתר חריפות. "זה לא רק עניין של ניטור, צריך להבין גם את המניעים שמאחורי האלגוריתמים. הרי החברות הללו לא רק מפעילות פלטפורמה טכנולוגית, הן גם חברות שעוסקות בחדשות ותוכן. הן קובעות מה תראה, ומה מתוך הדברים שתפרסם יגיע למישהו – זה חלק מרכזי ממודל הרווח שלהן, ולכן יש להן אחריות", הוא אומר.

"העולם הזה הוא עולם אלגוריתמי, והאלגוריתמיקה שלו בנויה בצורה מסוימת: אם אתה אוהב חתולים, תקבל עוד חתולים; אם אתה אוהב להרוג יהודים – תקבל עוד 'להרוג יהודים'. זאת האלגוריתמיקה, לא הרצון או הטוב או הרע של הרשתות החברתיות", מוסיף אותו גורם.

מערכת היחסים המורכבת שנוצרה בין פייסבוק למשתמשיה דורשת הסדרה ופיקוח מדינתי, מסכימים בכירים במשרד החוץ ששוחחו עם "העין השביעית". "הגענו למסקנה שהתעשייה לא תבצע רפורמה עצמית בעצמה, יהיה צורך בלחץ רגולטורי של מדינות – ולכן התפקיד של משרד החוץ הוא לרתום מדינות לתוכנית מוסכמת כדי לעשות משהו נגד שיח שטנה", הסביר זאת תור בכנס. ל"העין השביעית" מסר תור כי המדינות שעמן ישראל דנה בכך הן בעיקר מדינות ממערב אירופה, ובהן צרפת, וכי לצד זה מתקיים שיתוף פעולה עם נציבות המשפט של האיחוד-האירופי.

עדי סופר-תאני, מנכ"לית פייסבוק ישראל (צילום: מרים אלסטר)

עדי סופר-תאני, מנכ"לית פייסבוק ישראל (צילום: מרים אלסטר)

"בנציבות האירופית, בגרמניה ובצרפת שואלים שאלות קשות", הוסיף תור בדברים שנשא באוניברסיטה. "האם פלטפורמה של מדיה חברתית – פייסבוק, או ערוץ בפייסבוק – דומה לתחנת רדיו, או לפינה בהיידפארק? הנטייה היא לראות בהם משהו שדומה יותר לתחנת רדיו. וכמו שברדיו לא ניתן לשדר כל דבר, ייתכן שלא ניתן לפרסם כל דבר במרחב האינטרנטי".

מדינה שבחרה להימנע משיתוף פעולה כזה היא ארצות-הברית. בכנס שבו השתתף סיפר תור כי במחלקת המדינה האמריקאית בחרו לא להירתם למאמץ הישראלי מחשש שהדבר יפגע בחופש הביטוי. לפיכך, אמר אז, ישראל צריכה "לדרבן שיח פנים-אמריקאי לגבי המשמעות של התיקון הראשון לחוקה [המבטיח בין היתר את חופש הביטוי של האזרחים] בהקשר של שיח שטנה אלים באינטרנט". מאז עברה למעלה משנה, ובארצות-הברית התחלף נשיא. האם חל שינוי גם בעמדה האמריקאית? תור בחר שלא להשיב לשאלה זו.

הגורם האחר במשרד החוץ אומר כי זה רק עניין של זמן עד שממשלות העולם יצליחו לאכוף את חוקיהן גם על ענקיות הרשת – בסוגיית ההסתה ובכלל. "יש פה עולם שלם שנמצא מחוץ לחוק. קודם מגיעה הטכנולוגיה, ואחר-כך מגיעים החוק והמשפט. צריך לבדוק איזה מין כללים חלים על החברות האלה כדי להבטיח סדר", הוא אומר.

"אנחנו מתקרבים לרגע האמת. מישהו יצטרך לטפל בזה: לחברה האזרחית יש חלק בכך, למדינה יש חובה ותפקיד בכך, וגם לחברות הטכנולוגיות"

"זה קשור לסוגיית ההסתה, אבל נוגע גם במרכיבים פילוסופיים וערכיים – מסלול של ניסוי ותעייה שמצריך דיאלוג בין החברות ובין החברה האזרחית והממשלות. אנחנו עוסקים בבעיה רב-מימדית: יש לה מימדים טכנולוגיים, יש לה מימדים משפטיים ויש לה מימדים תרבותיים – ויש את השאלה 'על מי מוטלת האחריות', ומה פירושה של האחריות שנדרשת כדי לשמור על הרשתות האלה כמקום פתוח.

"המהפכה הדיגיטלית, לפני שהיא מהפכה טכנולוגית, היא מהפכה תרבותית. היא יצרה מרחב חיים חדש. במרחב החיים הזה, שהוא מרחב חיים אמיתי, מתחוללים כל הדברים שאנחנו מכירים מהחיים: אהבות, שנאות, וגם פשיעה. כל מה שהוא חלק מהטבע האנושי מצוי גם שם.

"בראייה שלנו, של מי שחי בחברות דמוקרטיות, וגם של הממשלה, זו מהפכה חיובית. מזכירת המדינה האמריקאית לשעבר הילרי קלינטון נשאה נאום שבו אמרה שהמהפכה הזאת יצרה זכות חדשה: החופש להתחבר. המהפכה הזו בסופו של דבר תורמת לחברה – אבל היא גם הביאה איתה מחלות שהן חלק מהטבע האנושי ומהמבנה של המרחב הזה, שנוצר כמבנה אלגוריתמי. אנחנו מתקרבים לרגע האמת. מישהו יצטרך לטפל בזה: לחברה האזרחית יש חלק בכך, למדינה יש חובה ותפקיד בכך, וגם לחברות הטכנולוגיות".

פייסבוק: מחכים לדו"ח משרד החוץ

ממשרד יחסי-הציבור המייצג את פייסבוק בישראל נמסר בתגובה: "בטיחות הקהילה שלנו נמצאת בראש סדר העדיפויות שלנו, ואין מקום בפייסבוק לתוכן המעודד שנאה או הסתה. אנו מתייחסים לנושאים האלו ברצינות רבה, ופועלים כל העת כדי להתמודד עמם בעולם כולו. לאחרונה אף הודיעה החברה כי בשנה הקרובה תוסיף 3,000 אנשים לצוותי מרכזי הדיווח של פייסבוק ברחבי העולם – בנוסף ל-4,500 אנשים העובדים בהם כיום – שתפקידם לסקור את מיליוני הדיווחים שאנו מקבלים מדי שבוע לצד הוספה של כלי דיווח נוספים עבור המשתמשים.

"פייסבוק מנהלת דיאלוג מתמשך עם ממשלות וארגונים ציבוריים, לרבות בישראל, על מגוון נושאים. אנחנו מנהלים גם קשר רציף עם משרד המשפטים בנושאים אלה. משרד החוץ ביקש להציג בפנינו סוגיות הנוגעות לאנטישמיות, ואנו מחכים לדו"ח שלו מזה מספר חודשים".