שתי ידיעות שהתפרסמו לאחרונה עסקו בפיקוח על תכנים ברשתות החברתיות. ב"דה-מרקר" נכתב על כוונתן של ממשלות צרפת ובריטניה לקנוס את פייסבוק וגוגל בטענה שהן אינן חוסמות תכנים מסיתים וכאלו שלכאורה מעודדים טרור. ב"העין השביעית" נכתב על התביעה שמנהל הבלוגר דורי בן-ישראל קריו בפייסבוק, לאחר שחשבונו בפייסבוק נחסם – לדבריו, אחרי שמחה נגד דברי הסתה שהתפרסמו ברשת החברתית נגד חייל צה"ל ולא נמחקו למרות פניות הגולשים.

שני מקרים אלו אינם יחידים או בודדים. בשנים האחרונות מנסים גופים רבים – ממדינות ועד אנשים פרטיים – להשפיע על פייסבוק וגם על גוגל כדי שאלו יתערבו בתכנים פוגעניים (לדעתם של המתלוננים) ויפעלו להוריד אותם מהרשת. ניתן לשער כי חלק מהפניות מוצדקות, ואחרות לא, אך השתלטות פייסבוק על המרחב הווירטואלי היא נושא מהותי ויש לתת עליו את הדעת.

אנחנו נמצאים בעידן שבו המרחב הווירטואלי שלנו נשלט על-ידי שניים או שלושה גופים פרטיים עצומים. עלינו לבחון מה המשמעות של שליטה זו, כיצד היא נוצרה ומה משמעות הדבר. לחברות הענק הללו יש מטרה אחת: השתלטות על הזמן והמרחב שלנו, ובעיקר על הערוצים שדרכם מתעצבת התודעה שלנו.

בדיוק כמו שאנו מאמינים כי החדשות הן שיקוף של המציאות ולא תוצר של עריכה מגמתית של עורכים (שבתורם מחקים התנהגות של עורכים במקום אחר) – כך אנו נוטים להאמין כי הפיד שלנו בפייסבוק מעוצב על-ידי המציאות ועל-ידי הבחירות שלנו. בעוד שהאמת היא שהפיד הוא תוצאה של אלגוריתמים מורכבים שמציגים לנו מציאות מובנית אשר מתוכננת לפי ההתנהגות שלנו – התנהגות שבשלב מסוים הופכת להיות בעצמה תוצר של הפיד. מהר מאוד אנחנו הופכים למעגל סגור של דמותנו האינטרנטית.

בזמן שהחברות משתלטות על המרחב הווירטואלי, הן מעוניינות להתערב כמה שפחות בהתנהגות האנושית (בינתיים). הן רוצות לנטר אותה, ללמוד אותה ללא הרף ולשפר עוד ועוד את האלגוריתמים שלהן כדי שההתנהגות האנושית תוכל להתעצב בסופו של דבר לפי הצרכים שלהן. מדובר בתהליכים ארוכים ומורכבים, אך יחד עם זאת – מעולם לא היתה לאף חברה מסחרית גישה למאגר התנהגות אנושית ממוחשב ומנוטר כפי שיש לחברות הללו. לא למדינה, לא לארגון, לא לחוקרים באוניברסיטה, לא לממשלה ובוודאי שלא לאף חברה פרטית.

פייסבוק שואפת להתערב כמה שפחות בתוכן האנושי שהמשתמשים יוצרים ולשמור כמה שיותר על האותנטיות שלו, כדי שתוכל ללמוד ממנו כיצד לעצב בהמשך את האופן שבו אנחנו מייצרים וצורכים אותו. לפייסבוק אין כל אינטרס לפקח על תכנים או לצנזר אותם. נהפוך הוא, ככל שהתוכן ישקף נאמנה תחושות ורגשות הוא יהיה בעל ערך רב יותר עבורה, זאת כיוון שתוכן טעון רגשית מעורר מעגלים של תגובות ומעורבות על-ידי גולשים אחרים, וככל שהמעורבות גדלה כך ניתן ללמוד עוד ועוד על המשתמשים.

המידע החשוב ביותר שפייסבוק, גוגל וחברות כמותן יכולות לאסוף הוא מידע על התנהגות אנושית. זהו המידע יקר הערך ביותר, ולכן מערכות המעקב אחרי התנהגות הגולשים רק הולכות ומשתכללות. מערכות מעקב אלה הן מערכות מתוחכמות ביותר. הן שואבות מידע לא רק מהתנהגותנו האקטיבית, אלא גם מהתנהלותנו הפסיבית – אם בעבר החברות ניטרו פעולות שיתוף ותגובה שעשינו ברשת, הרי שהניטור הפך להיות ניטור טוטאלי של כל הפעילות שלנו, גם של פעילות שכלל איננו מעוניינים שאחרים ידעו עליה.

מידע פרסומי מתחיל להיות מועבר אלינו רק מעצם העובדה שחיפשנו תוכן בפלטפורמה מסוימת – אם למשל חיפשתם מוצר לרכישה באתר אינטרנט, אתם עשויים פתאום לראות פרסום שלו בפיד שלכם בפייסבוק. אם אתם מרבים להקשיב לסרטוני מוזיקה של ז'אנר מסוים ביוטיוב, אתם יכולים לראות פתאום פרסומים שקשורים בז'אנר הזה בדפי אינטרנט אחרים שאתם גולשים בהם.

פעילויות מעקב אלה מעבירות תוכן על כל ההתנהגות האינטרנטית שלנו 24/7, במחשב ובנייד, והן אינן קשורות רק לפעילות בפלטפורמה אחת. עצם ההתקנה של אפליקציות מסוימות מייצרת מערכות ניטור מתמיד של הפעילות שלנו. ואלה רק ההתנהגויות הקשורות בצרכנות. אין לדעת מה המידע הנוסף שנאגר.

נושא זה אינו חדש. גם בעבר חברות אמריקאיות שמפיקות מפות דרכים, למשל, נטו לשלב במפות שלהן תחנות דלק ומוטלים שהיו שייכים להן. כלומר, הרעיון של שליטה במרחבים ששולטים על התודעה אינו רעיון חדש – הוא פשוט הפך להרבה הרבה יותר יעיל.

אם אנחנו מבינים את הרעיון הזה, אנחנו יכולים להבין מדוע אין סיכוי שהחברות הללו יאכפו פיקוח על תוכן ברשת. אך מעבר לסוגיית איסוף המידע, עולות כאן גם שאלות אחרות: מי הוא המחליט על תוכן וחשיפתו לציבור? האם המרחבים הווירטואליים שייכים למדינה מסוימת? האם היא רשאית לכפות את חוקיה על החברות הללו? ואם כן, כיצד? האם החברות מחויבות לציית להחלטות של המדינות הללו?

עולות גם שאלות מהותיות יותר. בעבר כל התוכן שהועבר לציבור נשלט על-ידי שומרי סף דוגמת כלי תקשורת או ממשלות. גופים אלה דאגו להעביר לציבור מה שהם ראו לנכון, ושלטו על התוכן, היקפו, אופן הפקתו וכולי. המערכת התקשורתית היתה לגוף שמנוהל ומנווט על-ידי תאגידים וממשלות. כיום הרשתות החברתיות יצרו לכאורה מציאות של חופש: כל אחד יכול להעלות כל תוכן שהוא רוצה למרחב הווירטואלי, והתוכן יופץ לפי העניין שהוא יוצר. כלומר, הרשתות החברתיות – המורכבות מאנשים – יגרמו לכך שמה שיקרה לתוכן הוא תוצאה של התגובה של האנשים כלפיו. השאלה אם הוא יופץ או לא קשורה לכאורה אך ורק ביכולתו לעורר רגשות בקרב הציבור.

הרעיון, בבסיסו, הוא אכן רעיון של חופש: התוכן שישרוד, האנשים שבסופו של דבר יצליחו לדבר להמונים, החומר שיהפוך לוויראלי – הם אלו שההמונים מפיצים בעצמם. האומנם? האם פייסבוק, או גוגל, או רשתות חברתיות אחרות, יצרו לנו על חשבונן מרחב וירטואלי חינמי ממניעים אלטרואיסטיים? מובן שלא. מדובר במערכות עצומות של איסוף תוכן אינטנסיבי שנאגר כבר שנים במטרה (נכון להיום) להשתלט על מרחבי התודעה שלנו דרך הטכנולוגיה כדי לגרום לנו לצרוך.

אם נחזור לנושא הפיקוח על התכנים, נוכל להבין אם כן מדוע פייסבוק תעשה הכל כדי לא לצנזר תוכן. הצנזורה שכן נאכפת באופן משמעותי קשורה לעירום ופורנוגרפיה, אך לעומת זאת תיעוד של תגרות, אלימות קשה, תאונות דרכים, עריפת ראשים על-ידי טרוריסטים, התעללות בחיות ועוד ועוד – כל אלה לא מצונזרים באופן הולם. נשמע מוכר? קצת דומה לדרך שבה עבדה הטלוויזיה בעולם המערבי מאז ומעולם. אלימות ממלאת כמעט את כל זמן השידור, אם בחדשות, בסדרות או בסרטים. פורנוגרפיה נחשבת מחוץ לתחום.

אם פייסבוק תרצה להתחיל לצנזר תוכן אסור, מהיכן עליה להתחיל? מהר מאוד נגלה שהסתה של צד אחד היא ההגדרה הפוליטית של צד אחר, שאלימות המופגנת מצד אחד מגובה ומקבלת הצדקה מצד אחר. קביעת פרמטרים ליישום צנזורה נראית משימה לא פשוטה. יחד עם זאת, יהיה זה נאיבי מצדנו לחשוב שהרשתות החברתיות אינן מתערבות בתכנים, במיוחד בהחלטה מי ייחשף אליהם ומי לא. כאשר אתה ממציא משחק, בונה את המגרש וקובע את החוקים – מתרחש פלא: אנשים שנכסים למגרש משחקים את המשחק ומצייתים לחוקים.

יגאל באום הוא מעצב, מורה ומרצה לתקשורת חזותית ואיש שיווק