מארק צוקרברג, המייסד והמנכ"ל של חברת מטא, יצא בינואר השנה, לאחר שדונלד טראמפ נבחר לנשיא ארה"ב, בהודעה דרמטית: הוא מתכוון להיפטר מארגוני בדיקת עובדות עצמאיים, להם שילמה החברה בעבר כדי עבורבחינה עצמאית ובלתי תלויה של מידע שקרי או מזיק בפייסבוק ובאינסטגרם. צוקרברג כינה אותם "מוטים" ומי שמעודדים "צנזורה".
צוקרברג, שידע כי טראמפ נשען על הרשתות החברתיות כמכשיר עוצמתי להדהוד קונספירציות, חדשות כזב ותעמולה שקרית, הכריז כי בכוונת מטא להחליף את בודקי העובדות במנגנון ללא כל פיקוח או אחריות (או עלות). מעתה, כל אחד יוכל להעריך מהימנות של פוסטים ולהצמיד להם הערות ואזהרות, בדומה ל"הערות הקהילה" שאיל ההון הטראמפיסטי אילון מאסק שילב ברשת טוויטר לאחר שהשתלט עליה והפך אותה ל-X.
תחקיר חדש של ה"וושינגטון פוסט" שפורסם השבוע אישר את מה שחזו מומחים וחוקרים רבים בתחום התקשורת והטכנולוגיה לאחר ההכרזה של צוקרברג - מודל הערות הקהילה בעייתי, לא אפקטיבי ומייצר בפועל עלייה משמעותית בהיקף התוכן השקרי והלא בדוק המופץ ברשתות.
כתב הטכנולוגיה הוותיק של ה"וושינגטון פוסט", ג'פרי פאוולר, נרשם לתכנית "הערות הקהילה" שמטא השיקה בארה"ב בתחילת השנה. במשך ארבעה חודשים הציע 65 הערות על פוסטים ותכנים שקריים שונים שפורסמו בפייסבוק בארה"ב בנושאים אקטואליים או בעלי חשיבות ציבורית - החל מתיאוריות קונספירציה, דרך תמונות AI מזויפות ועד לטענות שקריות על הממשל ועל השריפות בקליפורניה. מתוך 65 הערות שכתב בצורה רצינית ויסודית רק 3 פורסמו בפועל והוצמדו לפוסטים המקוריים - 5% מההערות שהציע.
בתגובה לממצאים של פאוולר טענו במטא כי הבדיקה המדגמית שלו אינה מייצגת - אך סירבו לספק מידע שיוכיח אחרת. על אף שמטא כבר לא עובדת עם בודקי עובדות חיצוניים בארה"ב, תכנית הערות הקהילה שלה עדיין בשלבי בדיקות ומטא לא פרסמה עדכון לגבי המוכנות והאימפקט שלה בפועל.
התכנית אמורה להתבסס על מנגנון במסגרתו משתמשים שונים מדרגים את איכות ההערות אחד של השני על בסיס היסטוריה של הסכמה או חוסר הסכמה קודמת ביניהם, על מנת לייצר קונצנזוס. הנסיון של רשת X מראה שמנגנון קהילתי כזה, המזכיר את זה של ויקיפדיה, עשוי לייצר גם שדה חדש של מאבק והטיה, כולל התארגנויות קבוצתיות או ממומנות על מנת להשפיע על הצבעות אישור הערות.
בזמן שהרשתות החברתיות מחבלות בפיקוח על התוכן שהן מפיצות, התחכום וההיקף של התוכן השקרי רק הולך וגדל, במיוחד על רקע הפיתוח המואץ של כלי AI.
מכון פיו גילה כי 54% מהאמריקאים צורכים חדשות ברשתות החברתיות ועל פי סקר החדשות הדיגיטליות הגלובלי של רויטרס במדינות רבות - כמו ארה"ב, בריטניה, הפיליפינים אינדונזיה ומדינות רבות בדרום אמריקה ואפריקה, מדיה חברתית היא מקור החדשות העיקרי עבור מרבית האוכלוסייה, מגמה הנמצאת בעלייה מתמדת. בארה"ב יותר ממחצית מהצעירים עד גיל 24 הצהירו שרשתות חברתיות הן מקור החדשות העיקרי שלהם.
סקר של איגוד האינטרנט הישראלי והטכניון שפורסם בשנה שעברה גילה כי 58% מהישראלים משתמשים ברשתות חברתיות כמקור חדשות. כמעט כמו באתרי ואפליקציות של חדשות ויותר מבערוצי הטלוויזיה.
הכישלון של "בדיקת העובדות" על-ידי "הקהילה" (ובפועל על-ידי כל בעל אינטרס או ממון) בפייסבוק ובאינסטגרם, מצטרף לכישלון שחשפו בדיקות רבות במנגנון חלופי אחר לסינון תוכן שקרי ומזיק, שרשתות חברתיות עושות בו שימוש: כלים וצ'אבוטים מבוססי AI.
ברשת X למשל גרוק הפך תוך זמן קצר לכלי עבור משתמשים המעוניינים לבדוק אם מידע הוא נכון. סקר של TechRadar מצא כי 27% מהאמריקאים כבר משתמשים בכלי AI כדי לבדוק מהימנות של מידע ברשתות. הוא מהיר, נחרץ ונשמע כמו בן אדם וזה הרבה יותר קל מלהצליב מקורות, לקרוא דו"חות וערכים בוויקיפדיה או לחפש בעצמך בגוגל. הבעיה היחידה היא שמסתבר שפעמים רבות הבוט פשוט טועה.
מחקר שפורסם בחודש יוני על ידי מעבדת DFRLab של המכון האטלנטי בחן 130 אלף ציוצים ברשת X על מלחמת ישראל-איראן, שמשתמשים ביקשו מגרוק לבדוק. המחקר מצא שפעמים רבות הבוט סיפק תשובות שגויות והתקשה לזהות תמונות מזויפות. ממצאים דומים עלו מבדיקות של תשובות שגרוק נתן בתשובה לשאלות על הקונפליקט בין הודו לפקיסטאן והשריפות בקליפורניה.
בהזדמנויות אחרות גרוק הביע טענות תמוהות לגבי רצח עם של לבנים בדרום אפריקה והדהד קונספירציות נגד יהודים. מחקר אחר של ה-BBC מפברואר, בחן בדיקת עובדות של מספר צ'אטבוטים מבוססי AI בנושאים אקטואליים וגילה שאצל מחצית מהם היו טעויות או אי דיוקים.
המסקנה ברורה - בעוד שאיומים ומגמות של דיסאינפורמציה מתרבים ונהיים מורכבים וטכנולוגיים יותר, הפתרון להתמודד איתם חייב להיות אנושי. סמכות של מומחים ומוסדות נדרשת גם - ובמיוחד - בעידן של AI ואוטומציה. אתגרים כמו הטיות ולחצים פוליטיים ימשיכו ללוות אותם, אבל לפחות בעתיד הנראה לעין לא ניתן יהיה להסתדר בלעדיהם.
עידן רינג הוא מרצה וחוקר תקשורת, סמנכ"ל קהילה וחברה באיגוד האינטרנט הישראלי