קשה מאוד לחמוק בשבועות ואפילו בחודשים האחרונים מתמונות ה-AI המוזרות והמניפולטיביות שצצות בכל מקום בפייסבוק וברשתות אחרות, בעיקר בקבוצות ייעודיות לאמהות, לחיילים או לחובבי צדיקים ורבנים.
הן בדרך כלל כוללות תמונות של חיילים עם פרוטזות שחזרו הישר לחתונה או ללידה, אחיות מותשות ודומעות שמטפלות בלוחמים, עובדי כפיים קשי יום שרק מבקשים מילת עידוד או ילדים קטנים וחמודים שחוגגים יומולדת בלי אמא.
התמונות מציאותיות אך מטרידות בו זמנית. הדמויות נראות מאוד מקומיות ומוכרות אך התחושה מנוכרת ומלאכותית. הכיתוב הנלווה נראה בדרך כלל כמו מאמץ נואש ושקוף לסחוט מהעוקבים תגובה או שיתוף.
בזמן שרובנו מגחכים על התופעה או תוהים מה עומד מאחוריה, התמונות הללו גורפות אינספור לייקים ושיתופים בפייסבוק וברשתות אחרות, לעתים בקבוצות פופולריות מאוד כמו "חיילים מצייצים"; מקודמות על ידי האלגוריתמים של הרשתות והופכות ויראליות. האינטרסים והמוטיבציות שעומדים מאחוריהם נסתרים - אך את הנזקים שיתלוו אליהם ניתן בהחלט כבר לצפות.
תמונות מזויפות שנוצרו בבינה מלאכותית על מנת לאסוף מידע מגולשים
התופעה הגלובלית הזאת, של יצירת והפצת תמונות סינתטיות ומוגזמות בעלות אופי רגשי המותאם לרשתות, קיבלה את הכינוי AI SLOP, כלומר "זיהום AI" או "זבל AI". בדומה לספאם שהציף לנו את המייל לאחר שאימצנו אותו ככלי עבודה בסיסי, הן מאיימות כעת להציף את הרשתות החברתיות ואת האינטרנט כולו בזבל ויזואלי ואמוציונלי.
הנגישות וקלות השימוש של יצירת תמונות מציאותיות עם כלי AI והטייה של האלגוריתמים של הפלטפורמות לתוכן מעורר רגש וסוחט דמעות, הפכו אותן לכלי חזק עבור מי שמחפש לבנות לעצמו קהלי יעד מפולחים לצורך מוניטיזציה עתידית, הפצה ממוקדת - או קידום הונאות ודיסאינפורמציה.
הפרצופים והרקעים משתנים בין מדינות ושפות, אך העיקרון נותר זהה. בארה"ב וארגנטינה מופצות תמונות של עובדי ניקיון, כבאים ורופאים קשיי יום שמבקשים "ברכה פשוטה"; בצרפת אלה יהיו חקלאים חרוצים שמוכרים גבינות, יין ותוצרות חקלאית בשוק הכפרי; ברשתות דוברות ערבית זאת תהיה אמא מכוסת ראש שמכינה פיתות על הרצפה ואילו ברוסיה הקרה נראה נהגת משאית חרוצה שיוצאת לעבודתה מוקדם בבוקר.
המולטי-מיליארדרים אילון מאסק (מימין), השולט בטוויטר, ומארק צוקרברג, השולט בפייסבוק ואינסטגרם (צילומים: צילום מסך וקובי גדעון, לע"מ)
פרצופים שונים, הקשרים אחרים ושפות שונות - עם מטרה אחידה. לסחוט מהמשתמשים במדינות השונות לייקים ושיתופים כדי לסמן ולטפח קהלי יעד מוגדרים ולהפוך אותם להכנסה ומטרה נוחה למפרסמים או גורמים בעלי אג'נדה -בחסות האלגוריתם של הרשתות.
התמונות מתפרסמות בעמודים ובקבוצות מגוונות - החל מקבוצות המוקדשות לדת ומסורת, דרך קבוצות של אוהדי כדורגל ופעילות פוליטית ועד לעמודי ממים, ומצליחים לצבור פופולריות ולייצר מעורבות (engagement). עד כמה שהתמונות נראות מוזרות ומלאכותיות, אנשים ברחבי העולם סבורים שהן אמיתיות ומשתפים בטירוף.
בישראל, התמונות מופצות בקבוצות מאוד ספציפיות, כאלה שמוקדשות לשיעורי תורה יומיים או לדמויות שיש קהל שנוטה אחריהן כמו רבנים וזמרים. החיבור בין התמונות הסינתטיות, הנרטיבים הפטריוטים והאלגוריתמים מוטי הרגש של הפלטפורמות הופך את התמונות הללו למכונת איסוף דאטה ופילוח קהלים רבות עוצמה. השימוש שאפשר לעשות בהן הוא מגוון ולעתים פוגעני ואפילו פלילי.
תמונה מזויפת שנוצרה בבינה מלאכותית על מנת לאסוף מידע מגולשים
המנגנון הזה יכול להיות יעיל מאוד עבור מפרסמים וציידי לידים - אבל גם עבור נוכלים שמנצלים את הקונטקסט המקומי והלאומי של המלחמה ואת ההטייה של רשתות חברתיות כדי לקבל חשיפה. איסוף מספרי טלפון, העברה לקבוצות ווטסאפ סגורות, גיוס תרומות פיקטיבי ועוד אמצעים ודרכים להוצאת כסף מהגולשים.
לא רק נוכלים מנצלים את החמלה והרגש של אוכלוסיות מבוגרות, מסורתיות או אחרות. מאגרי המידע, הקבוצות והמעורבות שנוצרים באמצעות שימוש בתמונות סינתטיות מעוררות רגש עשויים להפוך לכלי נשק חזק גם של פוליטיקאים, במלחמה על התודעה ועל הנעת הקהל לקלפיות.
מעבר לזה, התפוצה וההצפה הענקית של הדימויים השקריים והאמוציונליים הללו הם גם פיגוע אפסטימולוגי של ממש - מתקפה ישירה על היכולת שלנו להאמין למה שאנחנו רואים ועל המשקל של אמת ועובדות ברשתות החברתיות. ככל שהרשתות יוצפו ביותר תמונות כאלה היכולת שלנו להאמין למה שאנחנו רואים תלך ותשחק עד שפשוט לא נאמין לשום דבר.
תוך זמן קצר נהפוך לחברה בה לא ניתן לקיים דיון או ויכוח על שום נושא כי אין עובדות או ראיות שאפשר להסכים עליהן. סיפור הרעב בעזה ונזקי המלחמה בכלל, הוא הוכחה טובה לכך - גם תמונות קשות ומזעזעות שנבדקו ואומתו שוב ושוב על ידי עיתונאים ועדי ראייה, הפכו נושא לעימות פוליטי ומחנאי. עדויות ויזואליות מאומתות מתוך אזורי אסון מאבדות בהדרגה את הכוח שלהן לשכנע ולהפוך לבסיס לדיון.
תמונה מזויפת שנוצרה בבינה מלאכותית על מנת לאסוף מידע מגולשים
מי שאמורות לקחת אחריות על הסיפור הזה הן כמובן הפלטפורמות, שמאפשרות את עצם קיומה של התופעה. יש היום כבר לא מעט כלים אוטומטיים טובים שמסוגלים להעריך אם תמונה היא יצירת AI מג'ונרטת. כשהיא מגיעה עם הכיתובים המובהקים ומוטי הרגש, זאת לא אמורה להיות משימה מסובכת מדי לזהות שמדובר ב-SLOP AI.
אבל במטא, הבעלים של פייסבוק ואינסטגרם, לא רוצים לשמוע מזה, וגם לא ברשתות החברתיות האחרות. אין כיום שום מנגנון הגנה בפלטפורמה שמזהיר משתמשים כשתמונה אינה אותנטית. להיפך: האלגוריתם לוקח חלק פעיל בהפצה והמלצה על הדימויים המזויפים האלה והופך אותם לויראליים.
זו כמובן רק דוגמה אחת, עדכנית, לתופעה המשחקת לידי נוכלים ומניפולטורים, פוגעת בבחירות דמוקרטיות ברחבי העולם ומחבלת ביכולת לנהל שיח ציבורי תקין.
צוקרברג, מאסק ושאר הקברניטים של המדיה החברתית, מסרבים לקחת אחריות על התוכן שהפלטפורמות שלהן מפרסמות ועל התפקיד החברתי והפוליטי שלהן.
מה שעוצר כרגע את הפלטפורמות מלהגן על המשתמשים אינה הטכנולוגיה, אלא המדיניות. מדיניות שאנשים קובעים. הבעלים והמנהלים של הרשתות החברתיות, שלא מעוניינים לטפל בתופעה, והמחוקקים שלא מעוניינים לכפות אותם לכך.
עידן רינג הוא מרצה וחוקר תקשורת, סמנכ"ל קהילה וחברה באיגוד האינטרנט הישראלי