מלחמת איראן 2 הביאה איתה שיא חדש של תמונות וסרטוני AI מזויפים שמציפים את הרשתות החברתיות עם תיעוד לא אותנטי של ארועים - בעיקר פגיעות ונזקים בתשתיות וערים בישראל ובאיראן. לא פעם, כפי שראינו בעבר, הזיופים האלה מגיעים גם לתקשורת המסורתית.
כך למשל, במהדורה המרכזית של חדשות 12 שיבצו בכתבה על ההתנקשות במנהיג העליון של איראן, עלי חמינאי, תמונת AI מזויפת של גופתו תחת ההריסות, אף שאותו צילום כבר זוהה כלא אמיתי לאחר שהפרשן שלהם, עמית סגל, פרסם אותו בערוץ הטלגרם שלו.
בתוכנית אחרת של חדשות 12, בהגשת עמליה דואק ועופר חדד, שידרו באולפן פתוח סרטון המתעד הפצצה בטהרן, שנוצר ב-AI שמדמה הפצצה בטהרן. בהזדמנות אחר הציג בתוכנית הפרשן הצברי ניר דבורי "הפצצה" שנלקחה בכלל ממשחק מחשב. דבורי לפחות התנצל. בערוץ 14 שידרו את אותו הסרטון שוב ושוב, למרות שכבר התפרסם כי הוא לא אותנטי.
גם בערוץ i24 שידרו סרטון מסימולטור טיסה כאילו היה תיעוד של הפצצה באיראן, הפעם היה זה שרון גל. באותו ערוץ, הפרשן הוותיק צבי יחזקאלי שידר סרטון מזויף של מנהיג כביכול באל קאעדה באפגניסטן, שמביע תמיכה בתקיפה הישראלית באיראן.
הם לא לבד. כלי תקשורת, אישי ציבור ואזרחים רבים נפלו בפח והפיצו תמונות וסרטונים מזויפים על המלחמה. ברשתות החברתיות עצמן סרטונים שמדמים הפצצה בנמל חיפה, בתל אביב או בביירות מביאים מיליוני צפיות.
כעת מסתבר שרבים מהתכנים השקריים האלה לא נוצרו על ידי מדינות אויב או גורמי טרור בניסיון לפגוע בציבור הישראלי - אלא על ידי יוצרי תוכן בטוויטר (X) שמרוויחים כסף ממוניטיזציה (יצירת רווחים מתוכן) של תכנים ויראליים, ומבינים שיש ביקוש לתכני מלחמה ופיצוצים ברגעים האלה ופשוט מספקים את הסחורה.
כבר בשבוע שעבר מיהרו להודיע ברשת החברתית שלא יאפשרו מוניטיזציה ליוצרים שמפרסמים תוכן AI על המלחמה בלי לסמן אותו ככזה. ואולם בימים הראשונים למלחמה, סרטונים שנוצרו במחשב של נפילת טילים בישראל והפלת מטוסים אמריקאיים זכו לעשרות מיליוני צפיות ברחבי העולם.
סביר להניח שגם עם הסנקציות האלה של טוויטר, ככל שהן בכלל ייאכפו, נמשיך לראות תמונות וסרטונים כאלה שמתארים פגיעות טילים, פיצוצים ואירועים שונים שלא התרחשו באמת.
אמנם טכנולוגיות יצירה עם AI הולכות ומשתכללות בקצב מהיר, אבל עדיין יש כמה טיפים חשובים שעשויים לסייע בזיהוי תכנים כאלה וכדאי להכיר וליישם אותם לפני שמשתפים עוד תמונה או סרטון עם החברים או המשפחה. הנה מה שמומחים מובילים וצוות איגוד האינטרנט הישראלי ממליצים לשים לב אליו, במיוחד בתכנים הקשורים בישראל ובשפה העברית:
1. התרחשויות וסאונדים קיצוניים שמעוררים רגש ואימה - מרבית תכני המלחמה מיועדים לעורר רגש קיצוני אצל הצופים ולתאר את רגעי השיא והאימה של הפגיעות במקומות השונים. פיצוצים "מושלמים", להבות אש אדירות, תמרונים של מטוסי קרב או צרחות אימה של אזרחים ברקע. אלה בדרך כלל התרחשויות שקשה מאוד לתפוס בזמן אמת וכדאי להטיל ספק באמיתות שלהן. ככל שזה קיצוני ומדהים יותר כך עולה הסבירות שזה מזויף.
2. סמלים, טקסטים ופונטים משובשים בעברית - רוב מחוללי התמונות עדיין מתקשים עם גרפיקות ופונטים בעברית והם לרוב משובשים. כך גם לגבי סמלים ודרגות צבאיות ולוגואים של גופים שמוכרים לישראלים במבט ראשון. למשל רכב כיבוי אש כחול שלא קיים בישראל, או שלט עם שם מוזר בעברית ואנגלית.
3. פרטים קטנים חסרים או מרוחים כמו ידיים, אצבעות או תכשיטים - אמנם כבר נדיר לראות אצבע שישית, אך במקרים רבים מנח הידיים והאצבעות אינו טבעי או שהן מקופלות או קטועות. גם תווי הפנים עשויים להיראות לא טבעיים. שימו לב לפרטים קטנים כאלה.
4. דמויות מרוחות או קטועות ברקע - בתכני AI פרטים קטנים ברקע פעמים רבות מרוחים, חלקיים או מקוטעים. לכן, אל תסתכלו רק על ההתרחשות הבולטת והמרכזית - חפשו ברקע פרטים חסרים או מוזרים. מתאורה לא הגיונית וצללים לא טבעיים, דרך דמויות זהות לחלוטין או חייל חסר ראש.
5. בדיקת התמונה או הסרטון בחיפוש הפוך בגוגל או בכלי AI - חיפוש הפוך של תמונות (או צילומי מסך של סרטונים) ובדיקה בצ'אטבוטים מבוססי AI הם כלי עזר חשוב ושימושי לבחינת תמונות וסרטונים חשודים. לעיתים אפשר גם למצוא כך תוצאות של בדיקות של גופי בדיקת עובדות. שווה לבדוק, אך חשוב לזכור שזאת לא אינדיקציה ודאית. במקרה של מנועי AI, אם אותו סרטון או תמונה נוצרו באותו הכלי שאיתו אתם בודקים, תוכלו לקבל תשובה ודאית. אבל חשוב לזכור שיש גם כלים אחרים ליצירה, כך שגם אם הכלי לא זיהה זיוף - זה עדיין לא ודאי.
יש עוד אינדיקציות לבדיקה, אבל עבור צרכן המידע מן השורה חמשת הטיפים האלה הם התחלה טובה וחשובה כדי לעורר ספקנות והרגלים בריאים של בדיקת תכנים שאולי נוצרו עם AI - במיוחד בזמן מלחמה או חירום.
בסופו של דבר הטיפ החשוב ביותר הוא להפעיל חשיבה ביקורתית והטלת ספק עקרונית לגבי הסבירות והאותנטיות של פרסומים כאלה. כדאי תמיד לעצור, לשאול ולבדוק לפני שאתם לוקחים חלק בהפצה של תכנים שאולי בכלל נוצרו כדי לפגוע בכם או לייצר רווחים על חשבונכם.
עידן רינג הוא מרצה וחוקר תקשורת. סמנכ"ל קהילה וחברה באיגוד האינטרנט הישראלי