דמיינו שבוע לפני בחירות, ובו מופץ סרטון קצר ומשכנע. פוליטיקאי בכיר "נתפס" אומר משהו שלא היה מעז לומר בקול. תוך שעות כולם מדברים על זה. ואז מתברר, זה דיפ-פייק. אבל הנזק כבר נעשה: גם כשאנחנו מגלים שזה שקר, הוא נכנס לנו לתודעה ולזיכרון, ובטווח הארוך עלול "להתערבב" עם עובדות אמיתיות.

וזה לא נגמר בפוליטיקה: כל אחד ואחת מאיתנו עלולים להפוך לקורבנות של זיוף עמוק. אחת התופעות המטרידות ביותר היא הפצה ללא הסכמה של תמונות וסרטונים מזויפים בעלי אופי מיני. גם כשהסרטון לא אמיתי, הכאב, הבושה והפגיעה אמיתיים מאוד.

זיופים תמיד היו, לא מדובר בתופעה חדשה. אבל כשכלי בינה מלאכותית מסוגלים לייצר תכנים סינתטיים שנראים אותנטיים וריאליסטיים, והופכים זמינים לכל דורש, כל אחד יכול לייצר "ראיות" ו"עובדות" משכנעות ביותר, שלא היו ולא נבראו.

בשבוע שעבר נערך בברלין דיון של מומחים בנושא זה. האירוע נערך ביוזמת המרכז לחקר הסייבר, משפט ומדיניות של אוניברסיטת חיפה, בהובלתנו, במסגרת הפסגה המדעית השנתית בברלין בחסות קרן Falling Walls.

מומחים מהאקדמיה, התעשייה והממשל דנו בבעיה של מדיה סינתטית העלולה לפגוע בדמוקרטיה ובזכויות האדם, להוליך שולל את הציבור ולערער את אמונו באמת כלשהי. אם לא נפעל בשיתוף פעולה רחב וגלובלי, נאבד את היכולת להבחין בין אמת לשקר. בשולחן העגול עוד עלה כי הציבור לא תמיד מחפש אמת, כי אם חיזוקים לאמונות ודעות קודמות. במילים פשוטות: אם הדיפ-פייק תואם את הדימוי, או אפילו חשד, שכבר יש לנו על פוליטיקאי, נרצה להאמין לו. כשזה המצב, גם סימון "זה מזויף" לא בהכרח יעזור.

לאחרונה (ב-5 בנובמבר) הודיעה נציבות האיחוד האירופי על הקמת ועדת מומחים שתבדוק מנגנוני סימון ואימות של תוכן, במסגרת החיוב הקיים בחוק הבינה המלאכותית של האיחוד האירופאי. זה צעד חשוב, אבל נראה שהסימון הוא רק חלק מהפתרון, שכן כאמור, גם כשאנחנו יודעים שמשהו מזויף, הוא עדיין עלול להשפיע עלינו.

לפתרון הבעיה נדרש שילוב של מגוון פתרונות מותאמים בכמה מימדים - טכנולוגי, חינוכי, פסיכולוגי, תקשורתי, אתי, משפטי ועוד. לצד פיתוח כלים לזיהוי וסימון תכנים אותנטיים, יש להיזהר מצנזורת יתר ומפגיעה בחופש ביטוי. במקביל יש להקנות לציבור הרגלים של חשיבה ביקורתית לפני שיתוף או מתן אמון בתכנים, ולחזק כישורי אמפתיה, המסייעת לצמצום השפעת הכזב, כפי שעלה בדיון שולחן העגול.

חשוב בנוסף לחקור ולהבין כיצד תוכן מזויף פועל עלינו מבחינה תקשורתית (כיצד הוא מופץ) ומבחינה פסיכולוגית (מה מחזק מניפולציות ומה מחליש אותן). לבסוף, יש לקדם רגולציה שתמנע שימושים פוגעניים ותספק הגנה לנפגעים, ולחייב את חברות הטכנולוגיה והפלטפורמות החברתיות לשקיפות ולנטילת אחריות, במקום להשאיר להן שיקול דעת בלעדי בתחום. עליהן לפעול אקטיבית, תחת פיקוח ציבורי, לצמצום הפצת כזב ולהתמודדות עם ניסיונות השפעה עוינים על תודעת הציבור.

ומה לגבי הפוליטיקה והדמוקרטיה בישראל? כשאנחנו מדברים על הבחירות הקרובות, למשל, צריך להודות: החוק הישראלי לא מותאם לעידן שבו סרטון מזויף יכול להפוך ויראלי ללא בקרה. גם ההחלטה שניתנה בוועדת הבחירות ביחס לדיפ-פייק שהופץ על ח"כ יאיר לפיד, שקבעה שכל עוד ברור שמדובר בסרטון פיקטיבי ומסומן ככזה - ניתן להפיצו, אינה נותנת פתרון לתופעה, כפי שהוסבר למעלה.

השאלה היא לא רק איך מזהים דיפ-פייק, אלא גם איך שומרים על בחירות הוגנות כשהמציאות עצמה נזילה. הדיון הציבורי שכבר מתחיל בישראל על תיקון חוק הבחירות, הוא לא דיון טכני. זה דיון על עצם היכולת שלנו לקיים דמוקרטיה לאורך זמן, כזו שמקדשת את האמת על פני הכזב, אך במקביל אינה פוגעת בחופש הביטוי.

בעודנו מחפשים פתרון משולב, רב-תחומי ובעל רבדים שונים, כזה שידרוש שילוב כוחות של סקטורים שונים: אקדמי, ציבורי, עסקי ופרטי, תוך שילוב של מספר תחומי ידע, כולל טכנולוגיה, משפט, אתיקה, פסיכולוגיה ותקשורת, המפגש בברלין חידד דבר אחד: העתיד של הדמוקרטיות תלוי לא רק בטכנולוגיה שתבדיל בין מזויף לאמיתי וברגולציה לבקרה על הפצת מידע כוזב, הוא תלוי קודם כל בנו! ביום־יום, כשנראה סרטון “מטורף ומפתיע” שמגיע אלינו, זו האחריות שלנו לבחון, להטיל ספק ולבדוק האם מדובר באמת או בשקר, ולהימנע מלתרום להפצת זיופים וכזב.

פרופ' עירית הדר היא ראש המרכז לחקר הסייבר, משפט ומדיניות, אוניברסיטת חיפה; פרופ' עדי עקביה היא ראש תת-המרכז לחקר הביומטריה, אוניברסיטת חיפה; ד"ר דלית קן-דרור פלדמן היא מנהלת מדעית, המרכז לחקר הסייבר, משפט ומדיניות, אוניברסיטת חיפה