שר החינוך שלנו, יואב קיש, סיפק בשבוע שעבר דוגמה לשימושים המכוערים של פוליטיקאים בכלי בינה מלאכותית: קיש הציג את דמותה של חברת הכנסת נעמה לזימי, ממפלגת הדמוקרטים, כשהיא מדליקה מדורה בהפגנה ברחוב. אירוע שלטענת לזימי כלל לא התרחש ושבכל מקרה, זויף על-ידי השר מהליכוד.

זוהי רק עוד המחשה לאתגרים שיעמדו בפני החקיקה החדשה שיזמה ועדת הבחירות, המחייבת פוליטיקאים ומפלגות לסמן באופן ברור ומוגדר תכנים שנוצרו בבינה מלאכותית. החוק הוא צעד חשוב בכיוון הנכון, אבל הוא לבדו לא יספיק כדי להצליח במאבק הקריטי על טוהר הבחירות בעידן הדיגיטלי.

הבעיה הראשונה עם החוק היא ההגדרה העמומה והרחבה למדי של התוכן הדורש סימון. החוק מכניס למשפט ולשפה העברית מושג חדש בשם "נחזות עמוקה", תרגום למושג הלועזי "דיפ-פייק" (Deep Fake). אבל האם סימון כל תוכן שעבר טיפול בכלי AI יסייע בפועל לבוחרים, במציאות שבה כלי AI הופכים מעורבים בכמעט כל עבודה גרפית?

הכוונה המקורית היא כמובן לסמן תכני AI המתחזים לאמיתיים או מזייפים אירוע שלא היה (למשל הסרטון שמראה את לזימי מדליקה שריפות או את איזנקוט מתחבק עם מנסור עבאס), אבל מה לגבי תיקון ושיפוץ קוסמטי של תמונות וסרטונים אותנטיים, או תעמולת סלופ סאטירית שברור שאינה אמיתית ונועדה לצרוב תודעה? סימון יתר הוא גול עצמי: אם הכל מסומן אין משמעות לסימון.

בעיה משמעותית נוספת היא האכיפה. האם יהיו סנקציות על פרסום תוכן ללא סימון מעבר להסרה או הוספת הסימון החסר? יום לאחר העברת החוק כבר ראינו את יונתן אוריך מפרסם תכנים ללא סימון ומסיר אותם לאחר זמן קצר – אחרי שכבר הופצו ברשת. ראינו גם סרטונים שהוסרו באיחור של שבועות (כמו הסרטון של גדי איזנקוט לצד חיילים מג'ורנטים, שעבר על הוראה אחרת).

אם זו מהירות התגובה ואלו העונשים, החוק הופך לחסר משמעות. תוכן שמופץ היטב צריך זמן קצר כדי להפוך לויראלי ומרגע זה אין משמעות להסרתו מהחשבון המקורי. וכמובן, החוק חל רק על חשבונות רשמיים, והרי המפלגות יכולות להפיץ את התעמולה האסורה או הלא מסומנת בחשבונות פרוקסי לא מסומנים או דרך פעילים ותומכים.

אלו האתגרים שהחוק לא עומד בהם ביחס לקהל היעד הישיר שלו: המפלגות והפוליטיקאים, אבל ישנו קהל יעד חשוב לא פחות שהחוק כלל לא נדרש אליו: הרשתות החברתיות עצמן. החקיקה החדשה חייבת להתרחב גם לעבר הטלת אחריות ודרישה מהפלטפורמות לנהוג בהתאם לחוק ולפעול באופן עצמאי לסימון של תעמולה בכלל ותעמולה סינתטית בפרט.

לרשתות החברתיות יש את הכלים לעשות זאת, בדיוק כפי שהן יודעות לאכוף את הכללים הפנימיים שלהן עצמן. באותו אופן הן יודעות ומסוגלות להסיר תכנים שלא עומדים בדרישות החוק החדש. צריך רק לדרוש מהן לעשות זאת. בישראל אין חוק המפקח על הרשתות, למרות שמדובר בפלטפורמות המידע הגדולות והמשפיעות בישראל. תקופת הבחירות היא הזדמנות מצוינת להתחיל.

וכמובן, לצד החקיקה חובה לקדם עירנות, מודעות ואוריינות של ציבור הבוחרים. במציאות של שיח בחירות דיגיטלי, סינתטי ואלגוריתמי חייבים לתת לבוחרים כלים ויכולות לבחון מידע ומסרים באופן ביקורתי בעצמם ולהיזהר ממסרים מזויפים או מניפולטיביים.

האיומים וניסיונות ההתערבות רבים כל כך שכלל לא ברור אם יגיעו בצורת תכני AI או במניפולציות פשוטות יותר ברגע האמת של יום הבחירות. כמו במלחמה עם איראן, גם בבחירות ייתכן שהפייקים הכי גרועים לא יהיו מתוחכמים במיוחד ולא יסומנו.

ועדת הבחירות כבר התחילה לעבוד באפיק של חינוך הציבור וחשוב שתמשיך ותרחיב את המהלך הזה. הבוחרים חייבים לדעת שהבחירות האלה שונות מכל מה שהכרנו בעבר. חשוב לדבר לקבוצות בכל השפות – שקרים ומניפולציות יכולים להגיע גם בערבית או רוסית או כל שפה אחרת וחשוב שוועדת הבחירות והמדינה יעניקו לכלל הבוחרים מקור מידע אמין, בטוח וודאי מול הצפת הרעש והשקרים שכבר מתחילות למלא את הרשתות – ורק תגבר ככל שנתקרב אליהן.

עידן רינג הוא מרצה וחוקר תקשורת. סמנכ"ל קהילה וחברה באיגוד האינטרנט הישראלי