עליית הבינה המלאכותית ויישומיה הרבים והיום-יומיים הביאו לחיינו בשנה האחרונה גל של תופעות AI שהוגדרו "הראשונות"' מ"המלחמה הראשונה של עידן ה-AI" ועד ל"בחירות הראשונות בעידן ה-AI". החודש חזינו ב"הפלת השלטון הראשונה של עידן ה-AI": החטיפה של ניקולאס מדורו, רודן ונצואלה, על-ידי כוחות ארה"ב. ה"ניו יורק טיימס" תיאר את האירוע במילים "הפעם הראשונה בהיסטוריה בה נעשה שימוש בדימויים תוצרת AI כדי להציג אישי ציבור תוך כדי התרחשות אירוע היסטורי".

בהיסטוריה של הבינה המלאכותית, מה שהתרחש סביב חטיפת מאדורו כנראה ייזכר כקו פרשת המים בתפקיד של דימויים מזוייפים באמצעות AI בסיקור ותיעוד של אירועים חדשותיים. הקלות והמהירות בה ניתן כעת ליצור דימויים מזויפים שנראים אותנטיים לחלוטין והמהירות בה ניתן להפיץ אותם תוך כדי התרחשויות אקטואליות נפיצות, משבש לחלוטין את היכולת של עיתונאים ושל צרכני תקשורת להבדיל בין אמת ובדיה והופך את הכלים הללו למאיימים והרסניים מתמיד.

במקרה של מאדורו, הדימויים הסינתטיים המזוייפים של החטיפה נוצרו והופצו ברשת ככל הנראה כדי למשוך תשומת לב ולייצר מעורבות וטראפיק. למעט תמונה אחת שהופצה על ידי ממשל טראמפ לא היה בנמצא תיעוד של האירועים, והיו מי שמיהרו לנצל את החלל הזה ביצירת והפצת תמונות AI מזויפות של רגעי החטיפה של מאדורו בונצואלה והורדתו מהמטוס בשדה התעופה בניו-יורק.

התמונות שטפו את הרשתות ופורסמו ברשתות חברתיות ברחבי העולם ומשם גם בערוצי תקשורת ואתרי חדשות, גם בישראל. חלקם נמחקו לאחר שהתבררו כמזויפים ולאחר שהופצו תמונות רשמיות של סוכנות רויטרס, אבל התמונות המזויפות כבר נכנסו לזרם התודעה של הרשתות החברתיות וסביר שיצופו בהמשך ללא הגבלה.

בדיווח של ה"ניו יורק טיימס" ציינו את הסוד הגלוי: על אף שמנועי ה-AI הגנרטיבי המובילים אוסרים לכאורה על יצירת דימויים מזוייפים של מנהיגי מדינות ואישי ציבור, בחלקם עדיין היה אפשר לייצר תמונות של מאדורו. מנועים אחרים, למשל גרוק של אילון מאסק, אפילו לא מתיימרים להגביל את היכולת לזייף תמונות של דמויות ציבוריות.

הזיופים שנפוצו סביב חטיפת מאדורו הם דוגמה אחת לאופן בו בעלי אינטרס משתמשים במנועי ה-AI הגנרטיביים על מנת להונות את הציבור ולייצר תודעה כוזבת ביחס לאירועים. דוגמה אחרת היא המחאה נגד הפעילות של ICE - סוכנות ההגירה של ממשל טראמפ שמטילה אימה על מהגרים ואזרחים חסרי מעמד ברחבי ארה"ב ומעוררת ביקורת עזה.

על רקע העימותים הגוברים והירי במפגינה במינסוטה החלו לצוץ ברשתות סרטונים בהם נראים שוטרים, אזרחים ונציגי רשויות מקומיות מתעמתים עם סוכני ICE ואף פוגעים בהם פיזית או עוצרים אותם - רובם ככולם מזויפים לחלוטין. יתכן שנוצרו על-ידי מתנגדים לסוכנות במטרה ללבות את המחאה נגדה, יתכן שמדובר ביוזמה של מדינות זרות המעוניינות לערער את החברה בארה"ב. אולי שתי התשובות נכונות.

בו בזמן התברר כי גרוק מאפשר למשתמשים להפשיט דמויות שגולשים מעלים את התמונות שלהן לטוויטר (X) ולהציגן בלבוש מינימלי ובתנוחות מיניות, בין אם מדובר בדמויות ציבוריות, באנשים פרטיים וגם בקטינים וקטינות. בתחילת החודש שעבר באנגליה עצרו את תנועת הרכבות בצפון-מערב אנגליה בעקבות הפצת סרטון מזויף בו נראה גשר קורס לאחר שפקדה את האזור רעידת אדמה.

כאן בישראל הופצו בשבועות האחרונים בטלגרם, ווטסאפ וברשתות החברתיות תמונות מזויפות של בני משפחת נתניהו - של הבן יאיר כשהוא כביכול נפגש עם בכיר קטארי ושל שרה נתניהו כשהיא כביכול פרועת שיער בחלוק במרפסת בית-דירות במיאמי. סוכנות רויטרס אף טרחה לפרסם הפרכה רשמית לתמונה המזויפת.

קהל היעד של התמונות הללו לא צריך יותר מדי הוכחות ולא שואל יותר מדי שאלות: הן מייצגות את הנחות היסוד שלו על משפחת נתניהו והופצו בלי חשבון במעגלים רחבים, למרות שהיו שקריות לחלוטין ונוצרו באמצעות בינה מלאכותית.

כל המקרים הללו, ורבים אחרים, הדגימו כיצד כללי הבטיחות והמודרציה הוולונטריים של פלטפורמות AI כשלו לחלוטין מול בקשות פוגעניות של משתמשים, וכי לא ניתן לסמוך עליהן שיגנו על הציבור וימנעו שימוש לרעה ביכולות שהן מציעות.

המושג "פייק ניוז" נכנס לשיח הציבורי הגלובלי בעקבות הנסיונות של דונלד טראמפ לתקוף את כלי התקשורת בקמפיין הבחירות הראשון שלו ב-2016, והפך למטבע לשון שחוק שמשמש יריבים פוליטיים כאמצעי רטורי. ב-2026 "פייק ניוז" הוא מציאות ברורה, נוכחת ונפוצה. הגענו לרגע בו אנו מתמודדים באופן מוחשי ועקבי עם זיוף של אירועים חדשותיים שמופץ ומתקבל כתיעוד אותנטי ברשתות החברתיות ומשם בתקשורת הממוסדת.

כשמדובר באירועים אקטואליים או קונפליקטים רגישים - אם זה מלחמה, פיגוע, מחאה, מגפה או בחירות - המהירות הרבה בה ניתן ליצור ולהפיץ דימויים שקריים שנראים אותנטיים לחלוטין אל מול הזמן שלוקח להפריך ולעצור את הפצתם, במיוחד במציאות בה אזרחים פונים למקורות מידע בטלגרם, בווטסאפ או בטוויטר לפני שהם פותחים אתר חדשות - היא הרסנית.

כלי היצירה הג'נרטיביים מתקדמים בקצב מסחרר. הם הופכים ליעילים, נגישים ומדויקים יותר ומתברר שכל אחד יכול להשתמש בהם באופן הרסני. לעומת זאת, בניגוד מוחלט להתפתחות הטכנולוגית המואצת, האסדרה והפיקוח על הכלים הללו נשארים הרחק מאחור. כמו במקרה של ההפצה האלגוריתמית ברשתות החברתיות, גם בשוק ה-AI האינטרסים והביטחון של האזרחים והחברות הדמוקרטיות הופקר לחלוטין.

בשבועות האחרונים נערכו בכנסת מספר דיונים וישיבות בסוגיית ההיערכות לנסיונות שיבוש והתערבות בבחירות לכנסת ה-26, שייערכו במהלך השנה הקרובה. תכנים מזוייפים באמצעות AI שיופצו ברשתות החברתיות צפויים לככב במערכת הבחירות בישראל כפי שראינו כבר במערכות בחירות ברחבי העולם, ויש להן פוטנציאל הרסני ומסוכן.

בדיון בוועדת המדע והטכנולוגיה אמרו נציגי ועדת הבחירות המרכזית כי הם "מקיימים שיחות אישיות עם נציגי הרשתות החברתיות" במסגרת ההיערכות לבחירות ומתכננים גם קמפיין "מודעות ציבורית" שיזהיר מפני הפצה של תוכן שקרי. במילים אחרות: במקום שהמחוקקים יפעלו לתקן רגולציה שתטפל באיומים הטכנולוגיים הללו, מטילים את האחריות על הציבור ומבקשים מהחברות המסחריות שיפקחו על עצמן.

הפצה של תמונה מזויפת אחת או סרטון מזויף אחד, משכנעים ומניפולטיביים מספיק, בבוקר הבחירות או ביום שלפניו, יכולה להכריע בחירות. לא חסרים מי שירצו לעשות זאת, ולא רק בין השחקנים בזירה הפוליטית שלנו. בשנה האחרונה כבר ראינו את עומק החדירה וההשפעה של גורמים זרים ומקומיים ברשתות החברתיות והיכולת שלהם לבצע מניפולציות על הציבור.

כדי שתהליך הבחירות יוכל להתקיים באופן חופשי ותקין גם במציאות של מנועי בינה מלאכותית המאפשרים לייצר כל זיוף שתעלו על הדעת, ושל רשתות חברתיות שמאפשרות להפיץ כל זיוף באופן חופשי וללא מגבלות, המדינה חייבת לאסדר את פעילות תאגידי הטכנולוגיה ולפקח עליהן - הן אלו שמפעילים את הרשתות והן אלו שמפעילים את מנועי ה-AI. רגולציה ברורה, שקופה, תקיפה ואפקטיבית שתמנע שימוש לרעה שיכול להשפיע על המהלך התקין של הבחירות.

זה אינטרס ציבורי שאמור להיות משותף לכלל המפלגות והפוליטיקאים - בהנחה שהם רוצים הליך בחירות הוגן, חופשי ותקין. חובת ההוכחה עליהם.

עידן רינג הוא מרצה וחוקר תקשורת. סמנכ"ל קהילה וחברה באיגוד האינטרנט הישראלי