חוקרים מאוניברסיטת סטנפורד חקרו את תופעת הפוסטים הויראליים של תמונות הנוצרות באמצעות בינה מלאכותית (AI-generated images). פוסטים כאלה הפכו נפוצים מאוד ומשמשים למשיכת תשומת לב על-ידי גולשים, לצרכים שונים: הונאות ותרמיות, הפנייה ל"חוות פרסומות" (עמודי אינטרנט חסרי תוכן ממשי ומלאי מודעות) והגברת הפופולריות של משתמש הפייסבוק עצמו.

העובדה שמדובר בפוסטים הנוצרים על ידי בינה מלאכותית אינה מהותית בפני עצמה, כותבים החוקרים במאמר שפורסם ב"נימן לאב" של אוניברסיטת הרווארד. באותו אופן השתמשו ב"מימים" מזוייפים או סתם מודעות שקריות על מנת להשיג מטרות זהות. הבינה המלאכותית פשוט הופכת את ייצור התוכן המזוייף לקל מאות ואלפי מונים.

אולם החוקרים מצאו עוד כי לשינוי שעשתה פייסבוק באלגוריתם שלה ב-2022, במטרה להתחרות בטיקטוק, היתה השפעה על יכולת החדירה של תכנים הנעשים בבינה מלאכותית. פייסבוק שינתה את האלגוריתם כך שיגביר את החשיפה לתכנים שלא נבחרו על ידי המשתמש באופן מודע (לחיצת לייק, חברות או שיתוף).

הדבר הביא לכך ששיעור התוכן שמשתמשים ראו מדפים ומאנשים שהם לא עוקבים אחריהם גדל בהתמדה בין 2021 ל-2023. שינויים באלגוריתם אפשרו יותר מקום להמלצה אורגנית של תוכן שנוצר בבינה מלאכותית, ללא מעורבות מוקדמת של המשתמש.