דו"ח חדש של CyberWell שמפורסם היום (שני) חושף כי העלייה בשימוש בכלי בינה מלאכותית ליצירת תמונות, וידאו ואודיו הובילה לזינוק משמעותי בהיקף התוכן האנטישמי ברשתות החברתיות. לפי המחקר, שנחשב לראשון מסוגו, השילוב בין כלי Gen AI נגישים לבין מנגנוני הפצה ברשתות יצר תנאים חדשים להפצה רחבה של תכני שנאה בקצב ובהיקפים שלא נראו בעבר.
המחקר ניתח מאות פוסטים אנטישמיים שנוצרו באמצעות AI בין ינואר 2025 לפברואר 2026. על פי הממצאים, מאגר הנתונים של הארגון כולל יותר מ-300 פריטי תוכן מאומתים, שצברו יחד יותר מ-30 מיליון צפיות ולמעלה מ-2.8 מיליון אינטראקציות בפלטפורמות החברתיות המרכזיות.
בין הכלים ששימשו ליצירת התוכן נמצאו Sora, Veo, Grok ו-Suno. לפי הדו"ח, נעשה בהם שימוש ליצירת סרטונים, שירים ותכנים ויזואליים ששילבו קטעים מאירועי אמת לצד חומרים מזויפים, באופן שהגביר את תחושת האמינות והקשה על זיהוי התוכן ככוזב.
אחת המסקנות המרכזיות היא כי 79% מהתוכן האנטישמי שנבדק הופץ בפלטפורמות מבוססות וידאו, ובראשן טיקטוק, אינסטגרם ויוטיוב. סרטונים קצרים היו הפורמט הדומיננטי, כאשר רבים מהם הופנו במיוחד לקהלים צעירים דרך טרנדים ויראליים, הומור, סאטירה ותוכן גיימינג.
לפי המחקר, תכנים שנוצרו סביב רובלוקס ומיינקראפט שימשו שוב ושוב להטמעת מסרים אנטישמיים בתוך סביבות דיגיטליות פופולריות בקרב ילדים ובני נוער. חלק מהתוכן עסק גם בהכחשת שואה ובהצגתה באופן לעגני, תוך התאמה מכוונת לקהלים צעירים.
בארגון מציינים כי אמנם תוכן אנטישמי מבוסס AI הופיע כבר לפני מתקפת ה-7 באוקטובר, אך לאחר מכן נרשמה עלייה חדה בהיקף החשיפה. לפי הדו"ח, נקודת מפנה משמעותית נוספת נרשמה במהלך העימות האזורי ביוני 2025 בין ארה"ב, איראן וישראל, שמאז חלה עלייה מתמשכת בהפצת תוכן אנטישמי מבוסס AI בפלטפורמות שונות.
טל-אור כהן מונטמאיור, מייסדת ומנכ"לית הארגון, אמרה כי "מערכות בינה מלאכותית שינו באופן יסודי את קנה המידה והמהירות שבהם ניתן לייצר ולהפיץ אנטישמיות ברשת. כיום ניתן לייצר תכני שנאה בהיקפים תעשייתיים ולהגיע למיליונים, כאשר האכיפה מגיעה לרוב רק לאחר שהתוכן כבר הופץ בהיקף רחב".
עוד עולה מהדו"ח כי 33% מהתכנים כללו האדרה או קריאות לאלימות נגד יהודים, אך תכנים אלה היו אחראים ל-41% מכלל האינטראקציות – נתון שמצביע על כך שהתוכן הקיצוני ביותר זוכה לחשיפה רחבה במיוחד. בנוסף, נמצא כי תכנים אלימים שנוצרו באמצעות AI מופיעים בשיעור כפול לעומת תכנים אנטישמיים שנוצרו באופן ידני על ידי משתמשים.
המחקר מצביע גם על פערים משמעותיים באכיפה בין הפלטפורמות. טיקטוק הייתה אחראית ל-36% מהתוכן שנבדק, אך הציגה את שיעור ההסרה הגבוה ביותר – 88%. לעומתה, אינסטגרם ריכזה 65% מכלל האינטראקציות, אף שחלקה מסך הפוסטים היה 25% בלבד. ביוטיוב וב-X שיעורי ההסרה היו נמוכים יותר ועמדו על 28% ו-20% בהתאמה.
ב- CyberWell מדגישים כי גם כאשר תוכן מוסר בסופו של דבר, פעמים רבות הוא נשאר זמין זמן רב מספיק כדי לצבור מאות אלפי ואף מיליוני צפיות לפני התערבות. בארגון קוראים לפלטפורמות להשקיע בזיהוי מתקדם של נרטיבים מזיקים, לרבות תכנים שמשלבים קול, ויזואליה ושפה מקודדת – תחומים שבהם מערכות ניטור מסורתיות מתקשות לזהות הסתה.
