מחקר חדש חושף כשלים מדאיגים במערכות אישור הפרסומות של ענקיות המדיה החברתית, מטא ו-X (טוויטר לשעבר), לקראת הבחירות הפדרליות בגרמניה היום. לפי ממצאי ארגון ה-NGO "אקו", שתי הפלטפורמות אישרו פרסומות רבות שהכילו מסרים אלימים של שנאה אנטי-מוסלמית ואנטישמית, למרות הצהרותיהן על מדיניות איסור דברי שטנה.
המחקר בחן אם מערכות סינון הפרסומות האוטומטיות של מטא ו-X יאשרו או ידחו פרסומות המכילות תוכן אלים ושנאה כלפי מיעוטים, זאת ברקע השיח הפוליטי הגרמני בו נושא ההגירה נמצא במרכז. הפרסומות שנשלחו לבדיקה כללו בין היתר ביטויי גנאי אנטי-מוסלמיים קשים, קריאות לאסור מהגרים במחנות ריכוז או להשמידם בגז, ותמונות שנוצרו באמצעות בינה מלאכותית המתארות מסגדים ובתי כנסת עולים באש.
ממצאי המחקר מטרידים במיוחד: X אישרה את כל 10 הפרסומות השנואות שנשלחו לבדיקה, בעוד שמטא אישרה מחצית מהן (5 פרסומות) להצגה בפייסבוק. מטא אמנם דחתה 5 פרסומות אחרות, בנימוק של רגישות פוליטית וחברתית שעלולה להשפיע על ההצבעה, אך הפרסומות שאושרו על ידה כללו דברי שטנה אלימים קשים לא פחות. בין היתר, אושרו פרסומות שהשוו פליטים מוסלמים ל"וירוס", "שרצים" או "מכרסמים", כינו מהגרים מוסלמים "אנסים", וקראו לעקר, לשרוף או להרעיל אותם בגז. בנוסף, מטא אישרה פרסומת שקראה להצתת בתי כנסת כדי "לעצור את סדר היום הגלובליסטי של חולדות יהודיות".
נקודה נוספת שעולה מהמחקר היא שחלק מהפרסומות השתמשו בתמונות שנוצרו על ידי בינה מלאכותית, אך אף אחת מהן לא סומנה ככזו. למרות זאת, מחצית מהפרסומות הללו אושרו על ידי מטא, בניגוד למדיניות החברה המחייבת גילוי שימוש בתמונות AI בפרסומות בנושאי חברה, בחירות או פוליטיקה.
X, כאמור, אישרה את כל 10 הפרסומות, כולל אלו שהשתמשו בדימויים גרפיים קשים ואלו שלא סומנו כ-AI. בין הפרסומות שאושרו על ידי X ניתן למצוא מסרים שתקפו מהגרים "מכרסמים" שטוענים כי הם "מציפים" את המדינה "כדי לגנוב את הדמוקרטיה שלנו", וכן ביטוי אנטישמי שטען כי יהודים משקרים לגבי שינויי האקלים כדי להרוס את התעשייה האירופית ולצבור כוח כלכלי. פרסומת זו אף שילבה תמונה שנוצרה בבינה מלאכותית המתארת קבוצת גברים אפלים יושבים סביב שולחן מוקפים בערימות של מטבעות זהב, עם מגן דוד על הקיר שמעליהם – דימוי המשתמש בסטריאוטיפים אנטישמיים מובהקים.
פרסומת אחרת שאושרה על ידי X תקפה ישירות את מפלגת SPD, מפלגת השמאל-מרכז המובילה כיום את ממשלת הקואליציה בגרמניה, בטענה שקרית כי המפלגה רוצה לקלוט 60 מיליון פליטים מוסלמים מהמזרח התיכון, וניסתה לעורר תגובה אלימה. X גם אישרה פרסומת שהציעה ש"שמאלנים" רוצים "גבולות פתוחים", וקראה להשמדת מוסלמים "אנסים".
אילון מאסק, הבעלים של X, התערב באופן אישי בבחירות בגרמניה באמצעות פלטפורמת המדיה החברתית שלו, בה יש לו קרוב ל-220 מיליון עוקבים. בציוץ בדצמבר, הוא קרא לבוחרים גרמנים לתמוך במפלגת הימין הקיצוני AfD כדי "להציל את גרמניה". הוא אף אירח שידור חי עם מנהיגת AfD, אליס ויידל, ב-X.
ארגון "אקו" השבית את כל פרסומות המבחן לפני שהן יכלו לעלות לאוויר, כדי למנוע חשיפה של משתמשים לדברי השטנה האלימים. הארגון מציין כי הממצאים מדגישים כשלים בולטים בגישת הפלטפורמות לניהול תוכן. במקרה של X, לא ברור כלל האם הפלטפורמה מבצעת סינון פרסומות כלשהו, בהתחשב בכך שכל 10 פרסומות השטנה האלימות אושרו במהירות להצגה. הממצאים גם מעלים חשש שהפלטפורמות מרוויחות כסף מהפצת דברי שטנה אלימים.
המבחן של "אקו" מצביע על כך שאף אחת מהפלטפורמות אינה אוכפת כראוי את האיסורים על דברי שטנה שלטענתן הן מיישמות על תוכן פרסומי. יתרה מכך, במקרה של מטא, "אקו" הגיע למסקנה דומה לאחר שערך מבחן דומה בשנת 2023 לפני כניסתם לתוקף של כללי ממשל מקוונים חדשים של האיחוד האירופי – מה שמרמז שהמשטר החדש לא השפיע על אופן פעולתה.
"הממצאים שלנו מצביעים על כך שמערכות ניהול הפרסומות מבוססות הבינה המלאכותית של מטא נותרו שבורות באופן מהותי, למרות חוק השירותים הדיגיטליים (DSA) שנכנס לתוקף מלא", אמר דובר "אקו" ל-TechCrunch. "במקום לחזק את תהליך בדיקת הפרסומות או מדיניות דברי השטנה שלה, נראה שמטא נסוגה לאחור בכל החזיתות", הוסיף, תוך שהוא מצביע על ההודעה האחרונה של החברה על צמצום מדיניות הפיקוח ואימות העובדות כסימן ל"נסיגה פעילה" שלטענתם מכניסה אותה להתנגשות ישירה עם כללי ה-DSA בנוגע לסיכונים מערכתיים.
ארגון "אקו" הגיש את ממצאיו האחרונים לנציבות האירופית, המפקחת על אכיפת היבטים מרכזיים של ה-DSA על שתי ענקיות המדיה החברתית. הארגון גם מסר כי שיתף את התוצאות עם שתי החברות, אך אף אחת מהן לא הגיבה. האיחוד האירופי פתח בחקירות DSA נגד מטא ו-X, הכוללות חששות לגבי אבטחת בחירות ותוכן בלתי חוקי, אך הנציבות טרם סיימה את ההליכים הללו. עם זאת, כבר באפריל הביעה הנציבות חשד שמטא לא מבצעת פיקוח מספק על פרסומות פוליטיות. החלטה ראשונית בנוגע לחלק מחקירת ה-DSA שלה על X, שהוכרזה ביולי, כללה חשדות שהפלטפורמה אינה עומדת בכללי שקיפות הפרסומות של התקנה. עם זאת, החקירה המלאה, שהחלה בדצמבר 2023, עוסקת גם בסיכוני תוכן בלתי חוקי, והאיחוד האירופי טרם הגיע לממצאים כלשהם בנוגע לרוב החקירה, למרות שעברה יותר משנה.
הפרות מאושרות של ה-DSA עלולות לגרור קנסות של עד 6% מהמחזור השנתי העולמי, בעוד שאי-ציות מערכתי עלול אף להוביל לחסימת גישה אזורית לפלטפורמות מפרות באופן זמני. אבל, לעת עתה, האיחוד האירופי עדיין לוקח את הזמן כדי לגבש את דעתו לגבי חקירות מטא ו-X, כך ש-עד להחלטות סופיות- כל סנקציות DSA נותרו באוויר.
מחקר גובר של החברה האזרחית מצביע על כך שתקנת הממשל המקוון המובילה של האיחוד האירופי כשלה בהגנה על התהליך הדמוקרטי של הכלכלה הגדולה באיחוד האירופי ממגוון איומים מונעי טכנולוגיה. מוקדם יותר השבוע, Global Witness פרסמה את תוצאות הבדיקות של פיד "בשבילך" האלגוריתמי של X ו-TikTok בגרמניה, אשר מצביעות על כך שהפלטפורמות מוטות לטובת קידום תוכן AfD לעומת תוכן ממפלגות פוליטיות אחרות. חוקרי החברה האזרחית גם האשימו את X בחסימת גישה לנתונים כדי למנוע מהם לחקור סיכוני אבטחת בחירות לקראת הבחירות בגרמניה – גישה שה-DSA אמור לאפשר.
"הנציבות האירופית נקטה צעדים חשובים על ידי פתיחת חקירות DSA נגד מטא ו-X, כעת עלינו לראות את הנציבות נוקטת פעולה נחרצת כדי לטפל בחששות שהועלו כחלק מחקירות אלה", אמר גם דובר "אקו". "הממצאים שלנו, לצד עדויות מצטברות מקבוצות חברה אזרחית אחרות, מראים שענקיות הטכנולוגיה לא ינקו את הפלטפורמות שלהן מרצון. מטא ו-X ממשיכות לאפשר לדברי שטנה בלתי חוקיים, הסתה לאלימות ומידע מוטעה על בחירות להתפשט בקנה מידה גדול, למרות חובותיהן החוקיות תחת ה-DSA", הוסיף הדובר.
"רגולטורים חייבים לנקוט פעולה נחרצת – הן באכיפת ה-DSA אך גם למשל ביישום אמצעי מניעה לפני בחירות. זה יכול לכלול כיבוי מערכות המלצה מבוססות פרופילים מיד לפני בחירות, ויישום אמצעי 'שבירת זכוכית' מתאימים אחרים כדי למנוע הגברה אלגוריתמית של תוכן גבולי, כגון תוכן שטנה לקראת בחירות". קבוצת הקמפיין גם מזהירה כי האיחוד האירופי ניצב כעת בפני לחץ מממשל טראמפ לרכך את גישתו לוויסות ענקיות הטכנולוגיה. "במצב הפוליטי הנוכחי, יש סכנה ממשית שהנציבות לא תאכוף באופן מלא את החוקים החדשים הללו כוויתור לארה"ב", הם מעריכים.
