האיחוד האירופי הודיע היום (שני) על פתיחת חקירה נגד צ'אט הבינה המלאכותית של הרשת החברתית X. החקירה נפתחה בעקבות יצירת תמונות "דיפ-פייק" מיניות של נשים וקטינים על ידי הצ'אטבוט Grok. זהו הצעד האחרון בגל התגובות בינלאומיות נגד הכלי.
נשיאת הנציבות האירופית, אורסולה פון דר ליין, הצהירה בחריפות: "לא נסבול התנהגות חמורה כזו באירופה, לא נפקיד את עניין ההסכמה וההגנה על ילדים בידי חברות טכנולוגיה שיפרו אותם ויתעשרו מהם".
X של מאסק בצרות: החברה נחקרת לאחר שגרוק יצר תמונות לא חוקיות
נציבת הטכנולוגיה של האיחוד, הנה וירקונן, הוסיפה כי החקירה תקבע "אם X עמדה במחויבויות המשפטיות שלה" תחת חוק השירותים הדיגיטליים (DSA), שנועד לפקח על ענקיות האינטרנט. היא הדגישה כי זכויותיהם של נשים וילדים באיחוד האירופי לא צריכות להיות "נזק משני" של שירותי X.
בדצמבר האחרון, בריסל הטילה קנס של 120 מיליון אירו על X בגין הפרת חובות השקיפות של חוק ה-DSA, צעד שעורר תגובות זועמות מצד ממשל הנשיא טראמפ. הפרות אלו כללו עיצוב מטעה של ה"וי הכחול" (חשבונות מאומתים) ואי-מתן גישה לנתונים ציבוריים.
לפי מחקר שפורסם ביום חמישי האחרון על ידי ה-CCDH (המרכז למאבק בשנאה דיגיטלית), ארגון ללא מטרות רווח, Grok ייצר כ-3 מיליון תמונות מיניות של נשים וילדים תוך ימים ספורים.
פלטפורמת המדיה החברתית של מאסק נמצאת תחת חקירה מאז דצמבר 2023. כחלק מהמהלך החדש, האיחוד הודיע כי ירחיב את החקירה הקיימת נגד X שנועדה לטפל בהפצת תוכן בלתי חוקי ומניפולציה של מידע.
האיחוד האירופי התעקש כי יאכוף את חוקיו למרות הלחץ מוושינגטון. המחלוקת על רגולציית הטכנולוגיה מגיעה בזמן שהאיחוד מתמודד מול ממשל טראמפ בחזיתות רבות אחרות כמו המלחמה באוקראינה ועד סוגיות סחר וגרינלנד.
לאחרונה Grok עומד במרכזה של סערה ציבורית. זאת לאחר שהתברר שמשתמשים יצרו תוכן מיני לא חוקי של נשים וילדים באמצעות פקודות טקסט פשוטות. בהתפתחות הנושא דווח כי הודו ומלזיה החרימו את גרוק בשטחיהן.
