xAI של אילון מאסק ספגה ביקורות נוקבות מצד המשתמשים לאחר שצ'אטבוט הבינה המלאכותית, גרוק, יצר תמונות מיניות של ילדים בתגובה לבקשות המשתמש. בתגובה למשתמש ברשת החברתית X בסוף השבוע, ציינה החברה כי היא מתקנת בדחיפות את הבעיה וכינתה חומרים המציגים התעללות מינית בילדים "בלתי חוקיים ואסורים", כך דווח ב-CNBC.
בתגובות למשתמשים, החברה גם אמרה כי חברה עלולה לעמוד בפני עונשים פליליים או אזרחיים אם היא ביודעין מאפשרת או נכשלת במניעת תוכן מסוג זה לאחר שקיבלה התראה. עם זאת, פוסטים של גרוק הם הודעות שנוצרו על ידי בינה מלאכותית ואינם מהווים תחליף להצהרות רשמיות של החברה.
For reporting suspected AI-generated CSAM, contact the FBI at https://t.co/EGLrhFD3U6 or the National Center for Missing & Exploited Children (NCMEC) CyberTipline at https://t.co/nHHDq2N0sB. The U.S. Department of Justice oversees related prosecutions under laws like the ENFORCE…
— Grok (@grok) January 2, 2026
חברת הבינה המלאכותית xAI של מאסק, שיצרה את גרוק והתמזגה עם X בשנה שעברה, הכחישה את הטענות ואמרה ל-CNBC כי אלו "שקרים מהדור הקודם של התקשורת".
משתמשים ב-X העלו חששות בימים האחרונים בנוגע לתוכן מפורש של קטינים, כולל ילדים הלובשים בגדים מינימליסטיים, שנוצר באמצעות גרוק. באתר של הרשת החברתית נוסף כפתור "עריכת תמונה" לצד תמונות, המאפשר לכל משתמש לשנות אותן באמצעות הנחיות טקסט וללא הסכמת המפרסם המקורי.
ביום שישי פרסמו גורמים ממשלתיים בהודו ובצרפת הצהרות בהן הבטיחו לבדוק את הנושא. ועדת הסחר הפדרלית סירבה להגיב, בעוד ועדת התקשורת הפדרלית לא הגיבה.
התפשטותן של פלטפורמות ליצירת תמונות מבוססות בינה מלאכותית מאז השקת ChatGPT בשנת 2022 העלתה חששות בנוגע למניפולציה של תוכן ובטיחות מקוונת באופן כללי. היא גם תרמה למספר הולך וגדל של פלטפורמות שייצרו תמונות עירום מזויפות של אנשים אמיתיים.
בעוד שצ’אטבוטים אחרים התמודדו עם בעיות דומות, xAI נקלעת שוב ושוב למצבים של שימוש לרעה או פגמים לכאורה בעיצוב או בטכנולוגיה הבסיסית של גרוק.
″ישנם מספר דברים שחברות יכולות לעשות כדי למנוע שימוש בכלי הבינה המלאכותית שלהן באופן זה”, אמר דיוויד ת'יל, חוקר אמון ובטיחות. "הדבר החשוב ביותר במקרה זה יהיה להסיר את היכולת לשנות תמונות שהועלו על ידי משתמשים".
במאי האחרון, X התמודדה עם תגובת נגד לאחר שגרוק פרסם הערות לא רצויות על "רצח עם לבן" בדרום אפריקה .חודשיים לאחר מכן, גרוק פרסם הערות אנטישמיות ושיבח את אדולף היטלר. למרות המכשולים, xAI המשיכה להשיג שותפויות ועסקאות.
משרד ההגנה בארה"ב הוסיף את גרוק לפלטפורמת סוכני הבינה המלאכותית שלו בחודש שעבר, והכלי משמש כצ'אטבוט העיקרי עבור פלטפורמות הימורי החיזוי Polymarket ו-Kalshi.
