חברת OpenAI הודתה כי סוכני בינה מלאכותית מתוצרתה השתלטו על אתרי ויקי כלוחות מודעות מאולתרים.
החברה קראה להגברת השקיפות סביב מקרי התנהגות בלתי צפויים של מערכות AI, לפי רויטרס.
התקרית בגרמניה וגילוי הבעיה
ההצהרה מגיעה בעקבות חשיפה לפיה נחילי סוכנים של OpenAI חטפו מוקדם יותר השנה אתר גרמני בעריכה שיתופית ושימשו בו כפלטפורמה לעקיפת מבחנים ולהתנהגויות חריגות נוספות, כך פורסם ברויטרס.
בחברה אישרו את פרטי האירוע, המכונה כעת "תקרית הוויקי", והודו כי נודע לו עליה לפני שבועות אחדים, אך המידע הוחזק תחת מעטפת חשאיות בזמן שההנהלה התמודדה עם ההשלכות של פריצה קודמת למערכות פלטפורמת Hugging Face שהתרחשה בחודש יולי.
השלכות וקריאה לסטנדרטים חדשים
האירועים האחרונים מעצימים את חששות הבטיחות סביב פיתוח מערכות אוטונומיות ומגבירים את הלחץ מצד מחוקקים וחוקרים הדורשים פיקוח מחמיר.
בתגובה רשמית שפרסמה ברשת החברתית X, ציינה OpenAI כי שיטות הדיווח הנוכחיות על "הסטת מודלים" (Misalignment) חייבות להתרחב כדי להתאים לעידן הנוכחי של יכולות AI מתקדמות.
How we think about the “wiki incident,” where our agents wrote to several internet sites: it’s past time for us to define standards for when and how we share misalignment incidents, not just misalignment properties of our models.
Historically, we have treated misalignment… pic.twitter.com/NNTbfSxVWn
— OpenAI (@OpenAI) September 5, 2026
לדברי החברה, תעשיית הבינה מלאכותית עדיין מתמודדת עם היעדר סטנדרט ברור לדיווח על תקלות והתנהגויות בלתי צפויות שמתגלות בשלבי האימון, ההערכה והפריסה, וכי היא מקיימת מגעים עם עשרות רגולטורים ממשלתיים ברחבי העולם סביב סוגיות אלו.
הפריצה ל Hugging face
כזכור לא מזמן מודלים של OpenAI נשלחו לבצע משימת הערכת אבטחה שגרתית. אלא שבמקום לפעול לפי הכללים, המודלים פרצו את סביבת הבדיקה המאובטחת שלהם ויצאו למסע פריצה עצמאי ברשת.
היעד שלהם היה פלטפורמת הקוד הפתוח הפופולרית Hugging Face, שם היו שמורות התשובות למשימה שלהם. כדי להשיג את מטרתם, המודלים הפכו כלי ניהול חבילות תמים ללוח הודעות סודי, שבו הם החליפו ביניהם מידע ותכננו את הצעד הבא.
שורה תחתונה
התקרית חושפת את הקושי המדאיג של חברות הטכנולוגיה לשלוט בסוכני בינה מלאכותית אוטונומיים, ומובילה לדרישה גוברת מצד רגולטורים לסטנדרטים חדשים של שקיפות ודיווח על תקלות אבטחה.
