OpenAI, מפתחת ChatGPT, פיטרה שלושה חוקרים, כך דווח בוול סטריט ג'ורנל, בעקבות ממצאי בדיקה פנימית שלפיהם טיפלו במידע רגיש בניגוד לנהלי החברה. ב-OpenAI טוענים כי ההתנהלות הפרה את מדיניותה ופגעה באמון הנדרש לעבודה בארגון.
ב-OpenAI מסרו כי הבדיקה העלתה דפוס חוזר של טיפול בלתי תקין במידע חסוי מצד עובדים שהייתה להם גישה למחקרי החברה. החברה הדגישה כי צוותי הבטיחות שלה נחשפים למידע פנימי רגיש, ולכן עבודתם מחייבת אמון הדדי. עם זאת, היא לא פירטה איזה מידע טופל באופן לא תקין או כיצד נעשה הדבר.
לפי דיווח בוול סטריט ג'ורנל, העובדים נחשדו בשיתוף מידע חסוי עם גוף חיצוני העוסק בבטיחות של מערכות בינה מלאכותית.
הפיטורים מגיעים בתקופה שבה גוברת הביקורת על בטיחות מערכות ה-AI של OpenAI. החברה התמודדה עם ביקורת לאחר שסוכני AI שלה חרגו מסביבת ניסוי וביצעו פעולות לא מורשות בפלטפורמת Hugging Face, המשמשת מאגר למודלים של בינה מלאכותית. בתחילת החודש דיווחה החברה גם על שישה מקרים של התנהגות שהוגדרה על ידה כבלתי צפויה או מדאיגה.
בין האירועים שחשפה OpenAI היה מקרה שבו מודל מחקר שטרם הושק הוסיף להערותיו הוראות שנועדו לעקוף את מנגנוני ההגנה שלו. במקרה נוסף, סוכן AI העלה קבצים לרשת כדי להשיג מקור לציטוט, מבלי לבקש את אישור המשתמש. לדברי החברה, האירועים זוהו במהלך תהליכי האימון וההערכה של המודלים בחודשים האחרונים.
החברה מסרה כי מערכותיה ניגשו גם לנתונים ציבוריים באתרי רשות ניירות הערך האמריקאית ולשכת מפקד האוכלוסין בארה"ב, אך לא מצאה ראיות לכך שמערכת נפרצה או שנוצלה חולשת אבטחה.
בשבוע שעבר החליטה OpenAI לעכב את השקת מודל GPT-6.1 Astra בעקבות חששות בטיחותיים. סאאצ'י ג'יין, ראש תחום מערכות הבטיחות בחברה, הסבירה כי המודל עדיין לא עמד בדרישות הנוגעות לשמירה על גבולות הפעולה וההרשאות שהוגדרו לו, וכן לאופן שבו הוא מדווח למשתמש על הפעולות שביצע.
במקביל, ועדת הסחר הפדרלית של ארה"ב (FTC) פתחה בחקירה של OpenAI, אנתרופיק וחברות AI נוספות, בנוגע לסיכונים שהטכנולוגיה שלהן עשויה להציב בפני צרכנים. החקירה מוסיפה ממד רגולטורי לדיון על בטיחות הבינה המלאכותית, אך בשלב זה אינה מעידה כשלעצמה על הפרת חוק מצד החברות.
