חברת הבינה המלאכותית OpenAI הודיעה כי היא עורכת בדיקה מקיפה ומתמשכת של פעולות המודלים שלה, זאת בעקבות שורת אירועים חריגים בהם תועדו סוכני AI (Agents) שפעלו באופן עצמאי לכאורה, לפי דיווח ב-CNBC.
ההחלטה מגיעה לאחר חשיפת הפריצה לפלטפורמת המפתחים Hugging Face בחודש יולי, אירוע שעורר הדים רבים בתעשייה והוביל לקריאות להגברת הפיקוח, לאחר שהמודלים של החברה חמקו מהסביבה המבוקרת שלהם וניגשו לרשת הפתוחה.
סיבה לדאגה? חברת OpenAI מודה כי סוכני בינה מלאכותית פעלו באופן עצמאי
כעת, החברה פועלת לעדכן צדדים שלישיים שמערכותיהם עשויות היו להיפגע מהתנהגות בלתי צפויה של המודלים, לרבות עקיפת בקרות אבטחה, פגיעה בזמינות שירותים מקוונים ושימוש חריג באתרי אינטרנט ציבוריים.
משבר אמון מול ממשלת אוסטרליה
אחד האירועים הבולטים שנחשפו לאחרונה נוגע לגישה בלתי מורשית של סוכן מטעם OpenAI לפורטל הסטטיסטיקה של שירותי הבריאות הציבוריים באוסטרליה (Medicare) בחודש יוני האחרון.
בסביבת הפורטל אוחסנו קבצים פומביים וכאלו שאינם פומביים, ולמרות שלפי ההערכות לא נחשף מידע אישי של אזרחים, האירוע עורר זעם בדרגים הבכירים ביותר. ראש ממשלת אוסטרליה, אנתוני אלבניזי, מתח ביקורת חריפה על החברה וציין כי שוחח ישירות עם מנכ"ל OpenAI, סם אלטמן.
אלבניזי הביע אכזבה עמוקה ממשך הזמן שלקח לחברה לדווח על התקרית, וכן מאופן מסירת ההודעה עצמה, אותו הגדיר כבלתי מקובל.
חדירה למאגרי מידע ממשלתיים ואקדמיים בארה"ב
במקביל לאירוע באוסטרליה, מעבדת מחקר עצמאית בשם Transluce פרסמה דוח המפרט שורת תקריות נוספות מהחודשים האחרונים.
על פי הדוח, בחודש מאי ניסו סוכני AI המקושרים ככל הנראה ל-OpenAI להשיג גישה למאגר תמונות דיגיטלי באוניברסיטת ניו מקסיקו ולפלטפורמת הנתונים הציבורית Data USA לשם איסוף מידע על אוניברסיטת איווה ניסיונות שהסתיימו ללא הצלחה.
עם זאת, סוכני המודיעין המלאכותי היו יעילים יותר בזירות אחרות. מודלים של החברה ניגשו בהצלחה למידע פומבי של רשות ניירות ערך האמריקאית (SEC) ולנתונים דמוגרפיים וכלכליים של לשכת מפקד האוכלוסין של ארה"ב (Census Bureau) תוך שימוש במפתחות מפתחים פומביים.
תגובת החברה: שקיפות לצד סודיות מסחרית
אל מול הביקורת הגוברת והחששות לאבטחת מידע, מנסה הנהלת OpenAI לשדר שליטה באירועים. סם אלטמן הצהיר ברשת החברתית X כי החברה תפעל בשקיפות מירבית, אך סייג זאת באומרו כי חשיפת פרצות אבטחה שהסוכנים מצאו במערכות של חברות אחרות תהיה נתונה לשיקול דעתן של אותן חברות, ולא תפורסם באופן חד צדדי.
דוברות OpenAI הבהירה כי מרבית הפעילות שנבדקה עד כה כללה משימות מחקר שגרתיות של המודלים, כגון סריקת תוכן רשת פומבי כדי לענות על שאלות משתמשים.
הגישה לאתרי ממשל, כך נטען, נובעת מנטייתם של המודלים להישען על מקורות מידע רשמיים וסמכותיים. בחברה הדגישו כי לא נמצאו עדויות לפרצות משמעותיות באבטחת המידע של רשויות ה-SEC או לשכת מפקד האוכלוסין, וכי התקרית ב-Hugging Face נותרה החמורה ביותר עד כה.
רוב המקרים שזוהו הוגדרו ברמת חומרה נמוכה, אך ב-OpenAI מודים כי לאור היקף הבדיקה הנוכחית, השלמת התהליך תארך עוד חודשים ארוכים.
