אתמול (ד'), חברת מטא הודיעה כי אחד ממודלי ה-AI שלה פרץ לחברה אחרת במהלך בדיקות סייבר. המודל "ניצל פגיעות אבטחה בשירות של צד שלישי", מסרה מטא בהודעה מטעמה.
ניסיון הפריצה מעורר מחדש את החששות לגבי יכולתן של מפתחות ה-AI להכיל ולרסן מערכות מתקדמות בעלות יכולות הולכות וגדולות – זאת לאחר אירועים דומים שהתרחשו אצל המתחרות אנתרופיק ו-OpenAI.
לאחר ההודעה, מניית מטא התחזקה בכ-0.32% במסחר המאוחר בבורסת נאסד"ק.
התקריות במטא ובאנתרופיק נבעו משגיאות הגדרה שמאפשרת למודלים גישה לאינטרנט הפתוח. במקרה של OpenAI, סוכן AI ניצל באופן עצמאי, פגיעויות לא מוכרות, כדי להגיע לאינטרנט במהלך בדיקות סייבר.
אובדן שליטה? המודלים של אנתרופיק ו-OpenAI שוב פרצו את ההרשאות
חששות גוברים ורגולציה
הפריצות האחרונות מדגישות חששות גוברים לכך שמערכות AI מתקדמות עלולות לייצר סיכוני סייבר חדשים.
הדבר צפוי להגביר את מאמצי הממשל האמריקאי לשפר את בטיחות ה-AI, בזמן שהחברות מאיצות במרוץ לפתח מודלים חזקים יותר.
מספר מנהיגים בולטים בתחום ה-AI כבר טענו כי יש להאט את הקצב עד שיוטמעו אמצעי הגנה חזקים יותר.
מטא ציינה כי היא מתחקרת את האירוע, שבו שגיאת הגדרה של חברת Irregular – חברה עצמאית המבצעת הערכות סייבר עבור מטא – העניקה בטעות לאחד המודלים שלה, גישה לאינטרנט במהלך הבדיקה.
על פי דיווח באתר "דה אינפורמיישן" המודל המעורב באירוע הוא Muse Spark 1.1 של מטא – מודל שהחברה קידמה כמודל החזק ביותר שלה למשימות קוד בעולם האמיתי ומשימות אוטונומיות.
על פי הדיווח, המודל חדר למערכות של חברה לא מזוהה ושינה את הסביבה הפנימית שלה.
החשש מסיכוני סייבר והתערבות הממשל
הפרצות האחרונות עוררו דאגה בקרב מחוקקים בארה"ב לגבי השאלה אם מודלי AI מתקדמים יוכלו לשמש לביצוע או להקל על מתקפות סייבר.
קבוצה של תובעים כלליים ממדינות שונות בארה"ב ביקשה מ-OpenAI לשמר את כל המסמכים הרלוונטיים לפריצת לחברת Hugging Face. חברת OpenAI מסרה כי היא לוקחת את הבקשה ברצינות ותפרסם דוח על התקרית.
מוקדם יותר השבוע, הבית הלבן הזמין חברות AI מובילות, בהן מטא, אנתרופיק, OpenAI וגוגל, לפגישה עם גורמים רשמיים כדי לדון במסגרת בדיקות סייבר וולונטריות למודלי AI מתקדמים.
ממשל טראמפ דן בכללים חסויים אלה מפורסמים אלה עם נציגי החברות, ומסר למפתחי ה-AI כי מודלים בקוד פתוח, כדוגמת Llama של מטא ו-Nemotron של אנבידיה, לא יהיו כפופים למשטר בדיקות הבטיחות ההתנדבותי המתוכנן. כך עולה מדיווח ברויטרס.
