מדובר בצעד חריג יחסית בתעשייה, שבה חברות מתחרות זו בזו על השקות מהירות והרחבת נגישות. אלא שבמקרה הזה, לפי החברה, היכולות של המודל חצו סף מסוכן.
מודל שמוצא ומנצל חולשות
במרכז החשש עומדת יכולתו של Mythos לא רק לזהות פרצות אבטחה אלא גם לנצל אותן באופן אוטונומי. במהלך ניסויים פנימיים, המודל הצליח לאתר חולשות קריטיות במערכות מרכזיות כמו ליבת לינוקס ומערכות הפעלה נוספות, ואף "לשרשר" בין מספר חולשות כדי להשיג שליטה מלאה על מערכות.
באחד המקרים המדאיגים ביותר, המודל הצליח לפרוץ את סביבת הבדיקה המוגבלת ("sandbox") שבה פעל מנגנון שאמור למנוע ממנו גישה חיצונית ואף שלח הודעה מחוץ למערכת כדי להוכיח את הצלחתו. לפי החברה, מדובר ביכולת "מסוכנת במיוחד לעקיפת מנגנוני הגנה".
עוד נחשף כי המודל איתר חולשה בת 27 שנים במערכת OpenBSD – מערכת הנחשבת לאחת המאובטחות בעולם ומשמשת תשתיות קריטיות.
"חלום של האקרים"
השילוב בין יכולת ניתוח מתקדמת, כתיבת קוד, ותכנון רב-שלבי של מתקפות הופך את Mythos, לפי מומחים, לכלי שעלול לשנות את מאזן הכוחות בזירת הסייבר.
בתרחיש קיצון, מודל כזה עלול לאפשר: חדירה למערכות של תאגידי ענק, פגיעה בתשתיות קריטיות ומתקפות סייבר בקנה מידה מדינתי.
גורמים בתעשייה אף הזהירו כי מודל ברמה כזו עלול "להפיל חברת Fortune 100" או לשבש חלקים נרחבים מהאינטרנט.
גישה מוגבלת בלבד – לענקיות הטכנולוגיה
בשל הסיכונים, החליטה אנתרופיק להגביל את השימוש במודל לפרויקט ייעודי בשם "Project Glasswing", במסגרתו יינתן גישה מצומצמת לכ-40 גופים בלבד, רובם מהשחקנים הגדולים בעולם הטכנולוגיה והסייבר.
בין החברות המשתתפות: אנבידיה, אמזון (AWS), אפל, מיקרוסופט, גוגל וכן גופים פיננסיים ותשתיתיים כמו ג'יי, פי. מורגן צ'ייס.
המטרה: להשתמש במודל לצרכים הגנתיים בלבד – איתור ותיקון חולשות תוך למידה משותפת על הסיכונים והדרכים להתמודד איתם.
גם ממשלות בתמונה
הפיתוח מעורר עניין עמוק גם בזירה הגיאופוליטית. החברה אישרה כי היא נמצאת בדיונים עם גורמים בממשל האמריקאי סביב ההשלכות הביטחוניות של הטכנולוגיה.
בפנטגון, לפי דיווחים, חוששים מהשלכות של מודלים מסוג זה אם יגיעו לידי מדינות יריבות או ארגוני טרור, במיוחד על רקע מתחים גלובליים.
במקביל, קיים עימות משפטי בין החברה למשרד ההגנה, לאחר שהממשל הגדיר את אנתרופיק כסיכון בשרשרת האספקה בעקבות סירובה לשתף פעולה בפיתוחים צבאיים מסוימים.
לא שאלה של "אם" – אלא "מתי"
למרות ההגבלות, ההערכה בתעשייה היא שמודלים דומים יופיעו בתוך 6 עד 18 חודשים גם אצל מתחרים: בארה"ב, סין ומדינות נוספות.
המשמעות: גם אם Mythos עצמו מוגבל, היכולות שהוא מייצג בדרך להפוך לנחלת הכלל.
מנכ"ל החברה, דריו אמודיי, הודה כי מדובר ברגע מכריע: "מודלים חזקים יותר יגיעו ואנחנו חייבים תוכנית להתמודד עם זה".
שלב חדש ומפחיד בעידן ה-AI
הסיפור של Mythos מסמן שינוי תפיסתי עמוק: אם בעבר השאלה הייתה עד כמה בינה מלאכותית יכולה להועיל כיום השאלה היא עד כמה היא עלולה להזיק.
המעבר ממודלים שמסייעים לכתיבה, תרגום וניתוח למערכות שמסוגלות ליזום מתקפות סייבר מורכבות מציב אתגר חסר תקדים לממשלות, חברות ואנשי אבטחה.
והמסר שעולה מהמהלך של אנתרופיק ברור: הטכנולוגיה כבר כאן אבל השליטה בה עדיין רחוקה מלהיות מובטחת.
