אתמול (ג'), אנתרופיק מסרה כי משרד המסחר האמריקני הסיר את מגבלות הפיקוח על היצוא של מודלי הבינה המלאכותית המתקדמים ביותר שלה, Fable ו-Mythos. מהלך זה יוצא לפועל פחות משלושה שבועות לאחר שהחברה נדרשה להשעות את הגישה אליהם בשל סיכונים לביטחון הלאומי.
וושינגטון הגבירה את הפיקוח על מודלים חדשים כדי לזהות איומים פוטנציאליים, על רקע החשש שמודלים מתקדמים של AI עלולים לשמש לרעה את המודיעין הצבאי בסין, רוסיה או מדינות מאיימות אחרות.
צו מה-12 ביוני, שדרש מאנתרופיק להגביל מיידית את הגישה ל-Mythos ו-Fable 5 עבור אזרחים זרים, אילץ את החברה להשבית את שני המודלים עבור כלל המשתמשים, מכיוון שלא הייתה דרך לאמת את האזרחות של המשתמשים בזמן אמת.
בשבוע שעבר, הממשל האמריקאי אישר לחברה לשחרר את Mythos, עבור ארגונים אמריקאיים "מהימנים" בלבד. המודל – שנועד לזהות פרצות אבטחת סייבר – הונגש קודם לקבוצה רחבה יותר של חברות כחלק מפרויקט Glasswing בהובלת אנתרופיק.
כעת, מגבלות הפיקוח על היצוא של המודלים הוסרו לאחר הטמעת מנגנוני הגנה חדשים. החברה פועלת יחד עם ממשלת ארה"ב כדי להרחיב את הגישה ל-Mythos למערך רחב יותר של שותפים מקומיים ובינלאומיים בתוכנית Glasswing, כך נכתב בפוסט בבלוג של החברה. החל מהיום (ד'), המודל Fable 5, המיועד לציבור הרחב, יהיה זמין שוב.
שיתוף פעולה עם ממשל ארה"ב ומעבר לתקני תעשייה
אנתרופיק, שניהלה מערכת יחסים מתוחה עם ממשל טראמפ, ציינה כי היא מעמיקה את שיתוף הפעולה איתו, ומעניקה לשותפים ממשלתיים גישה מוקדמת לשני המודלים.
תחת פרויקט Glasswing, החברה עובדת בין היתר בשיתוף אמזון, מיקרוסופט, גוגל, כדי לפתח סטנדרטים להערכה ותיקון של "פריצות Jailbreaks" (טכניקות העוקפות את מנגנוני ההגנה של ה-AI), כולל מערכת לדירוג חומרת הפריצות הללו.
על פי דיווח ברויטרס, אנתרופיק הסכימה לעבוד עם ממשלת ארה"ב על פרוטוקולים עבור מודלי Mythos, Fable ומודלים עתידיים, ולדווח לממשל על כל פעילות זדונית.
מערכת היחסים של אנתרופיק עם הממשל האמריקאי הייתה מתוחה במיוחד. מוקדם יותר השנה, הפנטגון הגדיר את החברה כ"סיכון לשרשרת האספקה". זאת לאחר שהחברה סירבה לאפשר שימוש במודלים שלה למטרות מעקב המוני מקומי או עבור מערכות נשק אוטונומיות לחלוטין.
מאמצים להתמודדות עם פריצות פוטנציאליות
באנתרופיק הסבירו כי צו הפיקוח על היצוא מה-12 ביוני, הגיע לאחר שחוקרים מחברת אמזון דיווחו על דרך לעקוף את מנגנוני ההגנה של Fable 5, מה שאפשר למודל לזהות פרצות תוכנה, ואף לייצר קוד שמדגים כיצד ניתן לנצל את אחת הפרצות הללו. כעת אנתרופיק הטמיעו חסם הגנה חדש שחוסם את התנהגות זו.
כל בקשה שתיחסם תישלח במקום זאת למודל Opus 4.8 שלהם. החברה הודתה כי למרות שהדבר עלול לתסכל את המשתמשים, הפשרה הזו נעשתה מתוך אינטרס להפוך את שאר היכולות של המודל לזמינות באופן נרחב.
באנתרופיק מזהירים כי זה "כנראה בלתי אפשרי" להפוך מודל AI לחסין לחלוטין מפני פריצות.
גם OpenAI נתקלה בהגבלות
הפיקוח המוגבר על מודלי AI החל החודש עם חתימתו של נשיא ארה"ב דונלד טראמפ על צו נשיאותי המקים מסגרת וולונטרית עבור מפתחי AI, במסגרתה יציעו מודלים מתקדמים לבדיקת הממשל האמריקאי למשך עד 30 יום לפני שחרורם לשותפים מהימנים.
בדומה לאנתרופיק, גם המתחרה OpenAI נתקלה בהגבלות. החברה מסרה ביום שישי כי דחתה את ההשקה הציבורית המלאה של מודל GPT-5.6 לבקשת ממשלת ארה"ב, והגבילה את הגישה אליו לקבוצה מצומצמת של שותפים.
