מודל הבינה המלאכותית שיצר בהלה עולמית – ומה תעשה בריטניה?

רגולטורים פיננסיים בבריטניה מקיימים דיונים דחופים עם גוף הפיקוח הראשי של הממשלה על אבטחת הסייבר ועם הבנקים הגדולים במדינה, כדי להעריך את הסיכונים שמציב מודל הבינה המלאכותית העדכני ביותר של אנתרופיק, כך דווח היום (ראשון) בפייננשל טיימס.

גורמים בבנק אנגליה, ברשות ההתנהלות הפיננסית (FPA) ובמשרד האוצר של בריטניה (HM Treasury) מנהלים שיחות עם המרכז הלאומי לאבטחת סייבר (NCI) כדי לבחון פגיעויות פוטנציאליות במערכות IT מרכזיות שנחשפו על ידי Claude Mythos של חברת הבינה המלאכותית.

בנקים, חברות ביטוח ובורסות מובילים יקבלו אזהרה לגבי סיכוני אבטחת הסייבר שנחשפו על ידי המודל, בפגישה עם הרגולטורים בשבועיים הקרובים, כך על פי שני מקורות המעורים בנושא.

חששות מכלי בינה מלאכותית עוצמתיים: כך הבית הלבן מתמודד עם האיומים

תגובת הרשויות בבריטניה מגיעה לאחר ששר האוצר האמריקאי, סקוט בסנט, כינס כמה ממנהיגי מהבנקים הגדולים ביותר בוול סטריט כדי לדון ביכולתו המתקדמת של מודל הבינה המלאכותית החדש לאתר חולשות אבטחת סייבר שעלולות להיות מנוצלות על ידי גורמים אוינים.

כאשר אנתרופיק הכריזה על השקת Mythos ללקוחות נבחרים בשבוע שעבר, החברה מסרה כי כבר "מצאה אלפי פגיעויות בדרגת חומרה גבוהה, כולל בכל מערכת הפעלה ודפדפן אינטרנט מרכזי" אשר לא זוהו במשך עשרות שנים.

חברת הסטארט-אפ מסן פרנסיסקו, בשווי 380 מיליארד דולר, אמרה כי "לא ירחק היום בו יכולות כאלה יתפשטו, אולי מעבר לגורמים המחויבים לפרוס אותן בבטחה", והוסיפה ש"ההשלכות – על הכלכלות, ביטחון הציבור והביטחון הלאומי – עלולות להיות חמורות".

ההשלכות הפוטנציאליות של מערכת הבינה המלאכותית החדשה עומדות על סדר היום של הפגישה הבאה של קבוצת "החוסן התפעולי חוצה השווקים בבריטניה", המפגישה רגולטורים וחברות שירותים פיננסיים כדי לדון באיומים על המגזר.

בנק אנגליה יכול גם לכנס פגישה עם מוסדות פיננסיים תוך שעה עד שעתיים, באמצעות הקבוצתה הנפרדת שלו, כאשר הוא מתמודד עם איום דחוף על המגזר. אך במקרה זה, הוא טרם עשה זאת.

מספר חברות גדולות בבריטניה היו מטרה להאקרים בשנה שעברה במתקפות סייבר שגרמו לשיבושים משמעותיים לפעילותן, כולל רשתות הקמעונאות M&S, קבוצת Co-op Group and Harrods ויגואר לנד רובר.

מכון אבטחת הבינה המלאכותית של בריטניה, יחידת בדיקות מודלים ומחקר סיכונים של בינה מלאכותית בחזית הממשל, מעריך את Mythos של אנתרופיק יחד עם מודלים מובילים אחרים כמו Claude ו-ChatGPT של OpenAI.

אבל הממשלה שוקלת תוכנית לערוך בדיקות סטנדרטיות של מודלי הבינה המלאכותית הכללית המשמשים את כל המלווים בבריטניה, לאחר שבנק אנגליה הזהיר אותם לגבי נוהלי ההערכה שלהם בשנה שעברה, כך דיווח החודש הפייננשל טיימס.