חברת אנתרופיק הצהירה כי כלי הבינה המלאכותית החדש שלה, Mythos "כה מוצלח באיתור פרצות אבטחה בתוכנות ובמערכות מחשוב, עד שלא ניתן לשחרר אותו לציבור הרחב".
ענקית ה-AI שחררה את המודל ל-200 ארגונים שותפים בלבד, מכיוון שאם "כלי עוצמתי כזה ייפול לידיים הלא נכונות", כך לפי אנתרופיק, "הוא עלול לסייע לתוקפים לגנוב נתונים בקלות רבה יותר או לשבש תשתיות קריטיות".
למרות אמצעי הזהירות שנקטה אנתרופיק, בשבוע שעבר ממשל טראמפ הורה לחברה למנוע מאזרחים זרים – בתוך ארה"ב ומחוצה לה – גישה למודלים המתקדמים שלה.
כדי להבטיח עמידה בהנחיה, אנתרופיק חסמה מאז את הגישה לכל לקוחותיה למודלים Mythos 5 ו-Fable 5.
באנתרופיק ציינו כי הם מאמינים שהממשל האמריקאי הוציא את הצו לאחר שגילה כי ניתן לבצע פריצות מערכת ולעקוף את מנגנוני ההגנה של Fable 5.
במשך מספר שנים הבטיחו חברות סייבר כי בינה מלאכותית תאיץ ותהפוך חלק ממלאכת מניעת הפריצות הדיגיטליות לאוטומטית. אולם, גם האקרים גילו את היתרונות של ה-AI.
הסיכון הודגש כאשר קבוצה קטנה של משתמשים לא מורשים בפורום מקוון, השיגה גישה ל-Mythos בחודש אפריל. כך לפי דיווח בבלומברג.
הופעתם של Mythos ומודלים דומים, המסוגלים לנצל פגמים, החבויים בתוכנות פופולריות ללא פיקוח אנושי, מסמנת שלב מהיר ופחות צפוי במרוץ החימוש בסייבר.
מה זה Mythos?
המודל Claude Mythos Preview הוא מודל AI לשימוש כללי אשר עוקף באופן משמעותי את הביצועים של מוצרים קודמים בשורה של מדדים, כולל כתיבת קוד וחשיבה. כך לפי אנתרופיק.
החברה הסבירה כי מודלי AI מסוימים הגיעו לרמת יכולת תכנות המאפשרת להם לנצח את כל בני האדם – למעט המיומנים שבהם – באיתור וניצול של פרצות אבטחה בתוכנה.
Mythos כבר מצא אלפי פרצות מסוג "יום אפס". "יום אפס" הן פרצות שלא היו ידועות קודם לכן למפתחי התוכנה – והשם מרמז שיש להם אפס ימים כדי להמציא תיקון לפתרון הבעיה. פרצות אלו מהוות לרוב מכרה זהב עבור האקרים, מכיוון שהן מעניקות להם חופש פעולה מוחלט בתוך המערכות הפגיעות.
אנתרופיק מתכננת שחרור נרחב של מודלי בינה מלאכותית ברמת Mythos
המודל הצליח לזהות את הפרצות הללו עם עוד פחות התערבות אנושית בהשוואה למודלים מהעבר, כך לפי אנתרופיק. "המודל מציג קפיצת מדרגה בכישורי הסייבר הללו – הפרצות שהוא זיהה שרדו בחלק מהמקרים עשורים של סקירות אנושיות ומיליוני בדיקות אבטחה אוטומטיות", מסרה החברה לבלומברג.
בידיה של כנופיית כופר או ממשלות עוינות, כלי כזה עלול להוביל למתקפות סייבר הרסניות ותכופות יותר.
עם זאת, חוקרים מציינים כי לא ניתנה להם גישה לאמת באופן עצמאי את טענותיה של אנתרופיק לגבי ביצועי המודל.
למי ניתנה גישה?
בחודש אפריל, אנתרופיק העניקה גישה לקבוצה מוגבלת של שותפים מורשים, יוזמה המכונה Project Glasswing. המשתתפות המרכזיות כוללות את: אמזון, אפל, גוגל, מיקרוסופט, אנבידיה, פאלו אלטו, ברודקום, סיסקו, וג'יי פי מורגן. בהמשך הורחבה הגישה לכ-40 ארגונים נוספים. אנתרופיק תיארה את הפרויקט כ"ניסיון דחוף לרתום את היכולות למטרות הגנתיות".
בתחילת החודש החלה החברה להרחיב את הפרויקט ל-150 ארגונים נוספים. למרות שאנתרופיק סירבה לנקוב בשמותיהם, היא ציינה כי הקבוצה כוללת חברות וארגונים ללא מטרת רווח. הארגונים ישתמשו במודל כחלק מעבודת הגנת הסייבר שלהם.
חברות רבות כבר משתמשות ב"מבחני חדירות", בהם הן שוכרות מומחים שיחפשו באגים במערכות שלהן כדי שיוכלו לתקן אותם לפני שהאקרים ייכנסו.
המודל עשוי לאפשר לחברות למצוא יותר פגמים במהירות רבה יותר ולצמצם את חלון ההזדמנויות למתקפות פוטנציאליות.
מדוע אנתרופיק תיארה את השקת Mythos כ"נקודת מפנה"?
מטבען, פרצות "יום אפס" קשות מאוד לאיתור, ותעשייה שלמה נבנתה סביב מציאתן ומכירתן לסוכנויות מודיעין, לעיתים תמורת מיליוני דולרים.
לפי החברה, הפגמים שמיתוס מצא היו לרוב "עדינים וקשים לגילוי", וכללו פגם בן 27 שנים במערכת ההפעלה OpenBSD – מערכת מאובטחת בעלת מוניטין גבוה מאוד.
מאז שהושק, המודל שימש למציאת למעלה מ-10,000 פרצות אבטחה חמורות, כך מסרה החברה בשלהי חודש מאי. כך לפי בלומברג.
מיתוס גם מסוגל לכאורה לקחת פרצות ידועות שטרם תוקנו ולהפוך אותן ל"אקספלויטים" (קודי תקיפה) שהאקרים יכולים לנצל כדי לחדור לרשתות מחשבים.
שיתוף פעולה ישראלי-אמריקאי: הפיתוח שיגן על קבצים רפואיים מסייבר
לדוגמה, הוא מצא וחיבר יחד מספר פגמים בליבת לינוקס – התוכנה שמריצה את רוב שרתי האינטרנט בעולם – כדי לאפשר לתוקף לקבל שליטה מלאה על המחשב.
Mythos הוא אחד מכמה כלי AI חדשים המסוגלים למצוא פרצות יום אפס או לבנות אקספלויטים.
מערכות כמו Codex של OpenAI, פותחו אף הן למטרה זו. OpenAI נמצאת בשלבי סיום של פיתוח מוצר בעל יכולות סייבר מתקדמות שבכוונתה להפיץ לשותפים נבחרים, כך דיווח אתר אקסיוס.
חוקרים בחברת סטארט-אפ ישראלית לסייבר בשם Buzz טוענים כי בנו כלי אוטונומי המשלב חמישה סוכני AI, אשר מציג שיעור הצלחה של 98% בניצול פגמים ידועים. כך לפי בלומברג.
אילו מנגנוני הגנה קיימים?
מנגנוני ההגנה הם עדיין עבודה בתהליך, לפי אנתרופיק. "ראינו את המודל מגיע לרמות חסרות תקדים של אמינות וסנכרון", כך נכתב בבלוג החברה. "עם זאת, במקרים נדירים שבהם הוא נכשל או פועל בצורה מוזרה – ראינו אותו נוקט בפעולות שמצאנו כנוגעות ומדאיגות למדי".
במקרה אחד, חוקר הפציר בגרסה מוקדמת של Mythos לנסות לברוח מתוך "ארגז חול" (סביבת מחשב מאובטחת ומבודדת) ולאחר מכן למצוא דרך לשלוח לו הודעה. הכלי הצליח בכך, אך אז המשיך לנקוט "פעולות נוספות ומדאיגות יותר", ופיתח אקספלויט רב-שלבי כדי להשיג גישה לאינטרנט הפתוח.
באנתרופיק אמרו כי אין להם תוכניות להפוך את Mythos לזמין לציבור הרחב, בהתחשב בפוטנציאל לשימוש לרעה. אולם, החברה מקווה לאפשר למשתמשים לפרוס מודלים ברמת מיתוס בהיקף נרחב.
האם Mythos מעניק למגני הסייבר יתרון על פני ההאקרים?
אולי, אך זה עשוי לקחת זמן. התהליך של אנתרופיק לחשיפת פגמים בפני האנשים שמתחזקים את התוכנות עלול להיות ארוך. נכון לסוף מאי, רק כ-14% מהבאגים בחומרת "גבוהה" או "קריטית" שחשף Mythos, תוקנו בפועל, מסרה החברה.
במקביל, האקרים משתמשים ב-AI כדי להאיץ את המהירות שבה הם מוצאים ומנצלים פרצות ברגע שהן נחשפות. דבר זה מותיר למאבטחי סייבר פחות זמן לעדכן ולמגן את הרשתות שלהם.
בפוסט בבלוג החברה, מנכ"ל פאלו אלטו נטוורקס, ניקש ארורה, הזהיר כי רף הכניסה לביצוע מתקפות מתוחכמות ימשיך לרדת במהלך ששת החודשים הקרובים.
יאיר סבן, מנכ"ל חברת Buzz ובוגר יחידת 8200, אמר כי נדרשו שישה מהנדסים ושלושה שבועות בלבד כדי לבנות את כלי הפריצה מבוסס ה-AI שלהם. אחרים, כולל האקרים, יכולים לעשות את אותו הדבר. כך אמר לבלומברג.
באנתרופיק עומדים על כך ש-Mythos וכלי AI דומים, ייטו לטובת המגנים.
