האקרים הפעילו מערכת AI אוטונומית נגד גופי ביטחון בארה"ב
חוקרי פאלו אלטו נטוורקס חשפו כי תוקפים דוברי סינית הסבו כלי לבדיקות אבטחה לנשק פריצה עצמאי שתקף 19 ארגונים • בעשרה מהם נגנב מידע או הושגה גישה למידע לא מורשה
חוקרי יחידת המחקר Unit 42 של ענקית הסייבר פאלו אלטו (PANW) נטוורקס חשפו מתקפת סייבר יוצאת דופן, המדגימה כיצד כלי בינה מלאכותית זמינים הופכים לנשק תקיפה עצמאי.
על פי הדו"ח, תוקפים דוברי סינית הצליחו להסב מערכת קוד פתוח המיועדת לבדיקות אבטחה לכלי פריצה אוטונומי, שפעל נגד שורה של גופים אסטרטגיים, בהם יצרניות מוליכים למחצה מתקדמים, מכונים העוסקים במדיניות הביטחון של ארצות הברית וארגוני חברה אזרחית.
פאלו אלטו נטוורקס | צילום: שאטרסטוק
בחברה מעריכים ברמת ביטחון בינונית כי מאחורי הקמפיין, שזכה לכינוי CL-STA-1238, עומדת פעילות איסוף מודיעין הקשורה לסין.
כך עקפו התוקפים את מנגנוני ההגנה של ה-AI
המתקפה התרחשה במהלך החודשים אוגוסט וספטמבר 2026, ובמהלכה בוצעו 25 פעולות חדירה אוטונומיות נגד לפחות 19 ארגונים שונים. לצורך המשימה, עשו התוקפים שימוש בגרסה מותאמת של Cairn מערכת קוד פתוח מבוססת בינה מלאכותית שנועדה במקור לסייע לאנשי אבטחה לבדוק חולשות במערכות.
כדי להפוך את המערכת לכלי התקפי, חיברו אותה התוקפים למודלי הבינה המלאכותית הסיניים Zhipu GLM ו-דיפסיק כדי למנוע מהמודלים לחסום את הפעילות הזדונית, הציגו להם התוקפים את הפריצות כ"בדיקות אבטחה מורשות", תוך מתן הנחיות מפורשות שלא לסרב לביצוע המשימות.
בינה מלאכותית AI | צילום: שאטרסטוק
מרגע שהמפעילים הגדירו את היעד, המערכת פעלה באופן עצמאי לחלוטין: היא פירקה את המטרה לתתי-משימות, ביצעה את הסריקות, קיבלה החלטות בזמן אמת בהתאם לממצאים ואף תיעדה את התוצאות, תוך שהיא מותירה למפעילים האנושיים אפשרות להתערב ולהכווין אותה במידת הצורך.
דליפות מידע, חשבונות מנהל פיקטיביים והתערבות בתקינה
התקיפות האוטונומיות הניבו תוצאות ממשיות עבור התוקפים, שהצליחו להשיג גישה בלתי מורשית או לשאוב מידע רגיש מעשרה מתוך הארגונים שהותקפו. באחד המקרים נפרצו מערכותיו של איגוד מורים אמריקאי, משם נגנבו פרטיהם של יותר ממיליון חברים וכ-31 אלף אנשי קשר.
במקרה אחר, חדירה למערכת ניהול זהויות של תוכנית בתחום מדיניות הביטחון הובילה לחשיפת כ-500 רשומות משתמשים, הכוללות כתובות דואר אלקטרוני ממשלתיות וצבאיות.
סייבר, סין וארה"ב, אילוסטרציה | צילום: שאטרסטוק
הפגיעה הגיעה גם לתעשייה ולרגולציה. בחברת שבבים שהותקפה, יצרה מערכת הבינה המלאכותית חשבונות מנהל לא מורשים, שהבטיחו לתוקפים אחיזה מתמשכת ברשת הארגונית. בגוף העוסק בתקינה תעשייתית, הצליחו התוקפים להרחיק לכת ואף לשנות מסמך פעיל ששימש באותה עת להצבעה על תקן מקצועי.
האיום החדש: היקף ומהירות במקום תחכום טכנולוגי
הממצא המטריד ביותר מבחינת קהילת הסייבר הוא העובדה שמאחורי הקמפיין הנרחב הזה עמד, על פי הערכת החוקרים, אדם בודד או צוות מצומצם מאוד. השילוב בין כלי קוד פתוח למודלי שפה מתקדמים מצמצם דרמטית את כוח האדם והזמן הנדרשים לניהול מתקפה, ומאפשר לתוקפים לנהל ניסיונות חדירה במקביל נגד עשרות יעדים.
עם זאת, בחברת הסייבר מדגישים כי מבחינה טכנולוגית, המערכת לא השתמשה בפרצות מתוחכמות או בלתי מוכרות. תחת זאת, ה-AI ניצל ביעילות חולשות אבטחה ידועות, סיסמאות חלשות והגדרות שגויות במערכות הארגונים. החידוש המרכזי טמון באוטומציה ובקנה המידה של הפעולה, ולא במורכבות שלה.
אבטחת סייבר, אילוסטרציה | צילום: שאטרסטוק
משמעות הדבר, כך מסכמים החוקרים, היא שצעדי הגנה בסיסיים - כמו הקפדה על עדכוני אבטחה שוטפים, ניהול הרשאות קפדני וצמצום חשיפת מערכות לרשת האינטרנט נותרים רלוונטיים ויעילים לבלימת מתקפות, גם בעידן שבו הבינה המלאכותית מנהלת את הפריצה.
מגיב/ה בתור אורח/ת