גוגל (GOOG) הודיעה כי ככל הנראה הצליחה לסכל ניסיון של קבוצת האקרים לבצע מתקפת סייבר רחבת היקף באמצעות כלי בינה מלאכותית מתקדמים. לפי דוח שפרסמה יחידת המודיעין לאיומי סייבר של החברה (GTIG), התוקפים השתמשו במודלי AI כדי לאתר ולנצל פרצות אבטחה מסוג "יום אפס" – ניצול חולשות שאינן מוכרות עדיין למפתחי התוכנה.
על פי הדוח, לחוקרי גוגל יש "רמת ביטחון גבוהה" בכך שההאקרים הצליחו להשתמש במודל AI כדי לחשוף פרצת אבטחה שאפשרה לעקוף מנגנוני אימות דו-שלבי (2FA). בגוגל טוענים כי התוקפים תכננו להפוך את המהלך ל"אירוע ניצול המוני", אך "גילוי מוקדם ופעילות מנע" מצד החברה ככל הנראה עצרו את המבצע לפני שיצא לפועל.
החברה לא חשפה את זהות קבוצת ההאקרים, אך ציינה כי אין אינדיקציה לכך שמודל הבינה המלאכותית שלה, Gemini, היה מעורב בפעילות.
הדוח מדגיש את החשש הגובר בתעשיית הסייבר מפני שימוש גובר בבינה מלאכותית לצורכי תקיפה. לפי גוגל, האקרים עושים שימוש בכלים כמו OpenClaw כדי לזהות חולשות תוכנה, לפתח נוזקות ולהוציא לפועל מתקפות מתוחכמות במהירות גבוהה יותר מבעבר.
החששות סביב התחום התעצמו גם בחודשים האחרונים. בחודש אפריל הודיעה אנתרופיק כי היא דוחה את השקת מודל Mythos החדש שלה בשל חשש שהמערכת תוכל לסייע לעבריינים ולאויבים מדינתיים לאתר פרצות אבטחה ישנות ולנצל אותן. בעקבות ההתראה נערכו דיונים בבית הלבן בהשתתפות בכירי תעשיית הטכנולוגיה והעסקים.
בהמשך שחררה אנתרופיק את המודל לקבוצת ניסוי מצומצמת הכוללת בין היתר את CrowdStrike, מיקרוסופט, אפל ופאלו אלטו נטוורקס.
גם OpenAI הודיעה בשבוע שעבר כי היא משיקה גרסה מוגבלת של GPT-5.5-Cyber, מודל ייעודי לצוותי אבטחת סייבר מאושרים.
בדוח של גוגל צוין עוד כי קבוצות האקרים המזוהות עם סין וצפון קוריאה הפגינו "עניין משמעותי" בשימוש בבינה מלאכותית לצורך איתור חולשות אבטחה ופיתוח מתקפות סייבר מתקדמות.
עכשיו גם האקרים משתמשים ב-AI? בקרוב נצטרך AI כדי להגן על ה-AI שלנו 😂
הדוח של גוגל מראה שהאיום האמיתי הוא לא רק האקרים, אלא השימוש בטכנולוגיה מתקדמת. חברות צריכות להשקיע יותר באבטחה. זה יכול להשפיע על כל המשק.
מה דעתכם, האם גוגל חושפת את זה כדי להראות שהם מובילים באבטחה או שיש כאן עוד משהו? קצת תמוה לי שהם מפרסמים את זה עכשיו.
כמי שעובדת בחברת סטארטאפ קטנה, אני תוהה איך אנחנו אמורים להתמודד עם מתקפות כאלה כשאין לנו תקציבים כמו של הענקיות. זה מפחיד.
בקרוב נראה כותרות כמו 'ה-AI ניסה לפרוץ לחשבון הבנק שלי אבל שכח את הסיסמה'. לפחות יש לנו עדיין בני אדם שטועים.
העניין הוא שהמתקפה הזאת לא הצליחה, אבל זה רק עניין של זמן עד שמישהו יצליח להפוך את זה לאירוע המוני. צריך לחשוב על רגולציה מהירה יותר.
מעניין איך זה ישפיע על שוק המניות של חברות הסייבר הישראליות. אולי דווקא הזדמנות להשקעה בחברות שמתמחות בהגנה מפני AI.
יחידת המודיעין של גוגל עושה עבודה טובה בלחשוף את זה. שקיפות כזאת עוזרת לכולנו להיות מוכנים טוב יותר.
אני לא מבינה למה הם לא משתמשים ב-AI גם כדי לזהות את המתקפות האלה בזמן אמת. זה נשמע כמו מרוץ חימוש טכנולוגי.