חברת הסייבר הישראלית AIR יוצאת מ-Stealth ומודיעה על גיוס של 50 מיליון דולר בסבב Seed, שהובל על ידי קרנות Sequoia ו-Greenoaks. החברה מפתחת פלטפורמת אבטחה שנועדה להגן על סוכני AI מפני איומים בשרשרת האספקה שלהם.
לסבב הצטרפו גם Swish ו-Netz, לצד שורה של משקיעים פרטיים מתעשיות הסייבר וה-AI, בהם זאק פרנקל, נשיא Cognition, ינון קוסטיקה ממייסדי Wiz, אופיר ארליך ממייסדי Eon וארון אנאנד ממייסדי Clay.
למרות שהחברה צעירה מאוד והוקמה רק השנה על ידי יאיר סבאן וניב הופמן, השניים, שהכירו בצבא לפני כעשור, הספיקו כבר לצבור ניסיון רב בסייבר התקפי, תשתיות ארגוניות ואבטחת AI. החברה מעסיקה כיום כ-40 עובדים בישראל.
הסיכון שאותו חברת הסייבר הישראלית מנסה לפתור נובע מהתרחבות השימוש בסוכני AI בארגונים. הסוכנים מתחברים למידע, כלים ושירותים חיצוניים ואף מבצעים פעולות בשם העובדים, כך שתוסף שנפרץ או תוכן זדוני עלולים לגרום להם לבצע פעולות לא רצויות ולחשוף ארגונים לגניבת מידע, הונאה וגישה בלתי מורשית.
האתגר מורכב במיוחד משום שסוכני AI מקבלים החלטות בזמן אמת על בסיס המידע שהם פוגשים במהלך פעילותם. כתוצאה מכך, לצוותי האבטחה יש שליטה מוגבלת על המידע שמשפיע על הסוכנים, הכלים שאליהם הם ניגשים והפעולות שהם מבצעים.
בעיה נוספת מתעוררת כאשר תוסף שכבר הוטמע בארגון מתגלה בהמשך כזדוני או פגיע. במקרה כזה, צוותי האבטחה נדרשים לזהות במהירות אילו סוכנים ותהליכים תלויים בתוסף ולהסיר אותו מהמערכות הרלוונטיות.
AIR ביססה את פעילותה גם על סדרת מחקרי אבטחה שערכה בתחום. באחד מהם זיהתה יותר מ-17,800 תוספי AI ציבוריים, עם כ-6.7 מיליון התקנות, שהסתמכו על מקורות חיצוניים לא מהימנים לקבלת הוראות. במחקר נוסף נמצאו Skills שהתחזו למותגים מוכרים כמו אנתרופיק ו-OpenAI, כשאחד מהם אפילו יכול היה להריץ קוד באופן שרירותי במערכות ארגוניות.
כדי להתמודד עם הסיכון, AIR פיתחה Firewall שפועל בזמן אמת ומגן על הקונטקסט של סוכני AI. המערכת נועדה לזהות ולעצור הוראות זדוניות, מידע לא מהימן וכלים שנפרצו לפני שהם משפיעים על החלטותיו או פעולותיו של הסוכן.
כלומר, המוצר של AIR הוא מעין שכבת אבטחה שנמצאת בין המידע שמגיע לסוכן לבין ההחלטות שהוא מקבל, במטרה לזהות תוכן או כלים מסוכנים לפני שהסוכן מספיק לפעול על בסיסם.
הפלטפורמה מאפשרת לצוותי אבטחת מידע למפות, לבדוק ולנהל באופן שוטף את התוספים, ה-Skills, שרתי ה-MCP וסוכני המשנה שבהם משתמשים סוכני ה-AI, הן לפני הטמעתם והן לאחר מכן.
כך, אם תוסף מזוהה כזדוני, פגיע או לא מאושר, המערכת יכולה לזהות את הסוכנים והתהליכים שתלויים בו ולאפשר לארגון להפסיק את השימוש בו באופן מיידי.
המשמעות היא שהמערכת לא רק מזהה תוסף בעייתי, אלא פועלת גם כדי להראות לארגון מי משתמש בו ולאפשר להפסיק את השימוש בו.
בנוסף, AIR מציעה קטלוג של תוספי AI שנסרקו ונבדקו מראש, במטרה לאפשר לארגונים להרחיב את יכולות הסוכנים תוך שימוש בכלים שעברו בדיקת אבטחה.
יאיר סבאן, מייסד שותף ומנכ"ל AIR, אומר כי הארגונים זקוקים כיום לשכבת אבטחה חדשה שתגן על סוכני ה-AI עצמם. סבאן מסר: "לכל ארגון יש שכבת firewall שמגנה על הרשת שלו. עכשיו ארגונים זקוקים לשכבת firewall שתגן גם על סוכני ה-AI שלהם, כזו שמגנה על המידע וההוראות שנכנסים לקונטקסט שלהם".
ב-Greenoaks מעריכים כי השימוש הגובר בסוכני AI משנה את משטח התקיפה הארגוני, משום שהסוכנים משתמשים בזמן אמת בתוספים, Skills ושרתי MCP שמערכות האבטחה לא תמיד בחנו מראש. AIR מבקשת לספק שכבת שליטה וניטור ייעודית לסביבה הזו.
פטריק בקהאוס, שותף ב-Greenoaks, מסר כי "שרשראות אספקת תוכנה מעולם לא היו משטח התקיפה הקריטי ביותר בארגון. עם כניסתם של סוכני AI, הן הופכות לרכיב קריטי במערך האבטחה. סוכנים פועלים בזמן אמת ומשתמשים ב-Skills, תוספים ושרתי MCP ממקורות שצוותי האבטחה לא בהכרח בחנו, תוך שהם חומקים מכלי סריקה שנבנו עבור עולם התוכנה המסורתי".
