ענקית השבבים אנבידיה (NVIDIA) מכריזה על השקת פלטפורמה פתוחה וחדשנית בשם NVIDIA Open Agent Safety, אשר נועדה להבטיח את פעילותם של סוכני בינה מלאכותית משלב הבדיקות ועד להטמעה המלאה.
הפלטפורמה נועדה לחבר בין התעשייה, קהילת המחקר וארגונים מהמגזר הציבורי כדי להגדיר גבולות בטוחים עבור סוכני בינה מלאכותית, לשתף ידע ושיטות עבודה מומלצות, ולקדם שיתוף פעולה בין-לאומי בתחום.
הזווית הישראלית: הגנה בזמן אמת ברמת השבב
במרכז הבשורה הטכנולוגית של אנבידיה עומדת גאווה מקומית משמעותית. הפלטפורמה החדשה כוללת את ארכיטקטורת הייחוס NVIDIA Sentry, אשר מבוססת על סביבת התוכנה NVIDIA DOCA ופועלת על גבי מעבדי BlueField-4 DPU.
מעבדים אלו פותחו במרכז הפיתוח של אנבידיה בישראל. מערכת זו מספקת ניטור רציף וחיצוני (Out-of-band Watchdog) אחר פעילותם של הסוכנים. הטכנולוגיה הישראלית מאפשרת לאכוף מדיניות אבטחה באופן עצמאי לחלוטין ברמת השבב, כך שאם סוכן בינה מלאכותית מנסה לחרוג מהגבולות שהוגדרו לו בתוכנה, המערכת מבודדת ועוצרת אותו בתוך אלפיות השנייה.
יכולות מתקדמות אלו, הכוללות זיהוי איומים, הגנה על הגישה לנתונים ואכיפת מדיניות באמצעות חומרה, פועלות מתוך סביבה מבודדת ונפרדת המגיבה בזמן אמת ואינה גלויה לתוקפים או לסוכנים עצמם.
שליטה מערכתית ואכיפת מדיניות
מעבר לפיתוח הישראלי, הפלטפורמה החדשה כוללת גם את תוכנת הקוד הפתוח NVIDIA OpenShell. תוכנה זו מאפשרת להחיל מדיניות ואמצעי בקרה בכל שכבות המערכת, כולל שכבות התוכנה, החומרה, המחשוב ואף במערכות רובוטיות המפעילות סוכנים בעולם הפיזי.
התוכנה מציבה גבולות לפעולתם של סוכני בינה מלאכותית ומספקת סביבת הרצה מאובטחת שעוקבת אחר כל פעולותיהם כאשר הם רצים על גבי מעבדי NVIDIA Vera.
מכיוון שמדובר בקוד פתוח, ניתן להתאים את מערכת האבטחה הזו גם לפלטפורמות מחשוב של חברות צד-שלישי דוגמת אינטל ו-Arm.
מנכ"ל ומייסד אנבידיה, ג'נסן הואנג, ציין בהקשר זה כי הפוטנציאל של הבינה המלאכותית עבור החברה האנושית יתממש רק אם תיפתר סוגיית הבטיחות, והדגיש כי בטיחות ואבטחה מחייבות עבודה הנדסית בכל שכבות המערכת.
אימוץ נרחב בתעשיית ההייטק והפיננסים
הצורך בכלים פתוחים לאבטחת סוכנים התחדד לאחרונה בעקבות אירועי אבטחה שבהם סוכנים עקפו מנגנוני הגנה בשכבת האפליקציה כדי להשלים את משימותיהם. על רקע זה, למעלה מ-100 ארגונים וחברות מובילות באקוסיסטם העולמי מצטרפים ליוזמה של אנבידיה כדי לחזק את הבטיחות בכל התעשיות ולאורך כל שכבות התשתית, התוכנה והמודלים.
רשימת השותפות כוללת ענקיות טכנולוגיה ופיננסים כמו מיקרוסופט, סיילספורס, פאלו אלטו נטוורקס, אנת'רופיק, קראודסטרייק, JPMorganChase, SAP, ועוד.
בנוסף, חברות רובוטיקה מפתחות עם המערכת כדי להטמיע בקרות בטיחות לסוכנים במערכות אוטונומיות שפועלות בעולם הפיזי. הפלטפורמה זמינה כעת למפתחים כחלק מתמיכת החברה בברית Open Secure AI Alliance, אשר מנוהלת על ידי Linux Foundation במטרה לחזק את אבטחת סוכני הבינה המלאכותית באמצעות מחקר וכלים פתוחים.
