דמיינו עולם שבו תכנון משימות מורכבות הוא עניין של דקות. בעולם כזה, אתם מטילים על סוכן ה-AI שלכם את המשימה: "תכנן עבורי נסיעת עסקים הכוללת טיסות מרובות-מקטעים, מלונות בארבע ערים שונות, תיאום פגישות עם לקוחות, תיאום מוניות לפי זמני הטיסות והפגישות ושלם באמצעות כרטיס האשראי המקושר לחשבון שלי".
הסוכן לא רק מוצא לכם דילים, אלא מפעיל שרשרת שלמה של סוכנים אחרים: סוכן בעל גישה ליומן, סוכן לתיאום תשלומים, סוכנים של בתי המלון, של חברות התעופה והמוניות ועוד ועוד. העתיד הזה כבר כאן: סוכני AI מסוגלים לתכנן, להאציל סמכויות ולתאם משימות מורכבות ללא התערבות אדם, תוך שימוש בפרוטוקולי תקשורת ייעודיים.
תקופת הבלאק פריידי, שיא הקניות המודרניות, כבר כאן. אם בעבר היא הייתה מזוהה עם דחיפות בחנויות פיזיות, כיום, בזכות המסחר המקוון, החוויה הפכה לנוחה וקלה לאין שיעור. הנוחות הזו עומדת לעבור מהפכה נוספת: סוכני בינה מלאכותית אוטונומיים. היעילות חסרת התקדים שמביאים איתם הסוכנים, מתיאום שרשרת אספקה מורכבת ועד סיוע פיננסי אישי, טומנת בחובה סכנות חמורות לפרטיות.
ככל שסוכן AI נדרש לתקשר עם יותר שירותים חיצוניים (אתרי קניות, מערכות תשלום, אפליקציות משלוחים), כך נוצרות יותר נקודות תורפה לחשיפת נתונים רגישים. הנתונים הללו כוללים פרטי אשראי, מסמכי זיהוי, העדפות צרכניות ומידע חסוי מיומנים אישיים. המסקנה ברורה: ככל שיש יותר נקודות מגע, כך יש יותר נקודות תורפה, ואבטחת המידע אינה עומדת בקצב המהפכה.
במחקר שערכנו, בשיתוף פעולה של חוקרים מהמרכז האקדמי לב ומאוניברסיטת אריאל, בחנו לעומק את האופן שבו מתנהלים פרוטוקולי תקשורת מרכזיים המניעים את המערכות מרובות-הסוכנים. הניתוח שלנו של פרוטוקולים, דוגמת A2A של גוגל, חשף חולשות קריטיות. מצאנו, למשל, שמנגנוני אבטחה בסיסיים אינם נאכפים, כך שמערכות שיתקשרו באמצעות הפרוטוקול עלולות לחשוף את הנתונים שלנו.
הסכנה המדאיגה ביותר היא שסוכני AI יחשפו בעצמם את המידע הרגיש שלנו, גם אם הם אינם מנסים לפעול נגדנו במכוון. מודלי שפה גדולים (LLMs) שומרים את נתוני השיחה, ובתוך כך נתונים פרטיים (כמו מספרי תעודות זהות או פרטי כרטיסי אשראי). כאשר מתבצעת מתקפת הזרקת פקודות, תמרון עדין של הסוכן באמצעות הנחיות טקסטואליות, המודל עלול לחשוף את המידע החסוי הזה בתגובה לבקשה. בניסויים שערכנו, מצאנו כי פרוטוקולים בסיסיים, ללא מנגנוני הגנה ייעודיים, סבלו משיעורי זליגת מידע שהגיעו עד ל-100% בחלק מהבדיקות.
הסכנות כבר כאן. דפדפני AI אוטונומיים, כמו Comet של Perplexity, נבדקו על ידי חוקרי אבטחת מידע שהדגימו כיצד הם עלולים להשלים רכישות באופן עצמאי באתרים מזויפים ולהעביר נתונים רגישים לדפי דיוג (Phishing), כל זאת ללא פיקוח אנושי.
בנוסף, מחקרים מצאו שסוכני AI פועלים באופן בלתי מודע נגד האינטרס שלנו, למשל על ידי שידור נתונים עודפים (כמו תוכן הודעות או מיקום גיאוגרפי) לשרתים, גם כאשר הדבר אינו נחוץ לצורך המשימה. המחקר, שבחן שלושה פרוטוקולים מובילים, הגיע למסקנה ברורה: אין תקן אבטחה אחיד, וההגנה על המידע שלנו אינה עקבית. ממצאי המחקר הבהירו שרוב הפרוטוקולים נותרו חשופים, וכי העתיד דורש שילוב של מנגנוני אבטחה ארכיטקטוניים חזקים עם אכיפה מחייבת ובלתי מתפשרת.
המהפכה האוטונומית היא בלתי נמנעת וטומנת בחובה הבטחה אדירה של נוחות וחיסכון. אך עלינו לוודא שהמהירות והנוחות שמביאים איתם סוכני ה-AI אינן באות על חשבון הפרטיות. על החברות המפתחות את סוכני ה-AI ואת הפרוטוקולים מוטלת החובה להוכיח שהן ראויות לאמון הציבור, לא רק בסיסמאות שיווקיות, אלא באמצעות אכיפת בקרות מינימליות. עליהן לדרוש אבטחה מחייבת, ולא אופציונלית.
ועד אז, האחריות מוטלת גם עלינו – המשתמשים. לפני שאתם מעניקים הרשאות לסוכן האוטונומי שיארגן עבורכם את כל קניות הבלאק פריידי, עליכם לשאול שאלות קריטיות כמו: איזה מידע ספציפי אני חושף – האם זה רק פרטי כרטיס אשראי, או גם נתונים מיומן אישי ואישי? היכן המידע נשמר – האם הוא נשמר בזיכרון השיחה של הסוכן או עובר ישירות לשירות הסופי? כמה זמן המידע נשמר לאחר השלמת המשימה? האם יש הצפנה ואבטחה מחייבת לכל שלב בשרשרת?
אם לא נהיה ערים למתרחש מאחורי הקלעים, אנו עלולים לשלם מחיר יקר בפרטיות ובאבטחה, גם אם קיבלנו את המבצע הטוב ביותר בבלאק פריידי. עלינו לדרוש מהעתיד הדיגיטלי לא רק יעילות, אלא בראש ובראשונה אמינות ובטיחות.
הכותב הוא חוקר ומרצה למדעי המחשב באוניברסיטת אריאל, ומרצה במחלקה למדעי המחשב במרכז האקדמי לב.
