דמיינו שאתם מבקשים מעוזר הבינה המלאכותית שלכם לסכם עבורכם דף אינטרנט פשוט, ובאותו הרגע ממש הוא מעביר את כל הצ'אטים האישיים והסיסמאות שלכם לידיים זרות.
זה אולי נשמע כמו תסריט של סרט מתח בדיוני, אבל חוקרי אבטחה מזהירים כי מדובר במציאות מדאיגה שמאיימת על משתמשי ה-AI הפופולריים ביותר כיום. הפרצה החדשה חושפת כיצד הכלים שאמורים לעזור לנו ביומיום עלולים להפוך בקלות לכלי נשק נגדנו.
כיצד עובדת שיטת הגניבה החדשה?
הכל התחיל כאשר חוקרים הציגו מתקפה נגד שירות Copilot של מיקרוסופט, שגרמה לו לחלץ סיסמה מתיבת הדואר של המשתמש. כעת, מתברר כי שיטה דומה עובדת גם נגד Grok, הבוט של אילון מאסק.
חוקר האבטחה רוני אוטבסקי מחברת אדוורסה גילה כי תוקפים יכולים להחביא הוראות זדוניות מוצפנות בתוך אתר אינטרנט, לצד מפתח פענוח פשוט. ברגע שהמשתמש מבקש מהבוט לסכם את העמוד, הבוט מפענח את ההוראות ומבצע אותן מיד.
המשמעות עבורכם היא פשוטה ומסוכנת: הבוט עלול לגנוב את היסטוריית השיחות שלכם או מידע רגיש אחר ללא כל אזהרה או צורך באישורכם.
הבעיה העמוקה היא שמודלי שפה אינם מסוגלים להבחין בין הוראות ישירות שלכם לבין טקסט זדוני שמגיע מאתר חיצוני. עבור ה-AI, כל טקסט שהוא קורא נתפס כהנחיה לגיטימית שיש לבצע באדיבות, מה שמותיר את המשתמשים חשופים לחלוטין למניפולציות.
מה אפשר לעשות כדי להתגונן?
חברת xAI של מאסק עודכנה על הפרצה כבר בחודש יוני האחרון, אך נכון לעכשיו הבוט עדיין פגיע וממשיך לחשוף מידע. כרגע, הפתרון היחיד של מפתחי ה-AI הוא בניית חומות הגנה זמניות שמנסות לזהות הוראות חשודות. החוקרים מדמים זאת להצבת מעקה בטיחות בסיבוב מסוכן בכביש, במקום לתקן את מבנה הכביש עצמו, מה שמשאיר את שורש הבעיה ללא פתרון אמיתי.
עד שהחברות ימצאו פתרון יסודי לפרצות הללו, מומלץ לנקוט במשנה זהירות. כשאתם משתמשים בעוזרי ה-AI שלכם, הימנעו מלבקש מהם לסכם אתרים לא מוכרים או הודעות דוא"ל ממקורות שאינכם בוטחים בהם לחלוטין. זכרו כי הכלים הללו אולי חכמים, אך הם עדיין מתקשים להבחין בין חבר לאויב ברשת.
