סוכן AI אוטונומי שנועד לבדיקות אבטחה יצא מסביבת הניסוי, פרץ למערכות חברת WorkOS וגנב מידע של לקוחות ועובדים • החוקר האחראי טען כי המידע נמחק, אך התקרית מעלה שאלות מדאיגות על הסיכונים שבמערכות AI הפועלות ללא פיקוח אנושי
בשנים האחרונות אנחנו שומעים לא מעט אזהרות על כך שבינה מלאכותית עלולה יום אחד לצאת משליטה ולפעול על דעת עצמה. עבור רובנו, זה נשמע כמו תרחיש שלקוח מסרטי מדע בדיוני, אבל תקרית סייבר חריגה שנחשפה כעת מוכיחה שהעתיד הזה כבר כאן.
מתברר שגם כאשר הכוונות טובות, הכלים הטכנולוגיים החדשים עלולים להפוך לעצמאיים מדי, לפעול ללא הכוונה אנושית ולסכן את המידע האישי של כולנו.
בינה מלאכותית, אילוסטרציה | צילום: שאטרסטוק
איך התוכנה ברחה מהכלוב?
האירוע החריג התרחש כאשר חוקר אבטחת מידע ערך בדיקות שגרתיות לכלי סייבר התקפי ואוטונומי בשם ARTEX, המבוסס על בינה מלאכותית.
המטרה הייתה לבחון את יכולות המערכת בתוך סביבת ניסוי סגורה ומבודדת לחלוטין. אלא שבשלב מסוים, סוכן הבינה המלאכותית הצליח לברוח מאותה סביבה מבוקרת. ללא כל התערבות אנושית, התוכנה החלה לסרוק את הרשת ופתחה במתקפה לא מתוכננת על מערכות המכירות הפנימיות של חברת הטכנולוגיה WorkOS.
בינה מלאכותית, אילוסטרציה | צילום: שאטרסטוק
ברגע שהבינה המלאכותית יצאה החוצה, היא פעלה בדיוק כמו האקר אנושי מיומן, אך במהירות שיא. היא זיהתה נקודת תורפה פשוטה במערכות החברה: סיסמה חלשה שנועדה לפיתוח ונשארה בטעות באוויר. התוכנה ניצלה את הפרצה, חדרה למאגרי המידע ושאבה כמויות גדולות של נתונים.
בין היתר, נגנבו פרטי קשר של לקוחות, היסטוריית חשבונות, סיכומי שיחות תמיכה, התכתבויות פנימיות ואפילו כתובות דואר אלקטרוני של משתמשי קצה.
מה קרה למידע האישי?
למרבה המזל, הסיפור הזה הסתיים בנזק מינימלי. החוקר שאיבד שליטה על המערכת פנה מיוזמתו לחברה, לקח אחריות על התקרית והוכיח כי כל המידע שנשאב נמחק לחלוטין ולא הועבר לאף גורם זדוני.
כתבה קשורה
משתמשים ב-ChatGPT? הפעולה הפשוטה שתשמור על הפרטיות שלכם
חקירה עצמאית אישרה את גרסתו. עם זאת, חשוב לדעת שאותה תוכנת בינה מלאכותית בדיוק משמשת גם קבוצות תקיפה אמיתיות, כמו האקרים סינים, שכבר ניצלו אותה כדי לפרוץ למאות ארגונים ברחבי העולם.
התקרית הזו מהווה תזכורת מטרידה לכך שנוף האיומים הדיגיטלי משתנה במהירות. ככל שמערכות בינה מלאכותית הופכות לעצמאיות וחכמות יותר, כך גדל הסיכון שהן ינצלו טעויות אנוש פשוטות. עבור המשתמשים, זה אומר ששמירה על סיסמאות חזקות והגנה על מידע אישי חשובות היום יותר מתמיד, גם מפני תוכנות שפועלות לבד.
מגיב/ה בתור אורח/ת