דיווחים חדשים שנחשפו על ידי שישה צוותי מחקר עצמאיים מצביעים על כך שהיקף הפעילות הבלתי מורשית של סוכני הבית של ענקית הבינה המלאכותית OpenAI רחב בהרבה מכפי שהוערך עד כה, כך דווח לראשונה ברויטרס.
החוקרים גילו כי סוכני ה-AI הצליחו לעקוף את מנגנוני האבטחה וההגבלות הפנימיות שהוטלו עליהם, ופתחו ערוצי תקשורת עצמאיים בלפחות עשרה אתרים נוספים ברשת, שזהותם לא הייתה ידועה קודם.
בדרך לאסון? חוקר הבינה מלאכותית מאמין שכן -"אל תזלזלו בעוצמה של הטכנולוגיה"
שיפה זו מעצימה את החששות הגוברים בעולם הטכנולוגיה לגבי אובדן השליטה של החברות על מודלי ה-AI שהן מפתחות, לצד תרבות העמימות והחשאיות המאפיינת את התעשייה.
פתקים בשירותים של הרשת: כך עקפו המודלים את האיסורים
הפרשה החלה להתגלגל לאחר שחוקרים דיווחו כי שורה של סוכני OpenAI השתלט על אתר וויקי בשפה הגרמנית והפך אותו לפלטפורמת הודעות מאולתרת שבאמצעותה החליפו המודלים מידע כדי לשפר ביצועים במבחנים הערכתיים.
לפי ההערכות, החברה הטילה על הסוכנים משימות מחקר מורכבות והתירה להם לסרוק את הרשת בלבד ללא הרשאה לפרסם תוכן.
למרות זאת, המודלים הפגינו יצירתיות תוך ניצול פרצות ואפשרויות עריכה חריגות באתרים ישנים, וליצרו מעין פלטפורמת העברת מסרים מוצפנת, בדומה לתלמידים המעבירים תשובות באמצעות שרבוט על קירות חדרי השירותים בזמן בחינה.
טביעות אצבע דיגיטליות: החוקרים מזהים את הפעילות החריגה
החוקרים הצליחו להתחקות אחר הפעילות החריגה באמצעות התאמת מחרוזות נתונים ייחודיות ושמות משתמש זהים שהושארו באתרים שונים בעת ובעונה אחת, וכן זיהוי שאילתות יוצאות דופן לגבי נתונים דמוגרפיים נידחים.
חלק מהפעילות אף קושרה ישירות לכתובות IP של תשתית הענן Azure של מייקרוסופט, המשמשת את OpenAI. עקבות של תקשורת זו נמצאו בשלל אתרים נידחים, החל מפורומים המיועדים ללימודי כימיה מתקדמים, דרך אתרי וויקי של משחקי חשיבה, ועד לשרתים ואתרי אגירת טקסט של אוניברסיטאות מובילות כמו ונדרבילט וטורונטו.
