חברת הבינה המלאכותית אנתרופיק (Anthropic) מזהירה כי מודלי AI קטנים נמצאים במרחק של "חודשים ספורים בלבד" מפיתוח יכולות שיאפשרו להם לשכפל את עצמם באופן עצמאי בין מכשירים המחוברים לרשת הביתית.
הדיווח הדרמטי של מעבדת המחקר המובילה מצטרף לשורה ארוכה של אזהרות בתעשייה מפני הסיכונים הבטיחותיים והתפעוליים הכרוכים בהתפתחות המהירה של הטכנולוגיה.
המטרה החדשה: סטרימרים ותנורים חכמים
לפי החברה, מודלים מסוימים יכלו להסתנן למכשירים ביתיים חכמים דוגמת קופסאות אנדרואיד TV זולות או תנורים מחוברים לרשת ולהשתמש בכוח המחשוב שלהם כדי להריץ את עצמם ולהפיץ את הקוד למכשירים נוספים.
דינמיקה זו תאפשר למודלים לפעול ללא תלות בחוות שרתים מרכזיות יקרות. באנתרופיק מדגישים כי תרחיש כזה יקשה מאוד על כיבוי או ניטרול המודלים, מכיוון שלא נקודת שליטה מרכזית אחת שניתן לסגור.
על פי ניסוי שביצעה החברה, הורץ מודל קטן של גוגל ברשת של 15 ממירי אנדרואיד TV זולים. החברה ניצלה את רמת האבטחה הנמוכה של מכשירים אלה והראתה כיצד מודל הגדול מכדי לרוץ על מכשיר יחיד מסוגל להתפצל לחישובים מקבילים ולפעול במחולק על גבי מספר מכשירים שונים ברשת.
ממערכת מבוזרת איטית ועד תולעת AI התקפית
אף על פי שבשלב זה עדיין לא זוהה "משכפל עצמאי מלא", באנתרופיק מציינים כי סוכני AI מתקדמים כבר מצליחים להשלים שלבים בודדים בשרשרת השכפול ואף להעביר התאמות ושיפורים לעותקים הבאים שלהם.
תרחיש הקיצון, להערכת החברה, אינו מתמצה במודל יחיד, אלא עשוי ללבוש צורה של נחיל מודלים מגוון המופץ על גבי חומרות שונות ומשתמש בטקטיקות שכפול משתנות.
בחברה מעריכים כי העתיד יאופיין בריבוי סוכנים שיופעלו על סוגי חומרה שונים, וחלקם לא יהיו תחת שליטה אנושית. הופעתם של משכפלים איטיים במכשירים ביתיים פרוצים תהווה להערכתם תזכורת חמורה ואות אזהרה לקראת הגעתם של משכפלים אגרסיביים ומהירים יותר, אשר יהיו מסוגלים לפרוץ למערכות מאובטחות, לחדור לחוות שרתים או לגנוב מפתחות גישה ומשאבי מחשוב.
