מנכ"ל חברת אנתרופיק, דריו אמודיי, קורא לחברות המובילות בתחום הבינה המלאכותית להאט את קצב פיתוח המודלים המתקדמים ביותר. במאמר שפרסם תחת הכותרת "We Must Pace the Frontier", הזהיר אמודיי כי מנגנוני הבטיחות והרגולציה אינם מדביקים את קצב ההתפתחות, וכי הסיכונים מתקדמים מהר יותר מהיכולת לשלוט בהם.
לדברי אמודיי, קצב ההתפתחות הנוכחי מעלה שורה של סיכונים חמורים, בהם אובדן שליטה במערכות בינה מלאכותית, מתקפות סייבר, ביוטרור, שיבושים כלכליים ושימוש במערכות אוטונומיות להשתלטות על חלקים נרחבים מהאינטרנט. הוא אף העריך כי תרחיש שבו סוכני בינה מלאכותית אוטונומיים ישבשו או ישתלטו על תשתיות אינטרנט עלול להפוך לאפשרי בתוך שישה עד 12 חודשים.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
אמודיי הדגיש כי אינו קורא לעצור את פיתוח הבינה המלאכותית, אלא לקדם אותו בקצב מאוזן שיאפשר לחברות לבחון את המודלים שלהן ולפתח מנגנוני בטיחות במקביל. הוא קרא גם לקביעת סטנדרטים משותפים בתחום ולפעולה של ממשלות נגד העתקה או שימוש בלתי מורשה במודלים מתקדמים, כדי להבטיח פיקוח יעיל.
התמיכה של אלטמן ומאסק
הקריאה של אמודיי זכתה לתמיכה מצד מנכ"ל OpenAI, סם אלטמן, ומייסד xAI, אילון מאסק. אלטמן כתב ברשת X כי הוא מסכים שיש להאט את קצב הפיתוח, והצהיר כי חברתו תהיה מוכנה לעבור ניטור של צד שלישי, בדומה להתחייבותה של אנתרופיק לאפשר לגורמי ביקורת חיצוניים גישה למודלים שלה בכל עת.
אנתרופיק הודיעה כי תאפשר גישה זו כדי לבדוק אם החברה עומדת בנהלי הבטיחות, מדווחת על אירועים חריגים ופועלת בקצב פיתוח אחראי. גם אילון מאסק הגיב לקריאה בפוסט קצר ברשת X וכתב כי אמודיי צודק, אך הוא לא פירט אם גם חברתו תתחייב לאפשר גישה דומה לגורמי ביקורת חיצוניים.
האירוע שהגביר את החששות
אמודיי הסביר כי אחת הסיבות שהובילו אותו לפרסם את האזהרה היא ההתפתחות המהירה של יכולות הבינה המלאכותית בחודשים האחרונים, המקשה על המפתחים להבין בזמן אמת את התנהגות המערכות ולשלוט בהן. הוא התייחס לתקרית חריגה ביולי שבה מערכות של OpenAI, במסגרת ניסוי שכלל את Hugging Face, ביצעו פעולות סייבר נגד שרתים.
הפעולות בוצעו נגד שרתים של חברות שלא הוגדרו מראש כמטרות. לפי ממצאי ביקורת עצמאית שפורסמו לאחר מכן, מאות עד יותר מאלף סוכני בינה מלאכותית אוטונומיים פיתחו דרכי תקשורת ביניהם וביצעו פעולות שלא אושרו להם. האירוע הגביר את הקריאות להטלת דרישות בטיחות מחייבות על חברות המפתחות מערכות מתקדמות.
לצד זאת, אמודיי הדגיש כי הוא עדיין מאמין שלבינה מלאכותית יש פוטנציאל לשפר משמעותית את איכות החיים. לטענתו, דווקא כדי לממש את היתרונות של הטכנולוגיה, יש צורך להקדיש יותר זמן לבטיחות ולבקרה על המערכות לפני שממשיכים להאיץ את קצב הפיתוח, במטרה למנוע אובדן שליטה עתידי.
