בשעה שהתחרות על הובלת מרוץ ה-AI מגיעה לשיאים חדשים, מתגלים בקיעים חמורים במנגנוני הפיקוח והבטיחות של החברות המובילות בענף.
יומיים בלבד לאחר שפורסם כי חברת OpenAI פירקה בשקט את צוות הבטיחות המרכזי שלה שאחראי על זיהוי סיכונים קטסטרופליים, נחשף מחדל אבטחה חמור גם אצל המתחרה הראשית, אנתרופיק (Anthropic).
אנתרופיק מודה: מודלי ה-AI השיגו גישה לא מורשית למערכות של ארגונים
הגילויים הדרמטיים הללו מעלים חשש כבד כי הלחץ המסחרי הגובר להציג מודלים עוצמתיים ומהירים יותר גורם לענקיות הטכנולוגיה להוריד את רגלן מדוושת הבלם.
במרכז הסערה ב-OpenAI עומדת ההחלטה לפרק לחלוטין את "צוות המוכנות" (Preparedness Team). צוות זה הוקם בקול תרועה רמה במטרה להעריך, לאתר ולבלום תרחישי קיצון הרסניים – החל ממתקפות סייבר מתקדמות ואוטונומיות, דרך סיוע בפיתוח נשק ביולוגי ועד לאובדן שליטה כולל במודלי חזית.
במקום גוף ייעודי ועצמאי הפועל ככלב שמירה פנימי, החליטה הנהלת החברה לפזר את חברי הצוות ואת אחריות הפיקוח בין קבוצות פיתוח שונות בארגון. כך מדווח The Decoder.
צעד זה מצטרף לשורה ארוכה של עזיבות בולטות של חוקרי בטיחות בכירים ב-OpenAI בחודשים האחרונים, וע"פ הדיווח מחזק את הביקורת הפנימית כי החברה מעדיפה לקדם מוצרים מסחריים על פני ניהול סיכונים קיומיים.
במקביל, מחדל טכני חסר תקדים נחשף בחברת אנתרופיק – שנחשבה עד כה לסמל של זהירות ואחריות בתעשייה.
על פי הדיווחים, מערכת הסינון הייעודית של החברה, שתפקידה לזהות ולחסום ניסיונות להוציא מהמודלים שלה מידע המסייע לייצור נשק ביולוגי וחומרים כימיים מסוכנים, הייתה מושבתת לחלוטין במשך כמעט שנה שלמה.
בשל תקלה טכנית שלא אותרה, קרוב ל-133 מיליון שאילתות של משתמשים הועברו ישירות למודל ללא שכבת הגנה קריטית זו.
אמנם באנתרופיק ממהרים להבהיר כי שכבות בטיחות בסיסיות אחרות המשיכו לפעול ברקע ומנעו אסון בפועל, אך עצם העובדה שרכיב בטיחות מרכזי כזה חרב במשך 11 חודשים מבלי שאיש הבחין בכך, מעוררת דאגה עמוקה בקרב רגולטורים ומומחי אבטחה ברחבי העולם.
שני המקרים הללו אינם אירועים נקודתיים, ובכך מתגלים סימפטומים של מגמה רחבה ומדאיגה בכל רחבי עמק הסיליקון. ככל שמודלי השפה הופכים לעוצמתיים, עצמאיים ומורכבים יותר, הפיקוח האנושי עליהם הופך למשימה מאתגרת בהרבה.
הלחץ מצד המשקיעים להציג רווחיות, התחרות העזה מול מעצמות כמו סין והרצון להשיק את הפיתוח הבא לפני המתחרים, מביאים לצמצום משאבי הבטיחות ולשחיקה במעמדם של גופי הפיקוח הפנימיים.
כששני המנועים החזקים ביותר של מהפכת ה-AI פועלים ללא בלמי חירום מתפקדים, עולה שאלה אחת נוקבת שאמורה להדהד במסדרונות הממשלות העולמיות ובוול סטריט: האם הנהג כבר לא מחזיק בהגה?
