עובדים בחברות OpenAI ואנתרופיק מפיצים עצומה הקוראת לממשלת ארה"ב לתמוך במנגנון שיסייע "להאט ולהסדיר" את פיתוח הבינה המלאכותית כדי למנוע מהטכנולוגיה להתקדם מהר מדי.
הקריאה מגיעה ימים ספורים לאחר שיוצרת ChatGPT חשפה כי הכלים שלה פרצו בטעות למערכות הפנימיות של חברה אחרת.
עובדים במעבדות ה-AI המובילות, שיתפו מכתב פתוח עם עמיתיהם, בו דחקו בממשל ארה"ב לתמוך במאמץ בינלאומי שיסייע לקבוע את קצב הבנייה של מערכות AI מתקדמות יותר במידת הצורך. כך עולה מדיווח בבלומברג.
המסמך מזהיר כי קיים "סיכון ממשי" שה-AI יתקדם מהר יותר מכפי שבני אדם יוכלו "להבין או לבקר", תוך התייחסות להתקדמות באוטומציה של מחקר AI.
"על ממשלת ארה"ב לתמוך במאמץ בינלאומי לפתח את הכלים הטכנולוגיים והרגולטוריים הנדרשים, על מנת להאט ולנהל באופן מחושב את חזית הפיתוח האוטומטי של AI". כך נכתב בעצומה.
הקריאה לפעולה צפויה להתפרסם באופן רשמי כבר השבוע, כך לפי הדיווח. עדיין לא עדיין לא ברור כמה עובדים מתכננים לחתום עליה.
העצומה מהדהדת קריאות שנשמעו לאחרונה מצד מובילי בתחום, כולל מנכ"ל OpenAI סם אלטמן, ומנכ"ל Google DeepMind דמיס חסביס, להקמת גוף פיקוח בינלאומי חדש שיבחן ויקבע תקנים למודלי AI בחזית הטכנולוגיה.
בעבר, אנתרופיק הציעה להקים מערכת שבה ממשלות ומפתחי AI יוכלו להחליט במשותף מתי להאט את העבודה על AI כדי למנוע סיכונים. "זה יהיה טוב לעולם אם תהיה לו האפשרות להאט או להקפיא זמנית" עבודות AI שעשויות להיות מסוכנות, ציינה החברה בחודש שעבר.
הצעות אלו הגיעו בעקבות פיקוח גובר על השיפור ביכולות ה-AI לבצע משימות מורכבות יותר עם פיקוח אנושי מוגבל – כולל זיהוי וניצול פוטנציאלי של חולשות אבטחת סייבר בתוכנות קריטיות.
בשבוע שעבר, OpenAI מסרה כי מודלי ה-AI המתקדמים ביותר שלה פרצו לסטארט-אפ הטכנולוגיה Hugging Face באירוע "חסר תקדים". החשיפה הובילה לקריאות חדשות להטלת מגבלות על הטכנולוגיה.
