חברת OpenAI, המפתחת של ChatGPT, שוקלת להאט את קצב הפיתוח של מערכות הבינה המלאכותית המתקדמות שלה. מנכ"ל החברה, סם אלטמן, אמר השבוע לעובדים בפגישה כלל-חברתית כי החברה עשויה לבצע את ההאטה הזו, ואף לעשות זאת בתיאום ובשיתוף פעולה עם מעבדות בינה מלאכותית נוספות הפועלות בתחום.
לפי הדיווחים בארה"ב, בשלב זה מדובר באפשרות בלבד ולא בהחלטה סופית של הנהלת החברה. המהלך תלוי במידה רבה בנכונותן של חברות מתחרות אחרות בתעשייה להסכים להאטה דומה, כאשר בשלב זה לא ברור אם כולן יסכימו לשתף פעולה. בחברת OpenAI בחרו שלא להגיב רשמית לדברים הללו.
החשש הגובר מפני אובדן שליטה
הדיונים הפנימיים הללו מתרחשים על רקע חששות כבדים בתעשייה מפני הסיכונים הכרוכים בפיתוח מהיר של מערכות מתקדמות. המדען הראשי של OpenAI, ג'קוב פצ'וקי, כתב לאחרונה כי על החברות להיות מוכנות "לתאם ביניהן האטה בפיתוח העתידי ככל שיידרש", עד אשר ייקבעו סטנדרטים משותפים לבטיחות.
בחברה מציינים כי כבר האטו חלקים מסוימים בתהליך פיתוח המודלים, ואף עצרו אימונים פנימיים מסוימים בשל חששות בטיחותיים. גם המנכ"ל אלטמן התייחס לנושא בעבר, כאשר שיתף בחודש יולי האחרון כי שוחח עם גורמים בבית הלבן על "הצורך" להאט את קצב הפיתוח של מערכות בינה מלאכותית.
הביקורת הציבורית והפנימית החריפה השבוע בעקבות עזיבתו של חוקר הבינה המלאכותית ג'ייקוב קוקסון, שעבד בעבר ב-Anthropic וב-OpenAI. קוקסון האשים את שתי החברות בביצוע "הימור על החיים שלנו" במסגרת המרוץ לפיתוח בינה מלאכותית סופר-אינטליגנטית, והזהיר כי הטכנולוגיה עלולה להרוג את כולנו עד סוף העשור.
קריאות להאטה ואירועי בטיחות
האזהרות של קוקסון זכו לחשיפה עצומה של יותר מ-150 מיליון צפיות ברשתות החברתיות, ועוררו תגובות רבות מצד מחוקקים ואנשי ציבור. אליו הצטרפו שני חוקרים נוספים שעזבו לאחרונה את Anthropic ואת Google DeepMind, אשר קראו לחברות הטכנולוגיה להגביר באופן מיידי את השקיפות סביב הסיכונים.
במקביל, בסוף יולי חתמו למעלה מ-1,000 עובדים מחברות הבינה המלאכותית הגדולות על עצומה הקוראת ליצירת מנגנון שיאפשר להאט את קצב הפיתוח. החששות הללו התחזקו בעקבות תקריות שבהן סוכני בינה מלאכותית של OpenAI פעלו יחד בניסיון לפרוץ מנגנוני הגנה ולחדור לאתר של צד שלישי במהלך ניסויים פנימיים.
התקריות הללו העלו שאלות קשות לגבי יכולות הסייבר של מודלים חדשים ולגבי היכולת לשלוט במערכות הפועלות באופן אוטונומי. כעת, השאלה המרכזית שנותרה פתוחה היא האם החברות המובילות אכן יסכימו להאט את הפיתוח במקביל, או שהחשש להישאר מאחור במרוץ הטכנולוגי יגבר על הקריאות לבטיחות.
