חברת OpenAI מנהלת שיחות עם חברות בינה מלאכותית נוספות, בהן גוגל ואנתרופיק, בניסיון לבחון כיצד ניתן לשתף פעולה בהתמודדות עם סוגיות בטיחות בתחום ה-AI, כך אישר דובר מטעם OpenAI ל-CNBC. הדיונים בין החברות מתקיימים על רקע הלחץ הגובר להאט את קצב הפיתוח של המודלים המתקדמים.
הדיונים בין החברות מתקיימים מאז יולי, לאחר שדמיס הסאביס, יו"ר Google DeepMind, פרסם הצעה להקמת גוף אמריקאי לקביעת סטנדרטים בתחום הבינה המלאכותית. לפי ההצעה, מדובר בגוף שיוכל לפעול במסגרת שותפות בין המגזר הציבורי והפרטי או כארגון בעל מנגנון רגולציה עצמית, תחת פיקוח פדרלי.
האם קצב הפיתוח יואט?
המהלך מגיע בתקופה שבה OpenAI, גוגל ואנתרופיק נמצאות בתחרות חריפה על ההובלה בתחום ה-AI, אך במקביל מתמודדות עם לחץ גובר סביב הסיכונים הכרוכים בפיתוח מהיר של מודלים מתקדמים. בסוף השבוע קרא מנכ”ל אנתרופיק, דאריו אמודיי, לחברות הבינה המלאכותית להאט את קצב השיפור של המודלים המתקדמים ביותר.
הסאביס הביע תמיכה בקריאה זו, וכתב כי הכיוון שהציג אמודיי הוא הדרך הנכונה להתמודד עם המצב הנוכחי. גם מנכ”ל OpenAI, סם אלטמן, אמר כי הוא מסכים עם הצורך לבחון את קצב התקדמות התעשייה. לדבריו, האפשרות להאט את קצב הפיתוח הייתה "נושא מרכזי" בדיונים בתוך OpenAI בשבועות האחרונים.
אלטמן הוסיף כי החברה צפויה לפרסם פרטים נוספים בהמשך. במקביל, ב-OpenAI מקדמים רעיון של יצירת סטנדרטים שיובלו על ידי התעשייה. כריס להיין, סמנכ”ל העניינים הגלובליים של החברה, כתב מוקדם יותר החודש כי OpenAI מעוניינת לעבוד עם חברות נוספות על יוזמה וולונטרית בתחום.
היוזמה הוולונטרית של התעשייה
לדבריו, סטנדרטים שיובלו על ידי התעשייה לא אמורים להחליף אמצעי הגנה פדרליים מחייבים או פיקוח דמוקרטי, אלא להשלים אותם. הוא הוסיף כי לנוכח השלב החדש שאליו הגיעו יכולות ה-AI, יש לבחון גם צעדים שניתן לבצע באופן וולונטרי, עוד לפני שהממשלה תאמץ רגולציה חדשה.
