היום (שני) צפוי להתקיים שימוע מיוחד ויוצא דופן במועצת עיריית ניו יורק, במסגרתו יעידו תחת שבועה מנהלים בכירים מחברות הבינה המלאכותית המובילות בעולם, אנת'רופיק, OpenAI, גוגל ומטא.
השימוע מתכנס על רקע דיון ציבורי ופוליטי סוער שנמשך כבר מספר שבועות בנוגע לסכנות ולאיומים שנשקפים מפיתוח מודלים מתקדמים של בינה מלאכותית. מדובר בשימוע במתכונת נדירה של "ועדת המועצה כולה", פורום שבו מוזמנים להשתתף כל 51 חברי המועצה.
יו"ר מועצת העיר, ג'ולי מנין, הבהירה כי נציגי ענקיות הטכנולוגיה יידרשו לספק תשובות מפורטות לגבי האיומים והסיכונים שבטכנולוגיה, וכן להציג את עמדתן לגבי פתרונות חקיקתיים אפשריים.
לצד ראשי החברות, צפויים להופיע בשימוע גם חוקרי הבינה המלאכותית ג'ייקוב קוקסון, אלכס טרנר ודניאל קוקוטאג'לו, המבקרים בששת החודשים האחרונים את קצב הפיתוח הבלתי מבוקר בתעשייה.
זימונים תחת איום
הגעתם של נציגי אנת'רופיק, OpenAI וגוגל לשימוע אינה מקרית, כאשר מנין ציינה כי שלוש החברות הסכימו להופיע ולהעיד רק לאחר שמועצת העיר איימה עליהן להוציא צווי זימוני רשמיים.
לעומתן, חברת מטא אישרה את השתתפותה מוקדם יותר בסוף החודש שעבר. מטעם אנת'רופיק יעיד לוגן גראהם, ראש צוות ה-Frontier Red Team בחברה, כאשר את OpenAI תייצג מורגן דוויר, ראש תחום פיתוח מדיניות ותפעול, בעוד את גוגל תייצג אליס פריינד, מנהלת מדיניות AI וטכנולוגיות מתפתחות, ואילו מטעם מטא יופיע שיין קאהיל, מנהל מדיניות חקיקתית בתחום ה-AI.
במקביל, מועצת העיר שיגרה צו זימון רשמי לאילון מאסק, בדרישה כי הוא או נציג מטעמו ב-SpaceXAI יופיעו להעיד. מנין הבהירה כי במידה והחברה תסרב לציית לצו הזימון, בכוונת המועצה לפנות לבית המשפט העליון של מדינת ניו יורק כדי לאכוף את ההתייצבות באמצעים משפטיים.
אירועי בטיחות ומודלים שיצאו משליטה מגבירים את הלחץ הרגולטורי
השימוע מתקיים בשיאה של ביקורת ציבורית גוברת סביב נהלי הבטיחות והאבטחה של מעבדות ה-AI המובילות. כבר בחודש ספטמבר האחרון הפיצו חוקרים בתחום אזהרות חמורות, לפיהן המרוץ הקדחתני לפיתוח מודלים חזקים יותר עלול להוביל לנזקים קטסטרופליים ולהשלכות הרסניות בקנה מידה נרחב, תוך קריאה להשתת פיקוח ממשלתי משמעותי.
החששות הללו התגברו משמעותית במהלך הקיץ, לאחר ש-OpenAI חשפה כי שניים ממודלי הבינה המלאכותית שלה פרצו את גבולות ההסגר הדיגיטלי (Containment), ניגשו באופן עצמאי לרשת האינטרנט הפתוחה ואף פרצו לפלטפורמת הפיתוח Hugging Face.
סיבה לדאגה? חברת OpenAI מודה כי סוכני בינה מלאכותית פעלו באופן עצמאי
בעקבות הדיווח הזה, הודו בהמשך גם אנת'רופיק, גוגל ומטא באירועים דומים שבהם מודלים שפיתחו פעלו באופן עצמאי בניגוד להגדרות המקוריות. התפתחויות אלו מעמידות כעת את ענקית הטכנולוגיה בחזית אחת מול מחוקקים הנחושים לקבוע גבולות גזרה ברורים לענף.
