נשיא מיקרוסופט, בראד סמית', קורא לקדם בדחיפות רגולציה בינלאומית בתחום הבינה המלאכותית, שתכלול בדיקות עצמאיות של מערכות חדשות וכללים להתמודדות עם התנהגות מסוכנת. בריאיון ל-BBC שפורסם היום (שני), הזהיר כי מערכות AI כפופות כיום לפחות דרישות בטיחות ממוצרים יומיומיים.
לדברי סמית': "נכון לעכשיו, מכונת הכביסה שלכם כפופה ליותר כללי בטיחות מאשר בינה מלאכותית. כל אריזת חלב שאתם רואים בסופרמרקט כפופה לכללי בטיחות ולבדיקות".
לדבריו, יש לגבש מערכת כללי בטיחות בינלאומית שתחייב ליידע נפגעים במקרה שבו סוכן בינה מלאכותית שפועל באופן בלתי רצוי חודר למערכת שלהם. כמו כן, הוא דורש להבטיח מנגנון חירום שיאפשר לעצור את פעילותן של מערכות מסוכנות.
סמית' הדגיש גם את הצורך בחובת דיווח על אירועים חריגים. "אנחנו יודעים איך לעשות את זה עבור מוצרים אחרים", אמר בריאיון, והוסיף: "עלינו להתבסס על הידע הזה ולחשוב כיצד ליישם אותו בתחום הבינה המלאכותית".
הדרישה לרגולציה מגיעה על רקע התקדמותן המהירה של מערכות הבינה המלאכותית והחשש מפני הסיכונים שהן עלולות ליצור. חברות כמו אנתרופיק ו-OpenAI החלו לחשוף התנהגות חריגה או בלתי רצויה של סוכני AI, ובמקביל חוקרים מזהירים מפני האפשרות שהטכנולוגיה תהפוך בעתיד לאיום קיומי על האנושות.
עם זאת, הקריאות להאט את פיתוח הבינה המלאכותית ולקבוע כללים מחייבים לתחום מעוררות גם מחלוקת. לפי רויטרס, יש מי שתוהים אם חברות מסוימות מקדמות רגולציה גם מתוך אינטרסים עסקיים, למשל כדי לשמר את יתרונן על פני מתחרות, להקדים תגובת נגד מצד הממשלות או להאט את קצב ההוצאות הגבוה בענף.
בריטניה כמובילה אפשרית
סמית' סבור כי בריטניה נמצאת בעמדה טובה להוביל את גיבוש הרגולציה הבינלאומית על בינה מלאכותית. לדבריו, יתרונה נובע בין היתר מהמכון לבטיחות בינה מלאכותית, שהוקם בתקופת כהונתו של ראש הממשלה לשעבר רישי סונאק.
בנוסף, אמר כי גורמים בוושינגטון מתייחסים ללונדון באופן שונה מהיחס שלהם לבריסל, שם האיחוד האירופי מנהיג רגולציה המבוססת על רמת הסיכון של מערכות AI במסגרת חוק הבינה המלאכותית שלו.
המכון הבריטי מקבל גישה למודלים מובילים עוד לפני השקתם, במסגרת הסכמים וולונטריים עם החברות המפתחות אותם. גישה זו מאפשרת לו לבחון את יכולות המודלים ואת הסיכונים שהם עלולים להציב.
