בצל אזהרות גוברות כי טכנולוגיית הבינה המלאכותית מתקדמת בקצב מהיר שעלול להוביל לאובדן שליטה אנושי ולסיכון הביטחון העולמי, מנהיגי חברות הבינה המלאכותית המובילות בעולם הגיעו לתדרוך מיוחד במועצת הביטחון של האו"ם, לפי רויטרס.
המפגש חסר התקדים נערך במקביל לכינוס העצרת הכללית של האו"ם בניו יורק, ומושך אליו את תשומת הלב של הקהילה הבינלאומית והשווקים הפיננסיים כאחד.
בין המשתתפים ניתן למצוא את מנכ"ל OpenAI סאם אלטמן, מנכ"ל Anthropic דריו אמודיי, ומייסד-שותף של Hugging Face קלמנט דלנג. לצדם תודרך המועצה גם על ידי פרופסור, מחלוצי תחום הבינה המלאכותית ומשותפיו לראשות הפאנל המדעי הבינלאומי של האו"ם, אשר הציג את הסיכונים הטכנולוגיים והתרחישים המדאיגים ביותר.
חשש מתרחיש בלהות
הדיון במועצת הביטחון, שאותו ניהל שר החוץ הצרפתי ז'אן-נואל בארו, התמקד בסיכונים הפיזיים והביטחוניים הכרוכים בהתפתחות ה-AI.
דיפלומטים אירופים ציינו כי מטרת על של המפגש היא להפנות זרקור לתרחישים שבהם מודלים של בינה מלאכותית מפתחים יכולות שיפור עצמי ויוצאים משליטה אנושית. השאלה המרכזית העומדת על הפרק היא היכולת של מערכות אוטונומיות ליצור אינטראקציות הדדיות שיובילו להסלמה ביטחונית או אפילו לאירוע מלחמתי מתוך טעות חישוב.
במקביל, מנהיגי התעשייה ניסו להציג קו מאוזן. אלטמן הציע לקדם תקנים וקווים מנחים בינלאומיים למדידת יכולות ה-AI ולהערכת מנגנוני הבטיחות שמפתחות החברות. לצד זאת, ארצות הברית וסין ניהלו מגעים מקדימים להקמת מערכת דיווח הדדית שמטרתה להתריע בזמן אמת על תקריות בינה מלאכותית העלולות לסכן את הביטחון הלאומי של המדינות.
מחלוקת בצמרת: טראמפ בולם רגולציה, מזכ"ל האו"ם דורש פיקוח הדוק
על אף הניסיונות לגבש הבנות, הדיון חשף פערים עמוקים בין הגישות הגיאופוליטיות והכלכליות. נשיא ארצות הברית דונלד טראמפ הבהיר בדבריו בעצרת הכללית כי וושינגטון אינה מתכוונת להטיל מגבלות כבדות על התעשייה.
טראמפ הדגיש כי ארה"ב מובילה בפער ניכר על פני סין ושאר העולם, וכי אין בכוונתו לחנוק צמיחה של טכנולוגיה הצפויה להיות גדולה יותר מהמהפכה התעשייתית. לדבריו, הפיקוח האמריקאי יתבצע באופן צמוד דרך משרד המשפטים בלבד, ללא הצטרפות לתכניות פיקוח גלובליות.
לא רק זה, הנשיא הצהיר כי מעתה המונח "בינה מלאכותית" (AI) יכונה במסמכים רשמיים של ארה"ב "Super Intelligence", כלומר "בינת-על", או SI בקיצור. לדבריו, הוא מקווה שגם מדינות אחרות יאמצו את המונח. טראמפ הסביר כי המילה "מלאכותית" גורמת לבינה להישמע כאילו מדובר במשהו מזויף, אף שלדבריו מדובר בטכנולוגיה אמיתית ומרשימה.
עמדה זו מעמידה את הממשל האמריקאי במסלול התנגשות ישיר מול מזכ"ל האו"ם, אנטוניו גוטרש, שממשיך לדחוף להקמת מנגנוני ממשל ופיקוח כלל-עולמיים על הבינה המלאכותית. המאבק בין הרצון לחופש פיתוח מואץ לבין הדרישה לבלמים ואיזונים צפוי להמשיך ולהשפיע באופן דרמטי על עתיד התעשייה, על ענקיות הטכנולוגיה ועל מאזן הכוחות הכלכלי והביטחוני בעולם.
