יו"ר ומנכ"ל מיקרוסופט, סאטיה נאדלה, מציב תמרור אזהרה חריף בפני תעשיית הטכנולוגיה וקורא לחשיבה מחודשת על השליטה במערכות בינה מלאכותית מתקדמות.
בפוסט נרחב שפרסם ברשת החברתית X, התייחס נאדלה למורכבות המודלים החדשים לעומת תוכנות מסורתיות וכתב: "בזמן שמערכות תוכנה מסורתיות נפרסו ברחבי הכלכלה בעשורים האחרונים, היו לנו הכלים והיכולת להתחקות אחר התנהגויות עד לרמת נתיב קוד ספציפי. אותה הבנה מכניסטית חומקת מאיתנו במערכות בינת-העל של ימינו".
הפוסט שפרסם:
https://t.co/MjwFy73LOF
— Satya Nadella (@satyanadella) October 10, 2026
הוא הדגיש את הסיכון הממשי שבמצב הנוכחי: "אנחנו פורסים את המערכות והמודלים הסוכנותיים המורכבים הללו עם גישה לנתונים הרגישים ביותר שלנו, ומעניקים להם את היכולת לבצע פעולות קריטיות בשמנו. איננו יכולים להוציא במיקור חוץ את האחריות למה שהבינה עושה למעננו; הבטחות של ספקי המודלים אינן פוטרות אותנו מאחריות זו".
להפריד בין ייצור הבינה לבין הסמכות עליה
נאדלה טוען כי אין להסתמך עוד על הבטחות של מפתחי המודלים, אלא לבנות סביבם מעטפת הנדסית נוקשה ודטרמיניסטית. "במילים אחרות, עלינו להפריד בין אספקת הבינה לבין הסמכות עליה", הסביר מנכ"ל מיקרוסופט. "אנחנו חייבים להקיף מודלים לא-דטרמיניסטיים בתכנון מערכתי דטרמיניסטי וחזק, בבקרות אנושיות ובנהלי תפעול אמינים".
בהמשך דבריו הוא השווה את מודלי החזית לאיום אבטחתי פנימי בתוך הארגון: "התייחסות למודלי חזית, סגורים כפתוחים, כאל סיכוני פנים (Insider Risks) היא הדרך לבנות מערכת כזו לא משום שהם בהכרח זדוניים, אלא משום שכל גורם בעל יכולת מספקת עם גישה למערכות חשובות עלול לטעות או להיפגע, וארכיטקטורת ההכלה והשליטה חייבת לקחת זאת בחשבון".
שקיפות מלאה ומנגנון השבתה בידי אדם
במסגרת עקרונות הפיקוח והניטור ששרטט נאדלה, הוא הבהיר כי כלים פנימיים של המודלים אינם מספקים כשלעצמם ואינם יכולים להחליף מנגנוני ביקורת חיצוניים. הוא קרא להטיל על המערכות הגבלות המדמות בלימת חירום פיזית: "עלינו להניח שמודל הוא פגיע ומותקף, ולהכיל אותו כבר מההתחלה. חשבו על זה כעל בלם חירום אדם מורשה חייב תמיד להיות מסוגל להשהות או לכבות מודל באמצע ביצוע משימה".
יתרה מכך, הוא דחה את הרעיון שמודלים יפקחו זה על זה באופן עיוור והזהיר ממצב של "קופסאות שחורות מקוננות", שבו מודל אטום אחד מפקח על מודל אטום אחר.
את דבריו חתם נאדלה בתפיסה עקרונית שמגדירה מחדש את האמון הטכנולוגי: "מערכת בינת-העל האמינה ביותר לא תהיה זו שבה נמצא המודל שאנו סומכים עליו ביותר, היא תהיה זו שתאפשר לנו לבטוח במודל כמה שפחות".
מחלוקת בצמרת: קריאות זהירות מול הלחץ של טראמפ
דבריו של נאדלה מצטרפים לגל אזהרות מצד שורת בכירים ומובילי דעה בתעשייה, בהם ביל גייטס, דריו אמודיי, סם אלטמן ואילון מאסק, המתריעים מפני קצב התקדמות חסר מעצורים ופרוטוקולי בטיחות לקויים. הסוגיה אף הובילה לטלטלה פנימית בענף, כולל עזיבות של חוקרי בטיחות בכירים שהזהירו מפני סיכונים קיומיים.
מנגד, הבית הלבן בראשות דונלד טראמפ מוביל קו לעומתי, דוחה את החששות מהשלכות הרסניות ומדגיש את החשיבות של שמירת היתרון התחרותי של ארצות הברית מול סין, תוך מיקוד המאמצים הממשלתיים בהסרת רגולציה ובלחימה בגורמים עוינים בלבד.
