ראש מערך הסייבר הלאומי, יוסי כראדי, שיגר אמש מסמך אסטרטגי דרמטי למנהיגים ולראשי ארגוני הגנת סייבר ברחבי העולם, שבו הוא מזהיר מפני אובדן שליטה על מערכות בינה מלאכותית (AI) בתחומים רגישים.
במסמך, כראדי קורא למדינות לקבוע בדחיפות גבולות ריבוניים ורגולטוריים ברורים, ומדגיש כי אנו מתקרבים למציאות שבה מערכות הגנת סייבר ייאלצו לקבל החלטות הרות גורל בקצב שלא יאפשר שום מעורבות אנושית.
הפרדוקס הביטחוני וסכנת האוטונומיה
האזהרה החריגה מגיעה על רקע שורת תקריות בינלאומיות שאירעו לאחרונה, שבהן סוכני בינה מלאכותית פרצו למאגרים ממשלתיים, וכן מקרים רבים שבהם חברות מסחריות איבדו שליטה על פעילות הסוכנים שפיתחו. כראדי מצביע במסמך על פרדוקס מובנה בעולם הסייבר והכלכלה המודרנית: ככל שמתקפות הסייבר הופכות למהירות, ממוקדות ואוטומטיות יותר, כך נדרשות גם מערכות ההגנה לפעול במהירות של מכונה.
חברת OpenAI נתבעת בגין מתקפת סייבר שביצעה בינה מלאכותית "סוררת"
אלא שככל שמעניקים למערכות הללו אוטונומיה נרחבת יותר, כך קשה יותר להבין את שיקוליהן, לעצור אותן בזמן אמת, או לקבוע מי יישא באחריות משפטית וכלכלית במקרה של תקלה.
תרחיש האימה שמציג כראדי מתאר מערכת הגנה אוטונומית המזהה מתקפת "יום אפס" ומחליטה בתוך שניות לבודד תשתית. בעוד שהחלטה נכונה תבלום את המתקפה, זיהוי שגוי של המערכת עלול להוביל להשבתה הרסנית של רשתות חיוניות, כגון בתי חולים או תשתיות חשמל לאומיות.
משולש האסטרטגיה: ניהול סיכונים ותלות בספקים
כדי להתמודד עם פער הקצבים שבין התפתחות הטכנולוגיה לבין איטיות מנגנוני הרגולציה והבקרה, מציע ראש מערך הסייבר לאמץ "משולש אסטרטגי" המאזן בין חדשנות, ביטחון ושליטה אנושית.
בראייה כלכלית אסטרטגית, כראדי מבהיר כי השאלה כיום איננה האם לאמץ טכנולוגיות AI, אלא כיצד לנהל את הסיכונים. על המדינות להגדיר היכן יש להאיץ את השימוש בטכנולוגיה, ומהן הנקודות שבהן תלות בספקים חיצוניים ובתשתיות זרות מייצרת סיכון לאומי בלתי קביל למשק ולמדינה.
מדרג הסמכויות החדש: מה נשאר בידי אדם?
כפתרון מעשי למשבר השליטה, כראדי קורא למנהיגים לקבוע כבר עכשיו מדרג סמכויות ברור שיגדיר אילו החלטות ניתן להאציל למכונות.
הוא מציע לחלק את הפעולות לארבע רמות מובחנות, פעולות שניתן להעביר באופן מלא לאחריות הבינה המלאכותית, פעולות המותרות רק תחת מגבלות מחמירות שהוגדרו מראש, פעולות שעדיין יחייבו אישור של גורם אנושי, ולבסוף פעולות בעלות השלכות לאומיות בלתי הפיכות. פעולות ברמה הרביעית יקוטלגו כ"סמכות ריבונית שאינה ניתנת להאצלה" בשום שלב, והן יישארו תמיד בידי אדם.
במסר תקיף למקבלי ההחלטות, מסכם כראדי את גישתו וקובע כי מנהיגים אינם נדרשים להפוך למהנדסים של בינה מלאכותית, אלא מוטלת עליהם החובה להחליט היכן חוסן אינו נתון למשא ומתן. הוא חותם את מכתבו בקריאה למנהיגים בעולם שלא להשאיר לאחרים את הגדרת העתיד, אלא לרתום את אותם הגורמים לבניית העולם שבו הם מאמינים.
