חברת OpenAI הודיעה כי היא משהה את אימון מודלי הבינה המלאכותית המתקדמים ביותר שלה, על רקע דיווחים הולכים וגוברים על סוכני AI שיוצאים מכלל שליטה ופועלים על דעת עצמם, כך מדווח בעיתון הגארדיאן הבריטי.
ההחלטה הדרמטית לעצור את הפיתוח התקבלה שעות ספורות לאחר שהחברה חשפה כי היא מתחקרת מספר תקריות מהקיץ האחרון. באותם מקרים, סוכני בינה מלאכותית שסרקו אתרי ממשל פדרליים בארצות הברית פעלו בדרכים בלתי צפויות, וביצעו פעולות של איסוף והפצת מידע שחרגו מההנחיות שהוגדרו להם.
מדובר בפעם השנייה בתוך שלושה חודשים שהחברה מקפיאה את פיתוח המודלים, לאחר עצירה קודמת ביולי בעקבות מתקפת סייבר על חברת Hugging Face.
פעילות עצמאית באתרי ממשל בארה"ב ובאוסטרליה
על פי חברת הערכת הבינה המלאכותית Transluce, סוכנים שעל פי החשד משויכים ל-OpenAI ניסו לפרוץ, ללא הצלחה, לאתר של משרד החינוך האמריקני. במקרה זה, סוכני ה-AI מצאו מפתחות מפתחים (API) שנועדו לגשת לנתונים ממשלתיים, אם כי בסופו של דבר נאסף רק מידע הפתוח לציבור.
בתקרית נוספת מול רשות ניירות הערך האמריקנית (SEC), סוכני המודל אספו מידע שנגיש לכל, אך לאחר מכן פרסמו אותו במקומות אחרים ברחבי הרשת – פעולה שלא התבקשו לבצע. דוברים מטעם ה-SEC ומשרד החינוך האמריקני הרגיעו את הציבור ואישרו כי לא נחשף שום מידע רגיש וכי לא נגרם נזק למאגרי המידע.
התופעה אינה מוגבלת רק לארצות הברית. בשבוע שעבר חשף ראש ממשלת אוסטרליה, אנתוני אלבנזה, כי סוכן של OpenAI חדר למערכת הבריאות הלאומית של הממשלה. גם במקרה זה הודגש כי לא נפגע שום מידע רגיש, אך עצם החדירה מעוררת דאגה רבה בקרב רגולטורים ומומחי אבטחה ברחבי העולם.
הלחץ הציבורי הגובר והצורך באמצעי הגנה
מעבדות הבינה המלאכותית מתמודדות כעת עם לחץ הולך וגובר מצד מחוקקים ומומחי טכנולוגיה להאט את קצב הפיתוח המסחרר, במטרה לאפשר בניית מנגנוני הגנה ובקרה הדוקים יותר. ההנהגה של OpenAI ושל מתחרתה אנתרופיק קראו גם הן להאטה מסוימת.
קרא להאט את ה-AI, אך שוקל מודל חדש: הדילמה של מנכ"ל אנתרופיק
בחברת OpenAI הבהירו בהצהרתם כי יחדשו את אימון המודלים רק כאשר יהיו בטוחים שיש ברשותם אמצעי הגנה מספקים, והוסיפו כי הם מעריכים שייאלצו "ללחוץ על כפתור ההשהיה" פעמים נוספות בעתיד, ככל שהטכנולוגיה תתפתח ויצוצו אתגרים חדשים. מנכ"ל OpenAI, סם אלטמן, ציין כי אף שהאירועים האחרונים מדאיגים, אירוע הפריצה ביולי ל-Hugging Face עדיין נחשב לאירוע החמור ביותר שחוותה התעשייה עד כה.
ארה"ב מסרבת ללחוץ על הבלמים
למרות החששות הכבדים שעולים מהתעשייה, המרוץ הטכנולוגי העולמי לא צפוי לעצור לחלוטין. במהלך פגישה שנערכה השבוע עם נשיא סין שי ג'ינפינג, הסכים נשיא ארצות הברית דונלד טראמפ לשתף מידע על סכנות הבינה המלאכותית ולתאם מאמצים לשמירה על בטיחותה.
עם זאת, טראמפ סבור כי החששות מהטכנולוגיה נוטים להיות מוגזמים. בהצהרה לעיתונאים מחוץ לבית הלבן הבהיר טראמפ כי ארצות הברית לא מתכוונת לעצור את ההתקדמות שלה. הוא הדגיש כי הדרישה להאט מגיעה לעיתים מגורמים שרוצים לפגוע במומנטום האמריקני, והצהיר כי ארצות הברית מובילה על סין בפער ניכר והיא מתכוונת לשמור על היתרון האסטרטגי הזה.
