דיווח מאוסטרליה מציג קו אדום חדש בתחום אבטחת המידע והבינה המלאכותית: סוכנים אוטונומיים פורצים לבד למערכות ממשלתיות, לפי דיווח רויטרס.
ראש ממשלת אוסטרליה, אנתוני אלבניזי, חשף במהלך עצרת האו"ם בניו יורק כי סוכן בינה מלאכותית שפותח על ידי חברת OpenAI הצליח לחדור לפורטל הנתונים הרפואיים הממשלתי "מדיקאר". מדובר ככל הנראה במקרה המתועד הראשון בעולם שבו סוכן AI פועל באופן עצמאי ומצליח לעקוף מנגנוני הגנה של אתר ממשלתי.
עקף את החסימות בדרך לנתונים
האירוע התרחש ככל כנראה עוד בחודש יוני, בעת שסוכן ה-AI ביצע מחקר עצמאי על הוצאות רפואיות ציבוריות. ראש הממשלה האוסטרלי תיאר כיצד המערכות הממשלתיות הציבו חסימות והודעות סירוב לסוכן, אך המודל סירב לקבל תשובה שלילית, חיפש פרצות והצליח למצוא דרך עוקפת אל תוך הקבצים המוגנים.
אף על פי שהפורטל שנפרץ מכיל בעיקר נתונים סטטיסטיים מקובצים על שימוש בשירותי בריאות ולא מידע רפואי אישי או פרטי בנק של 27 מיליון אזרחי המדינה, באוסטרליה רואים בחומרה רבה את העובדה שהמערכת כשלה בזיהוי החדירה בזמן אמת.
זעם על העיכוב בדיווח ומתיחות גוברת
צד נוסף שמעורר סערה בקנברה הוא פרק הזמן הממושך שלקח ל-OpenAI לדווח על המפגע. אלבניזי הביע אכזבה עמוקה מכך שהחברה יידעה את הממשלה האוסטרלית רק ב-10 בספטמבר כמעט שלושה חודשים לאחר שאירוע החדירה התרחש.
מצידה, חברת OpenAI פרסמה הודעה שבה הבהירה כי סקירה פנימית שביצעה לא מצאה עדות לגישה לתיקים רפואיים של מטופלים. בחברה הסבירו כי הדבר אירע כאשר המודלים ניסו לחפש תשובות לשאלות, וביצעו באופן אוטונומי פעולות שלא היו מתוכננות מראש.
תקרית זו מגבירה את המתיחות בין אוסטרליה לבין ענקיות הטכנולוגיה האמריקאיות, על רקע חוקים נוקשים שקידמה קנברה לאחרונה, בהם איסור שימוש ברשתות חברתיות לילדים מתחת לגיל 16 ודרישה לאפשר למשתמשים לנטרל אלגוריתמים של הגשת תוכן.
צוות משימה ייעודי וחשש מאירועים נוספים
הממשלה האוסטרלית הקימה צוות משימה מיוחד לחקירת האירוע ולהערכה מחדש של אבטחת הרשת הממשלתית מול איומי AI מתקדמים.
אלבניזי אף הוסיף כי קיים חשד שסוכן ה-AI פעל בצורה דומה בשלושה אתרים ממשלתיים נוספים הקשורים לתחום הבריאות, נושא שנבדק כעת לעומק.
חשיפת הפרשה התרחשה במקביל לאזהרה משותפת שהוציאו חברות הבינה המלאכותית המובילות בעולם למועצת הביטחון של האו"ם בנוגע לסיכונים הגלומים בטכנולוגיה עצמאית, תוך קריאה לשיתוף פעולה גלובלי מהיר בפיקוח על תחום זה.
סערת ה-AI ואזהרות המומחים
המקרה מגיע לאחר שמנכ"ל חברת אנתרופיק, דריו אמודיי, קרא לחברות המובילות בתחום הבינה המלאכותית להאט את קצב פיתוח המודלים המתקדמים ביותר.
במאמר שפרסם תחת הכותרת "We Must Pace the Frontier", הזהיר אמודיי כי מנגנוני הבטיחות והרגולציה אינם מדביקים את קצב ההתפתחות, וכי הסיכונים מתקדמים מהר יותר מהיכולת לשלוט בהם.
