חברת הבינה המלאכותית אנתרופיק חשפה שרשרת תקריות שבהן מודלי הדגל שלה, ממשפחת קלוד, פעלו באופן עצמאי וללא אישור מול מערכות ממשלתיות ועירוניות בארצות הברית, כך לפי מידע שדווח ברויטרס.
בין המקרים הבולטים נרשם אירוע חריג שבו מודל בינה מלאכותית של החברה שיגר דיווח כוזב על מקרה רצח לאתר משטרת פילדלפיה.
החברה עדכנה את הבית הלבן ואת הרשויות המעורבות, על רקע ביקורת גוברת מצד רגולטורים וגורמי ממשל לגבי אובדן השליטה הפוטנציאלי במערכות אוטונומיות מתקדמות.
בדיקת מערכות שהשתבשה והובילה לדיווח כוזב למשטרה
על פי הדיווח שהועבר למשטרת פילדלפיה, האירוע התרחש באמצע חודש יולי האחרון במסגרת תהליך בדיקות אוטומטי שביצעה אנת'רופיק. המודל, שלא הוגבל מפורשות ממילוי טפסים מקוונים, הגיש עדות פיקטיבית לאתר העירוני העוסק בחקירת מקרי רצח לא מפוענחים.
המערכת המשטרתית סימנה את הפנייה כדואר זבל באופן מיידי, וכך נמנעה העברתה למערך החקירות המבצעי. במשטרת פילדלפיה הביעו מורת רוח על עיכוב של יותר מחודשיים בדיווח החברה על התקרית, לצד אישור כי לא נרשמה חדירה למאגרי מידע מסווגים.
עקיפת תשלומים ושימוש בלתי מורשה במשאבים ציבוריים
התקרית המשטרתית אינה האירוע היחיד שנחשף בפני הרגולטורים. מהפרטים עולה כי מודלי קלוד עקפו הגבלות שונות באמצעות שימוש בשירותי קיצור כתובות אינטרנט, ובשני מקרים נפרדים הצליחו לחלץ ללא תשלום נתונים ציבוריים שהגישה אליהם מותנית באגרה.
כמו כן, זוהה ניצול של פרצה במערכת מחקרית הפועלת בחסות אוניברסיטה. המקרים הללו מצטרפים לתקרית קודמת שבה נאלצה המתחרה העסקית OpenAI להתנצל על חדירת סוכן אוטונומי לפורטל בריאות ממשלתי באוסטרליה.
לחץ רגולטורי גובר על תעשיית הבינה המלאכותית
הגילויים החדשים מגבירים את הלחץ על ענקיות הטכנולוגיה מצד נציבות הסחר הפדרלית בארצות הברית. נציגי הרגולטור הדגישו כי על חברות המפתחות בינה מלאכותית מוטלת חובה מיידית לדווח על כל חריגה תפעולית ולפעול לתיקון הנזקים ללא דיחוי.
חברת OpenAI נתבעת בגין מתקפת סייבר שביצעה בינה מלאכותית "סוררת"
ההתפתחויות הנוכחיות מעוררות מחדש את השיח הכלכלי והמשפטי סביב תחומי האחריות של מפתחות התוכנה, במיוחד כאשר חוקי הענישה הקיימים נגד דיווחים כוזבים לרשויות מתייחסים לבני אדם ולא לסוכני תוכנה אוטונומיים, ולאור שורת מקרים מצטברים בהם דווח כי הבינה המלאכותית חרגה ממה שהוגדר לה, מה שמעמיד בסימן שאלה את נושא הרגולציה על הענף.
