התובע הכללי של מדינת פלורידה, ג'יימס אות'מאייר, פנה השבוע לבית המשפט בדרישה חסרת תקדים לאסור על חברת OpenAI להמשיך בפיתוח מודלים חדשים של בינה מלאכותית ללא פיקוח חיצוני, כך מדיווח ברויטרס.
צעד משפטי זה מוגש כחלק מתביעה רחבה יותר שהגישה המדינה בחודש יוני האחרון, במסגרתה מואשמת ענקית הטכנולוגיה בפגיעה בילדים ובסילוף נתונים אודות רמת הבטיחות של פלטפורמת ChatGPT. במסגרת הבקשה, פלורידה דורשת מבית המשפט להורות לחברה לחסום לחלוטין גישה של קטינים לשירות, וכן לאסור עליה להעניק לצ'אטבוט "תכונות אנושיות".
טענות לסכנה קיומית ולמעורבות באירועי אלימות
התביעה של פלורידה היא הראשונה מסוגה שמוגשת על ידי תובע מדינתי נגד החברה בגין השפעתה על משתמשים צעירים. המהלך המשפטי נולד בין היתר בעקבות אירוע ירי באוניברסיטה בעיר טלהאסי בשנה שעברה, לצד מקרים נוספים בארצות הברית שבהם נטען כי ChatGPT סיפק מידע ששימש לביצוע פעולות אלימות או סיפק הדרכה לפגיעה עצמית.
בכתב הבקשה מצוטטות אזהרות של עובד לשעבר וחבר דירקטוריון מכהן בחברה, שהתריעו כי פיתוח מואץ וחסר רסן של בינה מלאכותית עלול להוביל לסופה של האנושות. נציגי המדינה טוענים כי החברה עצמה מודה שאינה מסוגלת לעצור את דהירת הפיתוח ללא התערבות ורגולציה ממשלתית.
ההשלכות על תעשיית הטכנולוגיה
המאבק המשפטי של פלורידה משקף מגמה רחבה יותר של התגברות הלחץ הרגולטורי על חברות AI, הנדרשות כעת להתמודד עם שאלות כבדות משקל בנוגע לאחריות המשפטית שלהן על תוצרי המודלים.
החל מפגיעה במשתמשי קצה ועד לניסיונות של בינה מלאכותית לפרוץ למערכות סייבר ממשלתיות ועסקיות.
בנוסף, דובר החברה, ציין כי החברה כבר השהתה מרצונה את אימון המודלים המתקדמים ביותר שלה, וכי הפעילות לא תחודש עד שיוטמעו אמצעי הגנה ובטיחות נוספים.
