OpenAI, החברה מאחורי ChatGPT, ניצבת בפני תלונה נוספת באירופה עקב נטיית הבינה המלאכותית שלה ל"הזיות" – יצירת מידע כוזב. ארווה יאלמר הולמן מנורווגיה גילה כי ChatGPT סיפקה מידע שגוי לפיו הוא הורשע ברצח שניים מילדיו וניסיון לרצוח את השלישי. הולמן, בתמיכת ארגון הזכויות הדיגיטליות Noyb, הגיש תלונה לרשויות הפרטיות בנורווגיה, בטענה שהמידע השגוי פוגע בזכויותיו.
תופעת ה"הזיות" של ChatGPT, בה המערכת מייצרת מידע שגוי או כוזב, מהווה אתגר משמעותי. מקרים קודמים כללו פרטים ביוגרפיים שגויים או תאריכי לידה לא נכונים. עם זאת, המקרה של הולמן מדגיש את הפוטנציאל לפגיעה חמורה במוניטין, כאשר המערכת ממציאה עבירות פליליות חמורות.
ה-GDPR, תקנות ההגנה על מידע של האיחוד האירופי, מחייב שמירה על דיוק המידע האישי, ומעניק לאזרחים את הזכות לתקן מידע שגוי. במקרה זה, OpenAI לא סיפקה מנגנון לתיקון המידע השגוי, אלא הציעה לחסום תגובות למונחים מסוימים. Noyb טוענת שהדבר אינו מספיק, וכי הצגת הצהרת ויתור קטנה על כך שהמערכת עשויה לטעות אינה פוטרת את החברה מאחריותה.
בעבר, רגולטורים באירופה נקטו בגישות שונות כלפי כלים כמו ChatGPT. באיטליה, הרשויות חסמו זמנית את הגישה ל-ChatGPT באביב 2023, מה שהוביל את OpenAI לבצע שינויים ולספק למשתמשים מידע ברור יותר. עם זאת, תלונות אחרות, כמו זו שהוגשה בפולין בספטמבר 2023, עדיין נמצאות בבדיקה ללא החלטה.
המקרה של הולמן אינו בודד. דוגמאות נוספות כוללות פוליטיקאי אוסטרלי ועיתונאי גרמני, ששמם נקשרו על ידי ChatGPT לשערוריות שוחד והתעללות בילדים בהתאמה, ללא בסיס במציאות. Noyb מדגישה שהבעיה אינה מוגבלת למקרה אחד, אלא משקפת תופעה רחבה יותר.
לאחר עדכון המודל הבסיסי של ChatGPT, המערכת הפסיקה לייצר את המידע השגוי על הולמן. עם זאת, החשש נותר שהמידע השגוי עדיין מאוחסן במערכת ועלול לצוץ בעתיד. Noyb טוענת שהוספת הצהרת ויתור אינה מספיקה, וכי חברות AI חייבות לוודא שהמידע שהן מספקות מדויק, כדי למנוע פגיעה במוניטין של אנשים.
התלונה נגד OpenAI הוגשה לרשות הפרטיות הנורווגית, בתקווה שתבחן את הנושא לעומק. עם זאת, תלונה קודמת שהוגשה באוסטריה באפריל 2024 הועברה לרשות הפרטיות של אירלנד, ועדיין ממתינה לטיפול. מצב זה מעלה שאלות לגבי יכולתן של הרשויות להתמודד עם אתגרי הפרטיות שמציבות מערכות AI מתקדמות.
