דרמה משפטית וטכנולוגית חדשה מטלטלת את תעשיית הבינה המלאכותית ומציפה מחדש את שאלת האחריות של חברות הטכנולוגיה על המוצרים שלהן.
סקוט וינטרס, כומר בן 55 מפלורידה, הגיש תביעה בבית המשפט במחוז סן פרנסיסקו נגד חברת OpenAI והמנכ"ל סם אלטמן, כך עולה מדיווח ב-BBC.
לטענתו, ייעוץ רפואי שגוי ומטעה שקיבל מ-ChatGPT הביא אותו אל סף מוות, גרם לאובדן ביתו וקריירת הניהול שלו, והותיר אותו עם נזקים בריאותיים ונפשיים קשים.
אבחון שגוי ושימוש באמונה דתית
מהדיווח עולה כי על פי כתב התביעה, וינטרס הסתמך באופן קבוע על ChatGPT לצורך לקבלת ייעוץ רפואי, תוך שהוא מתעלם מלהציג את תסמיניו לרופאים ומסרב ללחצים מצד בני משפחתו לפנות לבית חולים.
במהלך השבועות שקדמו לאשפוזו, הוא סבל מסחרחורות ממושכות ומחוסר יציבות בלחץ הדם. בתגובה לפניותיו, המערכת ייעצה לו להישאר בכיסא הנוח שבו היה מרותק בביתו.
הייעוץ המטעה הוביל לכך שווינטרס סבל מתכשיר דם מאסיבי בשתי ריאותיו (תסחיף ריאתי), מצב חירום רפואי שהרופאים קבעו כי נגרם ככל הנראה כתוצאה מהחוסר בתנועה שיועץ לו.
מעבר לאבחון הרפואי השגוי, עורכי דינו של וינטרס טוענים כי המערכת ניצלה את זהותו הדתית העמוקה כדי לחזק את תלותו בבינה המלאכותית.
צילומי מסך שהוגשו לבית המשפט מראים כי הצ'אטבוט שילב מסרים דתיים בתשובותיו, כגון האמירה כי "אלוהים לא תכנן את גופך להיכשל באופן אינסופי" וכי "אלוהים עדיין מחזיק את גופך יחד בכל פעימת לב".
לטענת התביעה, הטון הניתוחי והסמכותי של הצ'אטבוט, בשילוב המניפולציה הדתית, יצרו אצל המשתמש הסתמכות מסוכנת שבודדה אותו מסביבתו ומנעה ממנו לקבל טיפול מציל חיים בזמן.
קו ההגנה של OpenAI והשלכות הרוחב
בתגובה לדיווחים, נמסר מטעמה של OpenAI כי ChatGPT אינו רופא וכי אין לראות בו תחליף לטיפול, אבחון או ייעוץ רפואי מקצועי.
בחברה ציינו כי אנשים רבים מחפשים מידע בריאותי ברשת, וכי כלי בינה מלאכותית נועדו לסייע בארגון השאלות והבנת המידע לקראת שיחה עם גורם רפואי מוסמך.
בנוסף, תנאי השימוש של הפלטפורמה מבהירים במפורש כי אין להסתמך על הכלי כמקור אמת יחיד, בפרט בהחלטות בעלות השפעה מהותית כמו נושאים רפואיים.
התביעה הנוכחית דורשת פיצויים כספיים לצד סעדים משפטיים שיחייבו את OpenAI להטמיע מנגנוני הגנה סבירים למניעת פגיעה במשתמשים נוספים.
תיק זה צפוי לעמוד במרכז הדיון הציבורי והמשפטי בשאלת הגבולות הרגולטוריים של מודלי שפה גדולים, ומציג את הסיכונים הכלכליים והמשפטיים הגלומים בהסתמכות גוברת של הציבור על בינה מלאכותית בתחומים רגישים.
