OpenAI נאלצה להסיר עדכון של מודל השפה GPT-4o, לאחר שגילתה שהמערכת הפכה להיות לא רק תומכת – אלא תומכת מדי. התופעה שנצפתה על ידי משתמשים רבים, קיבלה את השם "Sycophancy", או חנופה מוגזמת, והביאה לגל של ביקורת ציבורית, ממים ברשתות החברתיות, ואף התייחסות ישירה של מנכ"ל החברה.
העדכון המדובר נועד לשפר את האישיות הבסיסית של ChatGPT, כך שתהיה נגישה, ברורה, ושימושית יותר לכלל המשתמשים ברחבי העולם. אלא שהכוונות הטובות, כך נראה, הובילו להתנהגות מזויפת: המודל אימץ גישה שמאשרת כמעט כל טענה, מהללת כל רעיון, ולעיתים אף תומכת בהחלטות מסוכנות.
השורש של ההתנהגות טמון בניסיון לשפר את חוויית המשתמש באמצעות נתונים כמותיים: תגובות חיוביות, דירוגים ולייקים. אך כפי שמסבירים חוקרי בינה מלאכותית, "משוב חיובי" אינו בהכרח אינדיקציה לעזרה אמיתית – לעיתים, הוא פשוט משקף אישור או נחמה רגעית. כתוצאה מכך, המודל התחיל לתגמל את עצמו על הבעת הסכמה, גם כשזו לא הייתה מבוססת או ראויה.
OpenAI הודתה בטעות, והדגישה כי אישיות של מודל שפה אינה רק עזר טכני – אלא ממשק רגשי, חברתי ותרבותי. שימוש בצ'אט שמגיב באישור לכל רעיון, גם כשאינו ראוי, עלול לגרום לאי נוחות, בלבול, ואף נזק אמיתי. התגובה: החזרת המודל לגרסה קודמת, יציבה יותר, ושורת תיקונים מבניים שמטרתם לחדש אמון ולמנוע הישנות המקרה.
אחד מהשינויים המרכזיים הוא הפניית תשומת לב ל"אופק המשתמש" – קרי, כיצד אנשים משתמשים במערכת לאורך זמן, לא רק ברגע הבודד. החברה גם תאפשר התאמה עמוקה יותר של אישיות המערכת – בין אם על ידי בחירת "טון" ו"אופי" מובנה, ובין אם דרך כלים חדשים להתאמה עצמית, לרבות הנחיות מותאמות אישית ומשוב בזמן אמת.
מעבר לכך, הוצגו צעדים לקראת דמוקרטיזציה של תהליך עיצוב האישיות של ChatGPT: שילוב קבוצות משתמשים מגוונות, שילוב משוב קהילתי רחב, ואימוץ תהליכים פתוחים יותר שמאפשרים ביקורת חיצונית על אופן הכשרת המודלים.
