חברת OpenAI עידכנה לאחרונה את מדיניות ניהול התוכן שלה, ומאפשרת למשתמשי ChatGPT לייצר תכנים שבעבר לא היו נענים, כולל תמונות של אישים ציבוריים, סמלים בעלי פוטנציאל לפרשנות שנויה במחלוקת, ותיאורים פיזיים הקשורים למאפיינים גזעיים. השינוי מגיע כחלק מהשקת מחולל התמונות החדש של GPT-4o, שמציע שיפורים טכניים באיכות התמונות, יכולת לערוך טקסטים גרפיים בתוך תמונה, והבנה טובה יותר של מבנים מרחביים.
במהלך השנים האחרונות סירבה OpenAI לאפשר יצירת תכנים מסוג זה, בטענה כי הם עלולים להיות פוגעניים או לשמש לרעה. בגישה החדשה, החברה מצהירה שהיא אינה מסירה את ההגבלות לחלוטין, אלא מבצעת התאמות שיאפשרו התמודדות מדויקת יותר עם בקשות רגישות. לדברי ג’ואן ג’אנג, האחראית על התנהגות המודלים ב-OpenAI, החברה נוקטת בגישה ממוקדת יותר: במקום סירוב גורף לבקשות מסוג מסוים, נעשה ניסיון להעריך את ההקשר ולבחון את הפוטנציאל לפגיעה ממשית.
דוגמה לשינוי זה כוללת את האפשרות ליצור תמונות של דמויות מוכרות כמו דונלד טראמפ או אילון מאסק — תכנים שנחסמו בעבר מחשש לשימוש בעייתי. OpenAI הודיעה כי אנשים שאינם מעוניינים להיכלל בתוצרים של ChatGPT יוכלו לבקש להסיר את עצמם, אך המערכת כבר לא מגבילה ייצוג של אישים ציבוריים באופן גורף.
עדכון נוסף מתייחס לסמלים טעונים, כגון צלב קרס. לפי החברה, ניתן כעת לכלול סמלים אלה בהקשרים חינוכיים, היסטוריים או נייטרליים, כל עוד אין תוכן שמבטא תמיכה באידאולוגיות קיצוניות. כך גם לגבי בקשות המערבות שינוי של תווי פנים, גוון עור או מבנה גוף — תכנים שנחסמו בעבר אך מאושרים כיום אם אינם נושאים מסר מפלה.
לצד השינויים במדיניות, הכלי החדש של GPT-4o ממשיך להפעיל מגבלות בתחומים אחרים. לפי מסמך טכני שפורסם השבוע, המערכת מגבילה באופן חד את האפשרות לייצר תמונות של ילדים, אף יותר מאשר הכלי הקודם DALL·E 3. ההגבלות הללו נועדו לצמצם סיכון לפגיעה, גם בעידן של מדיניות פתוחה יותר.
בעדכון שנעשה בפברואר, OpenAI הצהירה על כוונתה להרחיב את היכולות של ChatGPT ולמזער את כמות הבקשות שהמערכת דוחה. השינויים האחרונים משקפים את המגמה הזו, ומעמידים את OpenAI כחברה המעוניינת להפחית את מעורבותה כשופטת תוכן.
מדובר במהלך שמתרחש גם על רקע עיסוק פוליטי גובר בתכנים שנוצרים על ידי בינה מלאכותית. לאחרונה שלח חבר הקונגרס ג’ים ג’ורדן מכתבים ל-OpenAI ולחברות נוספות, בדרישה לבירור האם הייתה מעורבות ממשלתית בהגבלת תכנים. OpenAI הכחישה כל מניע פוליטי, והבהירה כי מטרת המדיניות החדשה היא לאפשר למשתמשים שליטה רבה יותר, בהתאם לשיפור ביכולת המודלים להבחין בין הקשרים.
חברות טכנולוגיה נוספות נוקטות בגישות דומות. לדוגמה, גם גוגל נתקלה בביקורת סביב תוצרי מחולל התמונות שלה Gemini, אשר הציג תכנים בלתי מדויקים היסטורית. הרקע הזה ממחיש את המתח המתמשך בין הרצון לאפשר חופש יצירה לבין הצורך להימנע מהטעיה או פגיעה.
למרות שתמונות סגנון ג’יבלי שתפסו את הרשת משכו את מרבית תשומת הלב, השינוי המהותי הוא במידת ההרשאה והאחריות שמוענקת למשתמשים. ChatGPT מסוגל כעת לטפל בתכנים שבעבר נחסמו — אך המבחן המשמעותי יהיה ביישום לאורך זמן.
