ענקית הבינה המלאכותית OpenAI פרסמה לראשונה דוח מקיף העוסק בדפוסי השימוש של בני נוער בפלטפורמת ChatGPT, לפי דיווח ברויטרס.
הדוח מגיע על רקע ביקורת ציבורית ורגולטורית גוברת ברחבי העולם בנוגע להשפעת טכנולוגיות בינה מלאכותית על הבריאות הנפשית וההתפתחות של קטינים.
פחות מ-15 דקות ביום
על פי הנתונים שחשפה החברה שבניהולו של סאם אלטמן, בני נוער מבלים בממוצע פחות מ-15 דקות ביום בשימוש ב-ChatGPT. בנוסף, פחות מ-2% מהמשתמשים הצעירים מקיימים אינטראקציה רציפה עם הבוט שנמשכת מעל שלוש שעות ברציפות.
ב-OpenAI מציינים כי המנגנונים שהוטמעו במערכת, כמו תזכורות ליציאה להפסקה, מוכיחים את עצמם: כמעט במחצית מהשיחות שבהן הופיעה תזכורת כזו, המשתמש הצעיר אכן לקח הפסקה או סיים את השיחה בתוך חמש דקות.
התמקדות בלמידה והרחבת השירותים
לפי הדיווח, משתמשים בעלי גישה לגרסת הנוער המיועדת מעבירים יותר הודעות בנושאים חינוכיים, ועושים שימוש מוגבר בכלים כמו הדמיות לימודיות ו"מצב לימוד" (Study Mode).
כדי להרחיב את אחיזתה במגזר החינוכי, החברה עומלת כעת על פיתוח כלי לתרגום ותכנון שלבי ההרשמה למכללות ולמוסדות אקדמיים, שיסייע לתלמידים במעקב אחר דרישות, לוחות זמנים והליכי סיוע כספי. לצד זאת, מתוכננים כלים נוספים כמו כרטיסיות זיכרון (Flashcards) ומחולל חידונים מהיר.
הצד השני: ביקורת חריפה על כשלי בטיחות
חרף הנתונים האופטימיים שמציגה OpenAI, הארגון ללא כוונת רווח Common Sense Media פרסם דוח מקביל המציג תמונה מורכבת בהרבה.
מחקר של הארגון, שהתבסס על ניטור עשרות חשבונות בדיקה, קובע כי הגרסה המיועדת לבני נוער כושלת בסיפוק התראות בזמן אמת להורים כאשר מדובר בשיחות העוסקות בנושאים רגישים כמו אובדנות, פגיעה עצמית או הפרעות אכילה. המחקר מצא עוד כי הבוט לא תמיד מציע פנייה לקווי חיורום או לעזרה מקצועית כנדרש.
מנגד, ב-OpenAI דוחים את טענות המחקר וטוענים כי הבדיקות שנערכו אינן משקפות את אופן פעולת מנגנוני ההגנה בפועל. מדוברת החברה נמסר כי משיקולי אבטחה וסקלאביליות, תהליך הקישור בין חשבון ההורה לחשבון הנער עלול להימשך מספר שעות עד להפעלת ההתראות, וכי סביר שהבדיקות בוצעו טרם הושלמה ההפעלה מלאה.
בתגובה לכך, ציינו בארגון המחקר כי חלק מחשבונות הבדיקה היו מקושרים במשך זמן רב, וכי התראות נשלחו רק לאחר שבועות של היסטוריית שיחות בנושאים רגישים.
