מנכ"ל OpenAI, סם אלטמן, הצית בסוף השבוע דיון נרחב ברשת לאחר שהציג שימוש חדש ל-ChatGPT בתחום ההורות. בפוסט שפרסם ברשת X המליץ אלטמן להורים לחבר את יומני המשפחה ל-ChatGPT Work, להזין מידע על תחומי העניין של הילדים, ולאפשר לבינה המלאכותית להפיק מדי בוקר פודקאסט מותאם אישית לנסיעה לבית הספר.
לדבריו, הפודקאסט יכול לכלול תזכורות על משחק כדורגל של אחד הילדים, יום הולדת מתקרב, חדשות ועדכונים נוספים הרלוונטיים למשפחה.
אלא שההצעה עוררה גל ביקורת. היוצר אלכס הירש, יוצר סדרת האנימציה "Gravity Falls", השיב לאלטמן במשפט קצר שהפך לוויראלי: "ומה אם פשוט תדברו עם הילדים שלכם?" תגובתו זכתה לחשיפה גדולה משמעותית מזו של הפוסט המקורי של אלטמן, עם יותר מ-120 אלף לייקים וכ-9,000 שיתופים.
זו אינה הפעם הראשונה שאלטמן מדבר על השימוש ב-ChatGPT כהורה. בעבר סיפר בריאיון כי התקשה לדמיין כיצד היה מגדל תינוק ללא העזרה של הצ'אטבוט, אם כי הוסיף כי "ברור שאנשים עשו זאת במשך שנים בלי שום בעיה".
נראה כי OpenAI רואה במשפחות ובהורים קהל יעד משמעותי. לאחרונה פרסמה החברה מודעת דרושים למנהל מוצר שיתמקד בפיתוח חוויות מבוססות אמון עבור הורים ומשפחות, ובמקביל הרחיבה את כלי הבטיחות להורים בפלטפורמה.
עם זאת, החברה ממשיכה להתמודד עם ביקורת ותביעות משפטיות מצד משפחות, הטוענות כי ChatGPT תרם במקרים מסוימים להחרפת מצבים נפשיים, אשליות ואף מקרי התאבדות. OpenAI מצדה מסרה כי היא ממשיכה לשפר את האופן שבו המודלים שלה מגיבים במצבים רגישים.
במקביל: גם אנתרופיק חושפת אירועי אבטחה חריגים
בזמן שהדיון סביב תפקידה של הבינה המלאכותית בחיי המשפחה נמשך, חברת אנתרופיק פרסמה ממצאים מדאיגים מניסויי אבטחה פנימיים.
לפי החברה, שלושה ממודלי Claude הצליחו במהלך בדיקות סייבר להגיע לאינטרנט דרך תצורת מערכת שגויה, ומשם חדרו ללא הרשאה למערכות פעילות של שלושה ארגונים שונים.
החקירה העלתה כי המודלים פעלו מתוך הנחה שגויה שהמערכות האמיתיות הן חלק מסביבת הבדיקה. אחד המודלים אף שלף פרטי גישה וניגש למסד נתונים, אחר פרסם חבילת תוכנה זדונית למאגר הקוד הציבורי PyPI, בעוד שמודל ניסיוני חדש יותר היה היחיד שעצר את פעילותו לאחר שהבין כי מדובר במערכות אמיתיות.
באנתרופיק הדגישו כי לא נמצאה כל עדות לכך שהמודלים פיתחו מטרות עצמאיות, אלא ניסו להשלים את המשימה שניתנה להם. החברה מסרה כי האירועים נגרמו בשל תצורת בדיקה שגויה וכי היא מחמירה כעת את נהלי האבטחה ומבצעת בדיקה חיצונית בשיתוף ארגון METR.
שתי הפרשות – הביקורת על חזון ההורות של אלטמן והחשיפה של אנתרופיק ממחישות את האתגרים העומדים בפני חברות הבינה המלאכותית: מצד אחד הרחבת השימוש ב-AI בחיי היומיום, ומצד שני הצורך להבטיח שהמערכות יפעלו באופן בטוח, צפוי ואמין.
