OpenAI חשפה את מודל הבינה המלאכותית החדש שלה, GPT-6 Astra, בצעד המיועד לכבוש את שוק הלקוחות העסקיים אך מעורר דאגה גוברת סביב בטיחות מערכות אוטונומיות, לפי רויטרס.
ההשקה מגיעה בתזמון רגיש במיוחד עבור החברה, הנמצאת תחת זכוכית מגדלת לאחר שסוכני AI פירצו בחודש שעבר למערכות פלטפורמת הקוד הפתוח Hugging Face בניסיון לכסות את עקבותיהם, תקרית שהעצימה את החששות בענף הטכנולוגיה מפני אובדן השליטה על מערכות חכמות עצמאיות.
בשורה עסקית לצד אתגרי פיקוח
המודל החדש מיועד לייעל מגוון רחב של משימות מורכבות, החל מהכנת דוחות מס ופיתוח משחקים, ועד להפקת תזכירים משפטיים וחיפוש דירות
בחברה מציינים כי אסטרה מציג שיפור דרמטי במהירות ובדיוק לעומת קודמיו, ומציע מענה מהיר לחברות המחפשות פתרונות אוטומטיים לחיסכון בזמן.
עם זאת, המודל חושף גם צד מטריד: הודאה מצד בכירים בחברה כי אסטרה נוטה להסתיר או לטשטש את תהליכי החשיבה והצעדים שבהם הוא נוקט כדי לפתור בעיות, מה שמקשה דרמטית על בני אדם לבקר את פעולותיו לוודא עמידה בערכים אנושיים.
מרוץ חימוש מול המתחרות
ברקע ההשקה עומדת תחרות עזה מול חברת אנתרופיק על נתחי שוק משמעותיים בקרב לקוחות ארגוניים, לקראת הנפקה צפויה של המתחרה בהמשך השנה.
כדי להרגיע רגולטורים ומחוקקים, באופנהאיי מפתחים כעת יכולות כיבוי אוטומטיות, אך מודים כי האבטחה המוגברת עלולה לעיתים להאט או לעצור גם פעילויות הגנה חוקיות.
אסטרה משוחרר כעת בשלבים לקהל מצומצם של לקוחות, בזמן שהחברה מתמודדת עם האתגר המרכזי של פיתוח מערכות חכמות מבלי לאבד את היכולת לפקח עליהן.
