מודל הבינה המלאכותית קלוד של אנתרופיק הפך לחלק משמעותי מתהליך פיתוח הדור הבא של המודלים של החברה. לפי נתונים שפרסמה אנתרופיק אתמול (חמישי), קלוד משתתף כיום בכ-90% מעבודת המחקר והפיתוח שלה, ובכ-26% מהמקרים הוא כבר מוביל חלקים משמעותיים מהעבודה – תחת פיקוח אנושי.
החברה כתבה ב-X: "מערכות בינה מלאכותית הופכות לחזקות יותר, והן משמשות יותר ויותר לבניית הגרסה הבאה של עצמן. אנחנו רוצים להאיר את ההתקדמות הזו לציבור. היום, אנחנו משתפים שלוש מדידות שמסייעות לעקוב אחר התפתחות הבינה המלאכותית: 1. כמה מחקר ופיתוח של בינה מלאכותית מבוצע על ידי בינה מלאכותית. 2. עד כמה סוכני בינה מלאכותית מפוקחים היטב. 3. כיצד משאבי חישוב מוקצים".
החברה מדגישה כי קלוד עדיין אינו פועל באופן עצמאי לחלוטין. עם זאת, בחלק מהמשימות המודל מסוגל לבצע את רוב העבודה מתחילתה ועד סופה, לאחר שקיבל הנחיה כללית מאדם.
קצב ההתקדמות בולט במיוחד בהשוואה לתחילת השנה. בפברואר המודל של אנתרופיק לא הוביל אף חלק מעבודת המחקר והפיתוח של החברה. בתוך שישה חודשים, עד אוגוסט, הוא כבר הוביל כ-26% מהעבודה בתחום.
בענקית הבינה המלאכותית כבר רואים בכך התפתחות משמעותית, אך גם סיכון פוטנציאלי. החברה מזהירה כי ככל שמודלים מתחילים להשתתף בעצמם בפיתוח הדורות הבאים, עלול להיות קשה יותר לבני אדם להבין כיצד המערכות מתפתחות ולשמור עליהן בשליטה.
אחת השאלות המרכזיות היא עד כמה קרובה תעשיית ה-AI ליכולת המכונה "שיפור עצמי רקורסיבי" – מצב שבו מערכת AI מסוגלת להשתמש ביכולותיה כדי לסייע בבניית גרסה מתקדמת יותר של עצמה.
אנתרופיק אמנם לא חשפה עד כמה, להערכתה, היא קרובה לנקודה הזו. עם זאת, החברה קוראת לחברות AI אחרות לפרסם באופן קבוע נתונים דומים, באמצעות שיטה אחידה שתאפשר להשוות את קצב ההתפתחות בין חברות ולאורך זמן.
במקביל, החברה חשפה כי באוגוסט פעלו בה כ-30 אלף סוכני AI שעסקו במשימות מחקר והנדסה. אנתרופיק אומרת כי ככל שהשימוש בסוכנים מתרחב, מערכות הפיקוח הופכות לחשובות יותר כדי לזהות התנהגות לא רצויה.
החשיפה מגיעה על רקע ויכוח הולך וגובר בתעשיית הטכנולוגיה סביב קצב פיתוח הבינה המלאכותית והסיכונים הכרוכים בו. מנכ"ל החברה, דריו אמודיי, נמנה עם הבכירים שקוראים לנקוט זהירות רבה יותר, בעוד שבכירים אחרים בתעשייה ונשיא ארה"ב דונלד טראמפ התנגדו לקריאות להאט את הפיתוח.
התמונה שאנתרופיק מציגה היא ש-AI כבר אינו רק מוצר שחוקרים מפתחים עבור בני אדם – אלא כלי שמסייע להם לפתח את הדור הבא של ה-AI עצמו. דווקא ההתפתחות הזו מחדדת את השאלה כמה מהר מערכות כאלה יוכלו בעתיד לקחת חלק גדול יותר בתהליך הפיתוח, ועד כמה בני אדם יוכלו להמשיך להבין ולפקח עליו.
