מפתחת מודל Claude, אנתרופיק, קראה ליצור מנגנון כלל-תעשייתי שיעצור את פיתוח הבינה המלאכותית, במטרה להעניק לחברה את ההזדמנות "להתמודד עם ההשלכות העצומות שלה".
הטכנולוגיה מתקדמת לנקודה שבה ה-AI יהפוך את העבודה האנושית ליעילה בהרבה ואף יחליף אותה לחלוטין. הדבר יוצר מערכת חדשה של סיכונים, כך כתבה החברה בפוסט בבלוג שלה אתמול (חמישי).
הבינה המלאכותית עלולה להתחיל לשפר את עצמה ולבנות את דור ההמשך של עצמה, ובכך לצמצם את תפקידם של בני האדם, כתבה החברה.
"ההתנגשות שבה אינטליגנציה רקורסיבית הבונה את עצמה בקצב מהיר פוגשת את האנושות, מערכות היחסים והממשל – היא חלק נוסף בעתיד הזה שאנחנו לא יכולים לחזות", נכתב.
בפוסט אנתרופיק כתבה כי כל מנגנון אכיפה יצטרך להבטיח שמעבדות AI פחות מצפוניות לא ימשיכו לעבוד בחשאי על קידום הטכנולוגיה במהלך ההפסקה, באמצעות בדיקות.
אנתרופיק מסרה כי תארגן שיחות עם קובעי מדיניות, חוקרים וחברות AI אחרות כדי לדון במבנה של "תיאום ודיון" ותפרסם את התוצאות.
הפוסט של אנתרופיק אינו הפעם הראשונה שבה חוקר בינה מלאכותית מוביל קורא להפסקה בפיתוח.
בשנת 2023, המכון לעתיד החיים (Future of Life Institute), ארגון ללא מטרת רווח המתמקד בהפחתת סיכונים מטכנולוגיה, קרא להפסקה של שישה חודשים לפחות כדי להציב מגבלות בטיחות על AI, והזהיר מפני השלכות פוטנציאליות. המיליארדר אילון מאסק חתם על המכתב יחד עם יותר מ-1,000 חוקרים ומנהלים אחרים.
אנתרופיק עצמה המשיכה להוציא מודלים וכלים מתקדמים, כמו מודל Mythos, אשר לדבריה "יכול לזהות ולנצל כשלים באבטחת סייבר במהירות יוצאת דופן".
המבקרים של מכתב ב-2023 טענו כי עצירת הפיתוח תפגע בחדשנות ללא צורך, וכי הסכמה של חברות אמריקאיות ללחוץ על הבלמים תעניק יתרון למדינות אחרות.
מנכ"ל גוגל לשעבר, אריק שמידט, הזהיר כי ההפסקה תעניק יתרון למתחרים בסין, שנמצאת במלחמת סחר טכנולוגית עם ארה"ב. בבלוג, אנתרופיק הכירה בקושי הזה, ואמרה כי "בקרת נשק" עבור AI היא מאתגרת יותר מאשר בטכנולוגיות אחרות.
"התמריץ לערוק בשקט הוא עצום, כי מי שימשיך בזמן שאחרים עוצרים – יכול לרשת את ההובלה". כך כתבה אנתרופיק. בעוד שהעולם בנה משטרים דומים בעבר, הם "דרשו עקשנות של עשורים כדי לבנות הן את התשתית והן את האמון – אין לנו כל כך הרבה זמן".
