Advertisement Placeholder

מנכ"ל אנתרופיק קורא להאט את מרוץ ה-AI, מאסק ואלטמן מצטרפים

מנכ"ל אנתרופיק דריו אמודיי קורא לחברות בתחום להאט את קצב פיתוח המודלים המתקדמים, ואלטמן ואילון מאסק מביעים תמיכה במהלך, על רקע החשש מהיכולות הגוברות של מערכות AI ומהסיכונים • מנכ”ל OpenAI סם אלטמן אומר כי הנפקה השנה תהיה "לא נכונה", וה-IPO של ענקית הבינה המלאכותית צפוי להידחות לפחות ל-2027

דריו אמודיי, סם אלטמן ואילון מאסק | צילום: שאטרסטוק, רויטרס; עיבוד התמונה על ידי AI

מרוץ הבינה המלאכותית עשוי להיכנס להילוך נמוך יותר – דווקא כשענקיות הטכנולוגיה משקיעות סכומי עתק בהאצת הפיתוח. מנכ"ל OpenAI סם אלטמן הודיע כי החברה לא צפויה לצאת להנפקה השנה, ובמקביל הביע תמיכה בקריאתו של מנכ"ל אנתרופיק דריו אמודיי להאט את קצב הפיתוח של מערכות ה-AI המתקדמות.

הנפקת OpenAI: לא השנה

OpenAI, אחת החברות המדוברות ביותר בתעשיית הטכנולוגיה, לא צפויה לצאת להנפקה השנה. מנכ”ל החברה, סם אלטמן, אמר בראיון ל-Fortune כי הנפקה בעת הנוכחית תהיה "לא נכונה", ובכך דחה למעשה את האפשרות שהחברה תצא השנה לשוק הציבורי. עוד הוסיף כי זה "עיתוי שגוי לחלוטין", אמר זאת ברקע האזהרות על סיכוני הבטיחות של הבינה המלאכותית.

OpenAI | צילום: שאטרסטוק
OpenAI | צילום: שאטרסטוק

הדברים מגיעים לאחר שבחודש שעבר סמנכ"לית הכספים של OpenAI, שרה פרייר, אמרה לעובדים כי החברה עשויה לצאת להנפקה ב-2027 או אפילו מוקדם יותר, אם פעילותה העסקית תמשיך לצמוח בקצב משמעותי.

כעת נראה כי 2027 היא התרחיש הסביר יותר. מדובר בדחייה של אחת ההנפקות הצפויות והמסקרנות ביותר בשוק, בתקופה שבה OpenAI נמצאת במרוץ להרחבת יכולות המודלים, להגדלת ההכנסות ולבניית תשתיות מחשוב בהיקפים עצומים.

אלא שההחלטה שלא להנפיק מגיעה על רקע רחב יותר: בתעשיית הבינה המלאכותית הולכת וגוברת ההכרה בכך שהקצב שבו המודלים משתפרים עלול להפוך בעצמו לסיכון.

מנכ"ל אנתרופיק: "צריך להאט את הקצב"

במקביל לדבריו של אלטמן, מנכ"ל אנתרופיק דריו אמודיי פרסם מאמר שבו קרא לחברות הבינה המלאכותית להאט באופן מכוון את קצב השיפור של המודלים המתקדמים.

אמודיי אינו קורא לעצירה מוחלטת של פיתוח AI. לדבריו, המטרה היא לוודא שחברות מקדישות מספיק זמן לבדיקת המודלים, להתאמתם לערכים אנושיים ולווידוא שהם בטוחים לפני שהן ממשיכות להגדיל את היכולות שלהם.

לדבריו, האטה אינה משמעותה לעצור את אימון המודלים או את ההתקדמות הטכנולוגית, אלא לאפשר לחברות ולגורמי פיקוח חיצוניים לבחון את המערכות ולהתמודד עם הסיכונים בקצב שמתאים להתקדמות הטכנולוגית.

דריו אמודיי, מנכ"ל אנתרופיק | צילום: שאטרסטוק
דריו אמודיי, מנכ"ל אנתרופיק | צילום: שאטרסטוק

אמודיי הציע תוכנית בת שלושה שלבים, שלדבריו יכולה למתן את קצב הפיתוח מבלי לפגוע ביתרון המסחרי של חברות אמריקאיות או להעניק למדינות יריבות יתרון בתחום.

השלב הראשון כבר מיושם, לדבריו, באנתרופיק: מתן גישה לגורמי הערכה עצמאיים, בתנאים הדומים לגישה של עובדי החברה, כדי שיוכלו לבחון את אמצעי הבטיחות ולדווח על אירועים חריגים.

השלב השני הוא יצירת שיתוף פעולה בין חברות AI מובילות במדינות דמוקרטיות וקביעת סטנדרטים משותפים לבטיחות.

השלב השלישי עוסק בשיתוף פעולה רחב יותר בין ממשלות דמוקרטיות ואוטוריטריות בנושאי בטיחות ופיקוח על טכנולוגיות בינה מלאכותית.

קלוד של אנתרופיק | צילום: שאטרסטוק

אלטמן תומך – וגם אילון מאסק

המאמר של אמודיי זכה במהירות לתמיכה מכיוון מפתיע. אלטמן כתב ברשת X כי הוא מסכים עם הצורך "לקצב" את פיתוח היכולות המתקדמות של AI, וציין כי הנושא הפך לאחד הנושאים המרכזיים שבהם דנים ב-OpenAI בשבועות האחרונים.

אלטמן אף הודיע כי OpenAI מתכוונת לאמץ את הרעיון של הערכות עצמאיות. לדבריו, החברה תאפשר לגורמי הערכה חיצוניים לקבל גישה למערכות שלה באופן שיאפשר להם לבחון את הבטיחות ולדווח על בעיות.

גם אילון מאסק הביע תמיכה ברעיון. "דריו צודק", כתב מאסק ב-X.

התמיכה המשותפת יוצאת דופן במיוחד בהתחשב ביריבות הקשה בין השלושה ובין החברות שלהם. OpenAI, אנתרופיק ו-xAI מתחרות על עובדים, משאבי מחשוב, משקיעים ולקוחות, ובמקביל מפתחות מודלים שהופכים במהירות לחזקים ורב-שימושיים יותר.

מאסק עצמו היה בעבר מבקר חריף של אנתרופיק, אך היחסים בין הצדדים השתנו בשנה האחרונה, בין היתר לאחר שאנתרופיק חתמה על עסקת מחשוב משמעותית עם SpaceX.

מה השתנה מאז 2023?

אמודיי מדגיש כי הקריאה להאט את פיתוח הבינה המלאכותית אינה חדשה. כבר ב-2023 היו חוקרים ומנהלים בכירים בתעשייה שהזהירו מפני הסיכונים האפשריים של AI מתקדם.

באותה שנה חתמו אמודיי, אלטמן ובכירים נוספים בתעשייה על הצהרה שלפיה צמצום הסיכון להכחדת האנושות כתוצאה מבינה מלאכותית צריך להיות יעד עולמי, לצד סיכונים בקנה מידה חברתי כמו מגפות ומלחמה גרעינית.

SpaceX And XAI | צילום: Samuel Boivin via Reuters Connect

אלא שלדברי אמודיי, ב-2023 לא היה היגיון רב בעצירת הפיתוח או בהאטתו באופן משמעותי. המודלים באותה תקופה עדיין לא היו חזקים מספיק כדי לפעול בעולם האמיתי באופן עצמאי, והוא טען שהם עדיין לא היו מסוגלים לבצע פעולות משמעותיות של הטעיה, מניפולציה, רמאות או מתקפות סייבר.

לדבריו, המצב השתנה.

המודלים של היום מסוגלים לבצע משימות מורכבות יותר, להשתמש בכלים חיצוניים, לכתוב קוד, לנתח מידע ולבצע רצפים ארוכים יותר של פעולות. במקביל, חברות הטכנולוגיה ממשיכות להגדיל את משאבי המחשוב ואת ההשקעות במודלים מתקדמים.

החשש שהגיע מתוך אנתרופיק עצמה

הדיון על האטת קצב הפיתוח התעצם השבוע בעקבות פרישתו של חוקר אנתרופיק ג'ייקוב קוקסון, שעבד בעבר גם ב-OpenAI.

קוקסון הודיע על עזיבתו את החברה והביע חשש מהכיוון שאליו מתקדמת התעשייה. לדבריו, חברות כמו אנתרופיק ו-OpenAI "מהמרות על חיינו", והוא טען כי האנשים שמפתחים את הטכנולוגיה מאמינים ברצינות שקיימת אפשרות שבינה מלאכותית תוכל להביא להכחדת האנושות עד סוף העשור.

בדרך לאסון? חוקר הבינה מלאכותית מאמין שכן -"אל תזלזלו בעוצמה של הטכנולוגיה"

האמירה עוררה סערה ברשתות החברתיות והוסיפה דלק לדיון סביב השאלה האם קצב ההתקדמות הטכנולוגית מהיר יותר מקצב ההתמודדות עם הסיכונים.

הטענה אינה חדשה במחקר בתחום, אך העובדה שהיא מגיעה מחוקר שעבד בתוך שתיים מחברות ה-AI המובילות בעולם מעניקה לה חשיפה משמעותית.

גם המדען הראשי של OpenAI מזהיר

הדיון אינו מוגבל לאנתרופיק בלבד. מוקדם יותר החודש פרסם המדען הראשי של OpenAI, יעקוב פחוצקי, מאמר שבו הזהיר כי אף חברת AI עדיין לא פתרה את בעיית ה"יישור" והניטור של מערכות בינה מלאכותית ברמה מספקת כדי להמשיך ולהגדיל את היכולות שלהן בקצב המרבי לאורך זמן.

"יישור"(Alignment) מתייחס לניסיונות של מפתחי AI לוודא שמערכות הבינה המלאכותית מתנהגות בהתאם לכוונות ולערכים האנושיים.

ChatGPT | צילום: שאטרסטוק
ChatGPT | צילום: שאטרסטוק

פחוצקי כתב כי הוא מצפה ומקווה שהאטות מרצון יהפכו לנפוצות עד שייקבעו רמות בטיחות משותפות לתעשייה.

הדברים מחזקים את הרושם שהדיון סביב בטיחות AI אינו עוד נושא שמגיע בעיקר מחוקרים חיצוניים או מגופים שמבקרים את התעשייה, אלא הופך לחלק מהשיח הפנימי של החברות שמפתחות את המודלים המתקדמים ביותר.

הלחץ מגיע גם מוושינגטון

במקביל להתפתחויות בתוך חברות הטכנולוגיה, גובר הלחץ מצד ממשלות ומחוקקים בארצות הברית.

מחוקקים משתי המפלגות קוראים להטמעת אמצעי הגנה חדשים בתחום הבינה המלאכותית ודורשים ממנהלי חברות טכנולוגיה להתייצב בפני הקונגרס, על רקע סדרה של מתקפות סייבר שבוצעו ללא שליטה אנושית ישירה.

גם ברמת המדינות והרשויות המקומיות בארה"ב גוברת ההתנגדות להקמת מרכזי נתונים המשמשים לאימון ולהפעלת מערכות AI. מרכזים אלה דורשים כמויות גדולות של חשמל ומים ומעוררים ויכוחים סביב ההשפעה שלהם על תשתיות ועל הקהילות שבהן הם מוקמים.

נשיא ארה"ב דונלד טראמפ בחדר הסגלגל בבית הלבן | צילום: רויטרס

לקראת בחירות האמצע בארה"ב, הבינה המלאכותית הופכת בהדרגה לנושא פוליטי משמעותי יותר, כאשר גם הרפובליקנים וגם הדמוקרטים עוסקים בשאלות של בטיחות, רגולציה, תחרות טכנולוגית וביטחון לאומי.

שרה הק, ראש מדיניות הציבור באנתרופיק, קראה לממשל האמריקאי לקחת חלק פעיל ביצירת מנגנוני הגנה. בין היתר היא תמכה בהגבלת מכירת השבבים המתקדמים ביותר למדינות יריבות כמו סין, בחוק פדרלי שיחייב בדיקות למודלים מתקדמים ובאפשרות למנוע הפעלה של מודלים שיימצאו בלתי בטוחים.

הסכנה שבהאטה – וגם בהמשך המרוץ

אמודיי מדגיש כי גם האטה עצמה אינה נטולת סיכונים. לדבריו, אם ארה"ב וחברות מערביות יאטו יותר מדי, הן עלולות לאבד את היתרון הטכנולוגי למדינות בעלות משטרים אוטוריטריים. לכן, השאלה אינה רק אם להאט את פיתוח ה-AI, אלא באיזה קצב להתקדם.

"אם נלך לאט מדי, אני עדיין מאמין שהאנשים הלא נכונים יהיו אלה שישלטו בטכנולוגיה", אמר אמודיי בראיון ל-CNN. לדבריו, מצב כזה עלול דווקא להגדיל את הסיכון שמשהו ישתבש.

דריו אמודיי, מנכ"ל אנתרופיק | צילום: רויטרס

זהו למעשה אחד האתגרים המרכזיים של התעשייה: מצד אחד, חברות ומשקיעים מעוניינים להמשיך ולהאיץ את פיתוח המודלים כדי לזכות ביתרון מסחרי וטכנולוגי; מצד שני, ככל שהמערכות הופכות חזקות ואוטונומיות יותר, כך עולה הצורך לבדוק את ההתנהגות שלהן לפני שהן מקבלות יכולות נוספות.

ומה זה אומר על OpenAI?

ההחלטה שלא להנפיק השנה אינה מעידה בהכרח על בעיה עסקית ב-OpenAI. החברה ממשיכה להרחיב את הפעילות המסחרית שלה ולהשקיע סכומי עתק בתשתיות ובפיתוח.

עם זאת, דחיית ההנפקה עשויה לאפשר לה להמשיך לפעול כחברה פרטית בתקופה שבה היא מתמודדת עם שאלות מורכבות במיוחד: כיצד לממן את ההשקעות העצומות הנדרשות לפיתוח מודלים מתקדמים, כיצד להתמודד עם הרגולציה המתהווה וכיצד להוכיח למשקיעים שהצמיחה העסקית מצדיקה את השווי הגבוה שמיוחס לה.

קלוד של אנתרופיק ו-ChatGPT  של OpenAI | צילום: שאטרסטוק. עיבוד: נוצר על ידי AI
קלוד של אנתרופיק ו-ChatGPT  של OpenAI | צילום: שאטרסטוק. עיבוד: נוצר על ידי AI

ה-IPO של OpenAI, אם וכאשר יגיע, צפוי להיות אחד האירועים המשמעותיים ביותר בשוק ההון האמריקאי. אבל בינתיים, נראה שהחברה מעדיפה להתרכז במרוץ הטכנולוגי ובשאלה כיצד ניתן להמשיך אותו מבלי לאבד שליטה על הסיכונים.

אמודיי עצמו סיכם את הדילמה בכך שהוא עדיין מאמין שבינה מלאכותית יכולה לשפר באופן דרמטי את איכות החיים של בני האדם. אלא שלדבריו, היתרונות הללו יתממשו רק אם הטכנולוגיה תפותח בדרך הנכונה.

הוא טען כי אם האטה של שנה או שנתיים תאפשר לתעשייה להגיע לרמות קריטיות של יכולות תוך שיפור משמעותי של מנגנוני הבטיחות והיישור, הזמן הזה עשוי להפחית באופן משמעותי את הסיכון שמשהו ישתבש.

שתפו כתבה זו:

כותרות הכלכלה

guest
0 תגובות

עקבו אחרינו ברשתות החברתיות

עוד כתבות מעניינות

טען עוד כתבות