חברת אנבידיה מציגה את NVHBM, טכנולוגיית זיכרון חדשה המיועדת לשבבי בינה מלאכותית מותאמים אישית, כחלק מהרחבת פלטפורמת NVLink Fusion שלה. הטכנולוגיה החדשה נועדה לספק ביצועים ויעילות גבוהים יותר לשבבי עיבוד מותאמים אישית, כאשר חברת אמזון תהיה הראשונה לשתף פעולה עם אנבידיה בפיתוחה.
הדרישות מתשתיות הבינה המלאכותית ממשיכות לגדול במהירות, במיוחד עם התרחבות השימוש בסוכני AI ומודלים בעלי מאות מיליארדי ואף טריליוני פרמטרים. כעת, אנבידיה מנסה לשפר לא רק את כוח העיבוד של השבבים, אלא גם את האופן שבו המעבד, הזיכרון, האחסון, התקשורת והתוכנה פועלים יחד במערכת.
שינוי משמעותי במבנה הזיכרון
בארכיטקטורות זיכרון מסורתיות, בקר הזיכרון ממוקם על גבי שבב העיבוד עצמו, דבר שתופס שטח יקר שיכול היה לשמש להגדלת יכולות העיבוד. בטכנולוגיית NVHBM החדשה, בקר הזיכרון של אנבידיה משולב ישירות בתוך שכבת הבסיס של ערימת הזיכרון, כחלק מארכיטקטורת זיכרון תלת-ממדית מתקדמת.
לפי נתוני אנבידיה, השינוי הארכיטקטוני עשוי להוביל לשיפור של עד 30% ברוחב הפס של הזיכרון, לצד ירידה של עד 15% בצריכת החשמל. בנוסף, המבנה החדש עשוי לפנות עד 25% יותר שטח על שבב העיבוד המותאם בהשוואה לשימוש ברכיבי זיכרון סטנדרטיים מסוג HBM4E.
אנבידיה מתכננת ליצור מפרט אחיד לטכנולוגיה החדשה, שיוצע באמצעות מספר יצרניות זיכרון מובילות. המטרה היא לצמצם את עבודת ההנדסה הנדרשת לשילוב ולבדיקה של רכיבי זיכרון מספקים שונים, ולאפשר לחברות שמפתחות שבבי בינה מלאכותית מותאמים אישית להגיע לשוק במהירות רבה יותר.
אמזון מובילה את שיתוף הפעולה
החברה הראשונה שתשתף פעולה עם אנבידיה בפיתוח הטכנולוגיה היא Amazon Annapurna Labs, במסגרת הרחבת שיתוף הפעולה בין החברות. החטיבה תשתף פעולה עם אנבידיה גם בתחום ארכיטקטורת ה-NVLink להרחבת ביצועים, במטרה לשפר את הביצועים והיעילות של תשתיות הבינה המלאכותית של ענן AWS.
במסגרת ההסכם, שבבי Trainium מהדור הבא של אמזון, החל מ-Trainium4, יתמכו ב-NVLink Fusion. "NVHBM מייצגת גישה ארכיטקטונית חדשה לקידום הביצועים והיעילות של זיכרון ברוחב פס גבוה", אמר נאפאה בשארה, סגן נשיא ב-Annapurna Labs של אמזון.
פלטפורמת NVLink Fusion מאפשרת לחברות המפתחות שבבים מותאמים אישית לחבר אותם לפלטפורמת השרתים של אנבידיה ברמת ה-Rack. השותפות מקבלות גישה לרכיבי NVLink, למתגים ולמערכות מבוססות NVIDIA MGX, מה שמאפשר להן להתמקד בפיתוח שבבי ה-AI שלהן בעודן נשענות על התשתית המוכחת של אנבידיה.
