בכנס Google Cloud Next חשפה גוגל את הדור השמיני של מעבדי ה-TPU (Tensor Processing Unit) – שבבים ייעודיים שפיתחה החברה עבור עומסי עבודה של בינה מלאכותית. הדור החדש כולל שני שבבים שונים: TPU 8t, שמיועד לאימון מודלים בקנה מידה עצום, ו-TPU 8i, שנועד להרצת מודלים בזמן אמת ולמערכות מבוססות סוכני AI.
לדברי החברה, מדובר בצעד שנועד להתאים את תשתיות החומרה לעידן שבו מודלי בינה מלאכותית כבר אינם רק עונים על שאלות, אלא מבצעים משימות מורכבות, מתכננים תהליכים מרובי שלבים ופועלים באופן רציף בסביבות משתנות.
מנוע האימון של מודלי ה-AI
TPU 8t תוכנן להתמודד עם משימות האימון הכבדות ביותר בעולם הבינה המלאכותית. לפי גוגל, השבב החדש מספק כמעט פי שלושה יותר ביצועים לעומת הדור הקודם, ומאפשר קיצור מחזורי פיתוח של מודלים מתקדמים מחודשים לשבועות.
המערכת תומכת בהרחבה מסיבית של עד 9,600 שבבים במקביל, עם זיכרון משותף עצום ויכולת חישוב כוללת של למעלה מ-121 אקסה-פלופס. בנוסף, גוגל מדווחת על שיפור משמעותי באמינות המערכת, כך שיותר מ-97% מזמן החישוב מנוצל בפועל לעבודה יעילה.
מנוע הסקת המסקנות של עידן הסוכנים
בצד השני של המערכת נמצא TPU 8i, שנועד להרצת מודלים בזמן אמת, בעיקר בעולמות שבהם סוכני AI פועלים יחד, מתאמים פעולות ומבצעים משימות מורכבות עבור המשתמש.
המעבד החדש כולל זיכרון מהיר יותר, רוחב פס מוגדל ושיפורי ארכיטקטורה שמפחיתים עיכובים משמעותיים בתקשורת בין רכיבי המערכת. בגוגל מדגישים כי האופטימיזציות הללו מאפשרות שיפור של כ-80% ביחס עלות-ביצועים לעומת הדור הקודם.
המטרה: מחשוב-על לעידן הסוכנים
שני השבבים נבנו מתוך הבנה כי העתיד של הבינה המלאכותית יישען על מערכות סוכנים (AI Agents) שיפעלו באופן מתמשך, ילמדו מהסביבה ויבצעו פעולות מורכבות בזמן אמת. לכן, הדור החדש של ה-TPU תוכנן מראש כבסיס למחשבי-על עתידיים, עם שילוב הדוק בין חומרה, תוכנה וארכיטקטורת מודלים.
בגוגל מציינים כי הפיתוח המשותף עם DeepMind מאפשר התאמה הדוקה בין אופן בניית המודלים לבין התשתית החישובית שמריצה אותם – מהלך שמייצר יתרון ביצועים משמעותי לעומת פתרונות כלליים יותר.
בסיכומו של דבר, השקת TPU 8t ו-TPU 8i מסמנת את המשך המרוץ בין ענקיות הטכנולוגיה לבניית תשתית החומרה שתתמוך בדור הבא של הבינה המלאכותית – דור שבו סוכנים אוטונומיים יהפכו לחלק מרכזי בכל מערכת דיגיטלית.
