אנבידיה, צפויה להשיק מעבד חדש המתמקד בעיבוד מהיר של שאילתות בינה מלאכותית לצורך ביקוש "הסקה" במודלי AI. הכלי יעזור ללקוחות, כמו OpenAI, לבנות כלים מהירים ויעילים יותר. ייצור הכלי החדש, יהווה טלטלה משמעותית במרוץ הבינה המלאכותית.
הפלטפורמה החדשה, שצפויה להיחשף בכנס המפתחים GTC של אנבידיה בסן חוזה בחודש הבא, תשלב שבב שתוכנן על ידי הסטארט-אפ Groq.
מחשוב "הסקה" היה נושא לתחרות עזה בתעשייה. היריבות, גוגל ואמזון, עיצבו שבבים המתחרים במערכות הדגל של אנבידיה. ההתפרצות של קידוד אוטונומי בכוח העבודה, יצרה ביקוש לשבבים שיתמודדו בצורה יעילה עם משימות מורכבות.
OpenAI הסכימה להפוך לאחת הלקוחות הגדולות ביותר של המעבד החדש, כאשר קיבלה השקעה של 30 מיליארד דולר מענקית השבבים.
אנבידיה שלטה בעסקי התכנון והמכירה של GPU (יחידות עיבוד גרפיות). אבל בפעם הראשונה מאז תחילת פריחת הבינה המלאכותית, היא מתמודדת עם הגבלות המוצר. ככל שהשוק עובר לכיוון הסקה, אנבידיה חשה לחץ מצד חלק מהלקוחות לייצר שבבים הפועלים באופן יעיל יותר.
מעבדי ה-GPU החזקים של החברה כמו סדרת Rubin נחשבים לטובים מסוגם לאימון מודלים של בינה מלאכותית. רוב האנליסטים מעריכים כי אנבידיה שולטת בלפחות 90% משוק ה-GPU.
במהלך השנה האחרונה, הביקוש למחשוב מתקדם עבר מ"הדרכה" ל"הסקה", בזמן שחברות פורסות סוכני AI ומקוות שיניבו רווחים מדמי מנוי. חברות רבות שמפעילות סוכנים כאלה, מגלות שמעבדים גרפיים יקרים מדי, וצורכים יותר מדי אנרגיה. עם עליית הסוכנים הללו, אנבידיה שרויה תחת לחץ לפתח שבבים זולים וחסכוניים יותר.
אנבידיה הסכימה לשלם 20 מיליארד דולר בסוף השנה שעברה, כדי לרכוש רישיון לטכנולוגיות מפתח מ-Groq ולגיוס בכירים בהנהלת החברה, כולל המייסד, ג'ונתן רוס.
העסקה הגדולה בתולדותיה: אנבידיה רוכשת את Groq בכ-20 מיליארד דולר
Groq עיצבה שבבים המשתמשים בארכיטקטורה שונה מזו של אנבידיה, הנקראים "יחידות עיבוד שפה", ויעילים עבור פונקציות "הסקה".
מחשוב "הסקה" מבוסס AI מחולק לשתי משימות עיקריות: מילוי מוקדם, שהוא התהליך בו מודל מפרש בקשת משתמש. השנייה היא פענוח, שבו המודל מייצר תגובה. מילוי מוקדם הוא בדרך כלל התהליך המהיר מבין השניים, בעוד שפענוח נוטה להיות איטי במיוחד.
Claude של אנתרופיק נחשב בדרך כלל למוביל השוק ליישום הנחשב למוביל בבינה מלאכותית ארגונית. אבל אנתרופיק מסתמכת בעיקר על שבבים של אמזון ויחידה הענן של אלפבית, ולא על ידי אנבידיה.
אחד המתחרים הקרובים ביותר של קלוד, הוא כלי Codex של OpenAI, שמתכננת להשתמש במערכת החדשה של אנבידיה כדי לשפר את את המודל.
