ענקית הטכנולוגיה IBM השיקה את Granite 3.2, הדור החדש במשפחת מודלי השפה שלה, תוך דגש על פתרונות יעילים וחסכוניים במשאבי מחשוב. הגרסה החדשה כוללת חידוש משמעותי: מודל ויזואלי ייחודי בשם Granite Vision, שמצטיין בניתוח והבנת תרשימים, טבלאות והדמיות נתונים אחרות – מרכיב קריטי במסמכים ארגוניים.
את הפיתוח של Granite Vision הוביל צוות חוקרים ממעבדת המחקר של IBM בחיפה, בשיתוף עם עמיתים מניו יורק. המודל מסוגל לחלץ מידע רלוונטי ולהפיק תובנות מנתונים גרפיים, תוך התמודדות עם אתגרים שעד כה הקשו על מודלי בינה מלאכותית, במיוחד בתחומי הדוחות העסקיים, ניתוחים פיננסיים ומסמכים מורכבים. IBM סבורה כי השימוש במודל זה יכול להאיץ תהליכים ארגוניים, לשפר את דיוק הדוחות ולסייע בקבלת החלטות מבוססות נתונים.
Granite 3.2 ממשיך את אסטרטגיית IBM לפיתוח מודלי שפה "רזים", שאינם דורשים משאבי חישוב עצומים, אך מספקים ביצועים גבוהים ומותאמים לצרכים ארגוניים ייעודיים. השימוש במודל זה מאפשר לארגונים לפתח גרסאות ייעודיות על בסיס מידע פנימי, תוך שמירה על פרטיות הנתונים והקפדה על כללי בטיחות מחמירים. יתרון נוסף הוא היכולת להשתמש במודל בסביבות עם משאבי מחשוב מוגבלים, דבר שהופך אותו לאופציה נוחה לארגונים רבים.
אחד החידושים המרכזיים ב-Granite 3.2 הוא שילובו של מנוע היסק מתקדם המכונה "שרשרת מחשבה". מנגנון זה מאפשר למודל לגשת לבעיות מורכבות באופן שיטתי ולפרק אותן לשלבים, בדומה לאופן שבו בני אדם מנתחים סוגיות. יחד עם זאת, המערכת מעניקה למשתמשים שליטה מלאה על הפעלת הפיצ'ר – ניתן לכבות אותו עבור משימות פשוטות יותר, כך שהמודל פועל ללא שימוש מיותר במשאבי מחשוב יקרים.
IBM מציינת כי Granite Vision מבוסס על מודל השפה Granite, הכולל 2 מיליארד פרמטרים וחלון הקשר רחב של 128 אלף טוקנים. המודל אומן על 13.7 מיליון עמודים של מסמכים ארגוניים וכ-4.2 מיליון תמונות. בנוסף לתמונות גולמיות, Granite Vision עושה שימוש בכמעט מאה מיליון זוגות של שאלות ותשובות המבוססים על תוכן ויזואלי, מתוכם 80.3 מיליון קשורים לתמונות מסמכים ו-16.3 מיליון לתמונות טבעיות. נתונים אלו משמשים לחיזוק יכולותיו בהבנת מסמכים מורכבים והפקת תובנות מדויקות.
בהתאם לגישתה הידידותית לקוד פתוח, IBM מאפשרת גישה מלאה למודלי Granite 3.2 תחת רישיון Apache 2.0 בפלטפורמת Hugging Face. לצד זאת, החברה ממשיכה להשקיע בבטיחות ושילבה את Granite Guardian 3.2, מערכת מתקדמת לזיהוי סיכונים בהנחיות ובתגובות.
