בקצרה: IBM פרסמה ב-15 באוקטובר 2026 את Granite Switch 4.1. יש שני גדלים, 8B ו-30B, ונקודת קצה אחת מטפלת בצ'אט, בהחלטות ובתמלול דיבור. נתוני הביצועים באים מ-IBM, אז כדאי לחכות לבדיקות חיצוניות.
כלי ההחלטה הם Activated LoRA, תוספות קטנות שמשתמשות מחדש בזיכרון המטמון של המודל הבסיסי. IBM אומרת שכל הסט צורך בערך אותו זיכרון GPU כמו המודל הבסיסי לבדו. למי שבונה סוכן, זה אומר התקנה אחת במקום שלושה מודלים נפרדים לשיחה, לבדיקה ולהאזנה.
IBM מפרסמת כרטיסי מודל ואוסף ב-Hugging Face, דמו של דיבור להחלטות, מאגר ב-GitHub ומחברת Colab. חבילת Adapter SDK לאימון מתאמים משלכם מתוכננת, אבל עדיין לא יצאה.
אם בונים סוכנים שצריכים להקשיב, לענות ולסנן בתהליך אחד, שווה לבדוק אותו על הנתונים שלכם.
מקור: Hugging Face Blog (IBM Granite)