אנבידיה משיקה את משפחת Nemotron 3.5: מודל ראייה ושפה פתוח של 120 מיליארד פרמטרים, ומודלים קטנים שרצים על המחשב האישי

אנבידיה הכריזה על שלושה מודלים פתוחים חדשים במשפחת Nemotron 3.5. הראשון הוא Super VL, מודל של 120 מיליארד פרמטרים שמשלב ראייה ושפה (VL, Vision-Language). השניים האחרים הם מודלי Bolt קטנים להרצה על חומרה מקומית. לפי החברה, השלושה יחד מכסים את כל טווח ההפעלה של סוכני AI, משרתים ארגוניים גדולים ועד מחשבים אישיים ומכשירי קצה.

Super VL ו-Bolt 74B-A9B זמינים כבר עכשיו. Bolt E4B צפוי לצאת ב-23 באוקטובר.

Super VL: מודל לסוכנים ארגוניים

לפי אנבידיה, Super VL פותח בשיתוף עם Nemotron Coalition. הוא מיועד למשימות של סוכנים: מילוי הוראות, שימוש בכלים, תהליכים עסקיים מרובי שלבים והבנה חזותית. החברה טוענת שהדיוק שלו דומה לזה של מודל ההסקה (reasoning) הגדול ביותר שלה, בערך בחמישית מהגודל. עוד נטען שהוא מהיר פי 5 מהמודל הפתוח הבא אחריו בקטגוריה, לפי טבלת Artificial Analysis Intelligence Index.

בהודעה מודגש ההבדל מול מודלים סגורים: ארגונים יכולים לבצע post-training, כלומר אימון נוסף של המודל על הנתונים שלהם, ולהריץ אותו על התשתית שלהם. אנבידיה מונה שורה של חברות שכבר מתאימות את המודל לצרכיהן:

• Scale AI: סוכן מימון אשראי לספקים עבור Skydance, וסוכן בדיקת נאותות (due diligence) לעסקאות מיזוג ורכישה עבור EY
• CrowdStrike: הגנה בסייבר (blue teaming)
• Atlassian: חיפוש בין Jira ל-Confluence
• Perplexity: חיפוש ומשימות סוכנים
• Salesforce: אוטומציה של תהליכים ממשלתיים

Bolt: סוכנים על המחשב המקומי

Bolt 74B-A9B מיועד לחומרת NVIDIA RTX/DGX Spark. הוא משתמש ב-quantization (דחיסת משקלי המודל לדיוק נמוך יותר) מובנית של 2 ביט, וכך נכנס ב-24GB זיכרון ויכול לרוץ לצד אפליקציות אחרות. השם מרמז ככל הנראה על ארכיטקטורת Mixture of Experts: 74 מיליארד פרמטרים בסך הכול, מתוכם כ-9 מיליארד פעילים בכל שלב. החברה לא פירטה זאת בהודעה.

לפי אנבידיה, המשתמשים יוכלו להעביר ל-Bolt משימות כמו מחקר ברשת, כתיבה ודיבוג קוד דרך harnesses (סביבות הפעלה) נפוצות לסוכנים מקומיים, בלי לשלוח את העבודה לענן. החברה מציינת שהמודל מדורג ראשון בין המודלים הפתוחים בקטגוריה שלו ב-PinchBench ושני ב-BrowseComp.

Bolt E4B, שנכנס ב-4GB, מיועד לעוזרים קוליים, לדמויות אינטראקטיביות ולממשקים משובצים (embedded). הוא אמור לרוץ על GeForce RTX, Jetson ו-RTX/DGX Spark.

מה כבר אפשר להוריד

ב-Hugging Face כבר קיים מאגר רשמי של Bolt 74B-A9B בפורמט GGUF. זה הפורמט שבו משתמשים כלים נפוצים להרצה מקומית. בפוסטים בקהילת מפתחי המודלים המקומיים דווח ש-Super VL שוחרר בכמה גרסאות, בהן BF16, NVFP4 וגרסה ל-speculative decoding, אך הפירוט הזה לא מופיע בהודעה הרשמית. במקביל, Ollama פרסמה ב-14 באוקטובר גרסת טרום-הפצה שכותרתה מזכירה "מודל חדש". רשימת השינויים שלה לא מציינת במפורש תמיכה ב-Nemotron.

למה זה חשוב

Super VL ו-Bolt מצטרפים ל-Lightning, שיצא באוגוסט ומיועד לעומסים בתפוקה גבוהה, ול-Ultra, שמיועד למשימות ההסקה הקשות ביותר. המשמעות היא שאנבידיה מציעה עכשיו מודל פתוח לכל שכבת חומרה שהיא מוכרת, מהדאטה-סנטר ועד המחשב השולחני. ההערכה היא שזה מהלך שנועד לחזק את הביקוש לחומרה של החברה עצמה, לא רק תחרות בשוק המודלים. עבור ארגונים ששוקלים להריץ סוכנים על תשתית משלהם, האפשרות לאמן את המודל על הנתונים שלהם ולשלוט בו עשויה להיות שיקול מרכזי. הנתונים על הביצועים מגיעים כרגע מאנבידיה עצמה, וטרם נבדקו באופן עצמאי.