אנבידיה משיקה מודלים פתוחים חדשים להרצת סוכני AI בארגונים ובמחשבים אישיים

אנבידיה השיקה סדרה חדשה של מודלים במשקלים פתוחים (open-weight, כלומר מודלים שהמשקלים שלהם זמינים להורדה ולהרצה עצמאית). המודלים מיועדים לסוכני AI שפועלים ברציפות ולמחשוב קצה, שבו העיבוד נעשה על המכשיר עצמו ולא בענן. לפי הדיווח ב-TechCrunch, ההשקה כוללת מודל גדול לארגונים ושני מודלים קלים להרצה מקומית על מחשבים אישיים.

מודל אחד לארגון, שניים למחשב האישי

המודל המרכזי, Nemotron 3.5 Super VL, כולל 120 מיליארד פרמטרים ומיועד לסוכנים בארגונים. לדברי אנבידיה, יש לו פחות פרמטרים מהמודל Nemotron 3 Ultra, אבל הוא מגיע לרמת דיוק דומה בביצוע הוראות ובשימוש בכלים (tool use).

החברה טוענת גם שלאחר post-training, כלומר אימון נוסף על משימות ספציפיות, Super VL משלים משימות מהר יותר ממודלים מתחרים של אנתרופיק ו-OpenAI, ובהם Opus 5,‏ GPT 6.1 Sol,‏ Luna ו-Astra. המשימות שנבדקו כוללות ניתוח מסמכים, הנהלת חשבונות, ניסויים מדעיים, תביעות ביטוח רפואי ועמידות בפני מתקפות סייבר. טענות כאלה מגיעות כמעט עם כל השקת מודל, ולכן כדאי להתייחס אליהן בזהירות עד שיופיעו מדידות בלתי תלויות. עם זאת, אנבידיה מציינת שורה של חברות שכבר משתמשות במודל: Skydance,‏ EY,‏ Ramp,‏ CrowdStrike,‏ Perplexity ו-Salesforce.

בקצה השני נמצאים שני מודלי Bolt, שנועדו לרוץ מקומית על מחשבי ה-AI החדשים המבוססים על שבב Nvidia RTX Spark ועל תחנות עבודה עם DGX Spark. מחשבים כאלה מגיעים בימים אלה לשוק דרך שותפות כמו מיקרוסופט ו-Dell. המודל Nemotron 3.5 Bolt 74B-A9B 24GB, בן 74 מיליארד פרמטרים, מיועד למשימות של סוכנים על המחשב המקומי. הוא אמור לאזן בין מהירות ליכולת הסקה, ולטפל בחשיבה רב-שלבית, בהפעלת כלים ובגלישה באינטרנט. המודל הקטן ביותר, Bolt E4B, מיועד לסוכני שיחה.

Super VL ו-Bolt 74B-A9B זמינים כבר עכשיו. Bolt E4B צפוי להגיע בהמשך החודש.

למה אנבידיה משקיעה במודלים פתוחים

"כל ארגון שרוצה להריץ סוכנים על תשתית של אנבידיה מקבל עכשיו מודל פתוח ומותאם לרמה שלו, בלי לבחור בין יכולת לבין יכולת פריסה", כתבה קארי בריסקי, סגנית נשיא למודלים פתוחים ותוכנה באנבידיה, בפוסט שבו הוכרזו המודלים.

אלה לא המודלים הפתוחים הראשונים של אנבידיה. משפחת Nemotron כבר כוללת מודלים למולטימודליות, להסקה, לקוד, למתמטיקה ולאוטומציה ארגונית. ההקשר העסקי מסביר את המהלך: מעבדות ה-AI הגדולות, שהן גם לקוחות של אנבידיה וגם השקעות שלה, פונות יותר ויותר לספקי שבבים ומערכות אחרים, כמו Trainium של AWS ו-Cerebras, ואף מפתחות שבבים משלהן. ככל הנראה, אנבידיה מגיבה בכך שהיא נשענת על מגמה מתחזקת: ארגונים שמעדיפים להריץ מודלים פתוחים במרכזי הנתונים שלהם. "בניגוד למודלי frontier סגורים, ארגונים יכולים לבצע post-training ל-Super VL על הנתונים שלהם, לפרוס אותו על התשתית שלהם ולהחזיק במה שהם בונים", כתבה בריסקי.

הפרטיות כנקודת מכירה

מודלי Bolt מכוונים לשוק אחר: עוזרי AI אישיים, תחום שעדיין נמצא בראשיתו. סוכן אישי יעיל צריך גישה למידע על המשפחה, הבריאות והכספים של המשתמש, ומשתמשים רבים חוששים לשתף מידע כזה עם שירות בענן. אנבידיה מציעה מחשבים שמריצים את המודלים והסוכנים מקומית, כך שהמשתמשים "יכולים להאציל פרויקטים יומיומיים... בלי לשלוח את העומסים האלה לענן", לדברי בריסקי.

המשמעות היא שאנבידיה מנסה לבנות לעצמה שוק נוסף למחשבים אישיים מבוססי השבבים שלה, ולהציג את הפרטיות כיתרון מרכזי שלהם. עדיין לא ברור אם צרכנים יאמצו סוכנים מקומיים בהיקף רחב. עם זאת, המהלך מראה שאנבידיה כבר לא מסתפקת במכירת שבבים למעבדות הגדולות, ומתחרה בהן גם בשכבת המודלים עצמה.