אנבידיה משיקה את Nemotron 3.5: מודלי אחזור פתוחים להטמעה, דירוג ופענוח מסמכים לסוכני AI
אנבידיה הרחיבה את משפחת Nemotron Retriever בחמישה מודלים פתוחים חדשים, שזמינים גם לשימוש מסחרי. המודלים מטפלים בהטמעה, בדירוג ובחילוץ מידע ממסמכים, ונועדו לעזור לסוכני AI למצוא מידע רלוונטי בטקסט ובתמונות. לפי המדידות של החברה עצמה, הוספת מודל הדירוג חוסכת לסוכן כ-13% עד 14% מהטוקנים בכל שאילתה.
אנבידיה הכריזה היום (21 באוקטובר 2026) על משפחת Nemotron 3.5 של מודלי אחזור מידע. המשפחה כוללת חמישה מודלים פתוחים שזמינים גם לשימוש מסחרי, והם נוספים לאוסף Nemotron Retriever של החברה. המודלים מיועדים לשלושה שלבים בתהליך האחזור: הטמעה (embedding), דירוג מחדש (reranking) וחילוץ תוכן ממסמכים (parsing). הקהל שאנבידיה מכוונת אליו הוא ארגונים שבונים סוכני AI.
מה הושק
לפי הפוסט שפרסמה החברה בבלוג של Hugging Face, ההשקה כוללת את המודלים הבאים:
- Nemotron 3.5 Embed בשלוש גרסאות: מודל של 8 מיליארד פרמטרים בפורמט BF16, ושתי גרסאות של מיליארד פרמטרים, אחת ב-BF16 ואחת ב-NVFP4. NVFP4 הוא פורמט דחיסה (quantization) של אנבידיה שמקטין את המודל ומאיץ את ההרצה שלו על חומרה שתומכת בו.
- Nemotron 3.5 Rerank בגודל של 8 מיליארד פרמטרים.
- Nemotron 3.5 Parse בגודל של 631 מיליון פרמטרים, לחילוץ תוכן ממסמכים.
לקוראים שפחות מכירים את התחום: מודל הטמעה ממיר טקסט או תמונה לייצוג מספרי, וכך אפשר לחפש לפי משמעות ולא רק לפי מילים זהות. מודל דירוג מחדש מקבל את רשימת התוצאות שהחיפוש הראשוני החזיר, בוחן כל זוג של שאלה ומסמך, ומסדר מחדש את התוצאות לפי הרלוונטיות שלהן.
לפי אנבידיה, Embed בנוי על מודלי ההטמעה הטקסטואליים מהדור הקודם, Nemotron 3 Embed. החידוש הוא היכולת לאחזר מידע גם מתמונות של מסמכים, כמו טבלאות, גרפים, אינפוגרפיקות, דפי נתונים ושרטוטים טכניים. גרסת ה-1B היא "זיקוק" (distillation) של מודל ה-8B: מודל קטן שאומן לחקות את היכולות של המודל הגדול.
למה אחזור משפיע על עלות הסוכן
אנבידיה טוענת שהביצועים של סוכן תלויים במידע שהוא מצליח לשלוף. כשהמידע שנשלף חלקי או לא רלוונטי, הסוכן חוזר על חיפושים ובודק מסמכים נוספים, וכל ניסיון כזה צורך עוד טוקנים של הסקה (inference). החברה נותנת דוגמה: סוכן שצריך לזהות מוצרים שעלולים לאזול מהמלאי ברבעון הבא. כדי לענות הוא צריך לחבר תחזיות ביקוש שמופיעות בגרפים, רמות מלאי בטבלאות וזמני אספקה מדוחות של ספקים.
כדי לבדוק את ההשפעה הזו, החברה הריצה סוכן על שלושה מבחנים: ViDoRe v3, שמשלב טקסט ותמונות, ו-BRIGHT ו-BrowseComp-Plus, שמבוססים על טקסט בלבד. מודל השפה של הסוכן, הכלים, המשימות ומאגר המסמכים נשארו קבועים, ורק תצורת האחזור השתנתה.
לפי התוצאות שהחברה פרסמה:
- הוספת Rerank הפחיתה את עלות הטוקנים לשאילתה בכ-14% כשהוא עבד יחד עם Embed 8B, ובכ-13% יחד עם Embed 1B. בשני המקרים גם דיוק האחזור השתפר.
- כש-Embed 8B שימש לחיפוש הראשוני, Rerank השיג ציון nDCG@10 גבוה בכ-0.9 נקודות מזה של Qwen3-VL-Reranker-8B של עליבאבא, בעלות טוקנים דומה. nDCG@10 הוא מדד שבודק עד כמה התוצאות הרלוונטיות מופיעות בראש עשר התוצאות הראשונות.
המשמעות
חשוב לזכור שכל המספרים האלה הם מדידות של אנבידיה עצמה, ועדיין לא נבדקו באופן עצמאי. עם זאת, הם מצביעים על מגמה רחבה יותר: כשארגונים מפעילים סוכנים בהיקף גדול, איכות האחזור משפיעה לא רק על נכונות התשובה אלא גם על העלות. חיסכון של כ-14% בטוקנים לכל שאילתה עשוי להצטבר לסכומים משמעותיים.
נראה שהבחירה לשחרר מודלים פתוחים בכמה גדלים נועדה לאפשר לארגונים לבחור בין איכות לבין עלות הרצה. גרסת NVFP4 מכוונת בעיקר לאינדוקס של כמויות גדולות של מסמכים על חומרה של אנבידיה. היכולת לחפש בתוך גרפים וטבלאות חשובה במיוחד לארגונים, כי חלק גדול מהמידע העסקי שלהם נמצא בדוחות ובמצגות ולא בטקסט רציף. על מודל Parse הפוסט מוסר מעט פרטים מעבר לגודלו ולתפקידו.