אנבידיה משיקה את Nemotron 3.5 Bolt E4B: מודל שפה קטן ופתוח שרץ מקומית על כ-4GB זיכרון גרפי
אנבידיה שחררה את Nemotron 3.5 Bolt E4B 4GB, מודל שפה קטן ופתוח שמבוסס על Gemma 4 E4B של גוגל. הוא מיועד לעוזרים קוליים, לדמויות במשחקים ולרובוטים, ונבנה לרוץ מקומית על כ-4GB של זיכרון גרפי בכרטיסי RTX ובפלטפורמת Jetson.
אנבידיה שחררה את Nemotron 3.5 Bolt E4B 4GB, מודל שפה קטן ופתוח (SLM, Small Language Model) שנבנה לרוץ מקומית, על המכשיר עצמו ובלי תלות בענן. לפי הדיווח, המודל מיועד לשלושה תחומים: עוזרים קוליים מקומיים, דמויות במשחקי וידאו ורובוטים. הוא צורך כ-4GB של זיכרון גרפי (VRAM), ומיועד לכרטיסי המסך מסדרת RTX ולפלטפורמת Jetson של החברה.
מודל של גוגל, אימון של אנבידיה
המודל החדש לא נבנה מאפס. לפי הדיווח ב-MarkTechPost, אנבידיה ביצעה post-training (שלב אימון נוסף אחרי האימון הבסיסי, שמכוון את המודל למשימות מסוימות) על Gemma 4 E4B, מודל מתוך משפחת המודלים הפתוחים של גוגל. זו דרך מקובלת בתעשייה: לוקחים מודל בסיס פתוח ומתאימים אותו לשימוש מוגדר, במקום לממן אימון מלא ויקר.
השם של המודל משקף את המטרה. המילה Bolt מרמזת על מהירות, ו-"4GB" בסוף השם מציין את תקציב הזיכרון שהמודל נבנה לעמוד בו. המשמעות המעשית היא שהמודל אמור להתאים לחלק גדול ממחשבי הגיימינג הביתיים, ולא רק לשרתים או לתחנות עבודה יקרות.
חלק ממשפחת Nemotron 3.5
זה שחרור נפרד, אבל הוא שייך לאותה משפחה, Nemotron 3.5, שלפי דיווחים קודמים כוללת גם את מודלי Embed, Rerank ו-Parse. אותם מודלים מטפלים בשלבים אחרים של מערכות AI, כמו חיפוש מידע, דירוג תוצאות ועיבוד מסמכים. Bolt E4B, לעומתם, הוא מודל שיחה וייצור טקסט שנבנה להיות קטן מספיק כדי לרוץ קרוב למשתמש.
למה זה חשוב
לשלושת השימושים שאנבידיה מציינת יש צורך משותף, והוא תגובה מהירה. בעוזר קולי, עיכוב של שנייה או שתיים בתשובה פוגע בתחושה של שיחה טבעית. דמות במשחק שצריכה לפנות לשרת מרוחק בכל משפט תלויה בחיבור לאינטרנט, ועולה כסף לכל שימוש. רובוט צריך להמשיך לפעול גם כשהקליטה חלשה. מודל שרץ מקומית חוסך את הנסיעה הלוך-חזור לענן, וככל הנראה גם משפר את הפרטיות, כי הדיבור והטקסט לא יוצאים מהמכשיר.
מנקודת המבט של אנבידיה, יש כאן ככל הנראה גם היגיון עסקי. Jetson היא פלטפורמת המחשוב של החברה לרובוטיקה ולמכשירי קצה, ו-RTX היא סדרת הכרטיסים שמותקנת במחשבים ביתיים רבים. מודלים פתוחים שמותאמים לחומרה הזו נותנים למפתחים סיבה לבנות עליה. המהלך משתלב במגמה רחבה בתעשייה: לצד המרוץ לבניית מודלי ענק, יותר ויותר חברות משקיעות במודלים קטנים שמספיק להם מחשב רגיל.
הדיווח לא כולל נתוני ביצועים, השוואות למודלים אחרים או פרטים על רישיון השימוש. לכן עדיין לא ברור עד כמה המודל טוב ביחס למתחריו בגודל דומה, וזה מה שיקבע אם מפתחי משחקים ורובוטיקה יאמצו אותו.