Sterling של Samaya AI: מודל פיננסי עם 3B פרמטרים פעילים עוקף את Claude Fable 5.1 במדד FrontierFinance, בעלות נמוכה פי 11
חברת Samaya AI השיקה את Sterling, מודל לחקר פיננסי שנבנה על בסיס Nemotron 3.5 Lightning. לפי הדיווח, הוא השיג 58.9% במדד FrontierFinance, לעומת 55.9% של Claude Fable 5.1 מבית אנתרופיק. העלות שלו היא 0.61 דולר לשאלה, לעומת 6.89 דולר.
חברת Samaya AI השיקה את Sterling, מודל שפה שתוכנן לשמש כסוכן לחקר פיננסי. לפי הדיווח ב-MarkTechPost, במדד FrontierFinance הוא השיג 58.9%. Claude Fable 5.1 של אנתרופיק השיג באותו מדד 55.9%. גם הפער בעלות בולט: 0.61 דולר לשאלה ב-Sterling, לעומת 6.89 דולר ב-Claude Fable 5.1. המשמעות היא עלות נמוכה בערך פי 11.
מה בדיוק נבנה כאן
Samaya AI לא אימנה את Sterling מאפס. המודל נבנה על Nemotron 3.5 Lightning, מודל ממשפחת Nemotron של אנבידיה, ועבר עליו תהליך post-training. בשלב הזה לוקחים מודל כללי שכבר אומן ומאמנים אותו עוד, כדי שיתמחה במשימה מסוימת. במקרה הזה המשימה היא מחקר פיננסי.
לפי הדיווח, ל-Sterling יש 3B (שלושה מיליארד) פרמטרים פעילים. ההבחנה בין פרמטרים "פעילים" לכלל הפרמטרים מאפיינת בדרך כלל ארכיטקטורות שבהן רק חלק מהמודל מופעל בכל שלב חישוב. התוצאה היא חישוב זול ומהיר יותר. ככל הנראה, זה אחד ההסברים לפער בעלות. המקור לא מפרט את המספר הכולל של הפרמטרים במודל.
למה ההשוואה מעניינת
Claude Fable 5.1 הוא מודל כללי מהשורה הראשונה של אנתרופיק. הוא אמור להתמודד עם מגוון רחב של משימות, מכתיבה ותכנות ועד ניתוח. Sterling, לעומתו, נבנה מראש לתחום אחד. לפי הנתונים שפורסמו, בתחום הזה הוא מקדים את מודל הדגל בשלוש נקודות אחוז, בחלק קטן מהעלות.
לשאלה "כמה עולה כל תשובה" יש משקל ממשי בעולם הפיננסי. אנליסטים, קרנות וגופי מחקר עשויים להריץ אלפי שאילתות ביום, ולכן עלות של כ-60 סנט לשאלה במקום כ-7 דולר יכולה להכריע אם שימוש שוטף בסוכן AI משתלם. יש לזה גם מחיר: חברה שבוחרת במודל מתמחה צריכה לנהל עוד מערכת, ומקבלת כלי שחזקותיו מוגבלות לתחום שבו אומן.
הסתייגויות
חשוב לקרוא את התוצאות בזהירות. FrontierFinance הוא מדד אחד, והציונים מגיעים מההכרזה על המודל, כלומר מהצד שמציג אותו. הפער בין 58.9% ל-55.9% אמיתי אבל לא דרמטי, ושני המודלים עדיין רחוקים מציון מלא. ניצחון במדד מתמחה גם לא מלמד שהמודל הקטן טוב יותר באופן כללי. ככל הנראה, מחוץ לתחום הפיננסי, היתרון של מודל כללי גדול נשמר.
המשמעות
Sterling מצטרף למגמה שהולכת ומתחזקת בתעשייה: במקום מודל ענק אחד שעושה הכול, מודל בסיס קטן יחסית ומאומן היטב, שעבר התאמה ממוקדת, יכול להתחרות במודלי הדגל במשימות מוגדרות. אם התוצאות יחזיקו גם בבדיקות בלתי תלויות, ייתכן שחברות יעדיפו יותר ויותר לבנות או לרכוש מודלים מתמחים לתחומים כמו פיננסים, משפט ורפואה, ולשמור את המודלים הגדולים והיקרים למשימות שבאמת דורשות יכולת כללית רחבה.