Ornith-1.5-122B: מודל במשקלים פתוחים, מבוסס Qwen, זמין עכשיו להורדה בפורמט GGUF

חברת Ornith פרסמה את Ornith-1.5-122B, מודל שפה בגודל 122 מיליארד פרמטרים שהמשקלים שלו פתוחים להורדה. זמן קצר אחר כך העלתה Unsloth ל-Hugging Face גרסאות בפורמט GGUF, כך שאפשר להריץ את המודל מקומית על חומרה ביתית או מקצועית. כל המידע בכתבה מבוסס על הודעת היוצרים בכרטיס המודל. בקהילת LocalLLaMA ברדיט, שם הופנתה תשומת הלב לפרסום, תיארו את המודל כ-פיין-טיון של Qwen.

מה זה בעצם

לפי כרטיס המודל, Ornith-1.5 ממשיך את Ornith-1.0. הגרסה הקודמת נבנתה על גבי Qwen3.5 ו-Gemma4, ועברה אצל Ornith שלבי אימון נוספים: continued pretraining, mid-training ו-post-training. גם תבנית השיחה (chat template) של הגרסה החדשה היא תבנית Qwen שהותאמה. כלומר, מדובר בבסיס של עליבאבא שעבר שכבת אימון נוספת, ולא במודל שאומן מאפס.

החידוש שהחברה מדגישה הוא מה שהיא מכנה "שיפור עצמי מקצה לקצה". במקום להסתמך על אוסף קבוע של משימות שאנשים בחרו ועל סביבות עבודה שתוכננו ידנית, המודל מייצר לעצמו כל הזמן משימות אימון חדשות, מחפש דרכים יעילות לפתור אותן ומשתפר באמצעות reinforcement learning (למידת חיזוק). לטענת החברה, ב-1.0 תהליך השיפור העצמי כיסה רק את סביבת הפתרון ואת ניסיונות הפתרון, וב-1.5 הוא כולל גם את יצירת המשימות עצמן.

גודל, חומרה ופריסה

Ornith-1.5-122B הוא החבר הקל ביותר במשפחת Ornith-1.5. הוא בנוי בארכיטקטורת MoE (Mixture of Experts, שבה רק חלק מהפרמטרים פעילים בכל שלב). לדברי היוצרים, לכן אפשר להגיש אותו על GPU יחיד של 80GB. החברה מזכירה גם גרסה מכווצת בשם Ornith-1.5-122B-Mobile, שלטענתה מתאימה להרצה במכשירים ניידים.

זהו מודל היגיון (reasoning): לפני התשובה הסופית הוא כותב שרשרת מחשבה בתוך בלוק <think>. בגרסת המודל המלאה נדרשות גרסאות עדכניות של תוכנות ההרצה: Transformers ‏5.8.1 ומעלה, vLLM ‏0.19.1 ומעלה ו-SGLang ‏0.5.9 ומעלה. הוראות ההגשה בכרטיס מגדירות חלון הקשר של 262,144 טוקנים. גרסאות ה-GGUF של Unsloth פונות לקהל שמריץ מודלים מקומית, ו-Unsloth מפנה למבחני הכיווץ שלה (Unsloth Dynamic 3.0) למי שרוצה להשוות בין רמות הדחיסה.

מה אומרים המספרים

בטבלת המבחנים שפרסמה Ornith, המודל מקבל 76.9 ב-SWE-bench Pro, בגרסה שבה נפסלים פתרונות "רמאיים". באותה טבלה Qwen3.8-Flash-Next מקבל 43.9 ו-Qwen3.8 בגרסה של 27 מיליארד פרמטרים מקבל 65.5. ב-CyberGym הוא רשם 80 וב-BrowseComp רשם 78.5. במבחנים אחרים התמונה מאוזנת יותר. ב-TerminalBench 2.1 הוא קיבל 81.2, מעט מתחת ל-Qwen3.8-Flash-Next (83.4) ול-DeepSeek-V4-Flash-0731 (82.7). ב-HLE עם כלים הוא קיבל 48, מתחת ל-DeepSeek (50.8) ול-Beam (51.1).

חשוב לזכור: את התוצאות פרסמה החברה עצמה, עם הגדרות הערכה שהיא בחרה. כך למשל, בחלק מהמבחנים שימשו גרסאות של Claude Opus כמודל שופט. בשלב זה המספרים לא אומתו באופן עצמאי.

למה זה חשוב

המשמעות המעשית היא ככל הנראה בעיקר למי שמריץ מודלים בעצמו. אם הנתונים יחזיקו מעמד במבחנים חיצוניים, מדובר במודל שמתחרה במבחני קוד וסוכנים במודלים גדולים ממנו, ועדיין נכנס לכרטיס גרפי אחד. הקצב שבו Unsloth הוציאה גרסאות GGUF ממחיש עד כמה קצר כיום הפער בין פרסום מודל פתוח לבין האפשרות להריץ אותו מקומית. הגישה של שיפור עצמי, שבה המודל מייצר לעצמו את חומר האימון, מעניינת כשלעצמה, אבל קשה להעריך את תרומתה האמיתית לפני שיתפרסמו פרטים מלאים ובדיקות של צד שלישי.