יום שני, 16 בנובמבר 2026 מתעדכן אוטומטית כל שעה

בנושא

MoE

עסקים ותעשייה

באידו משחררת את משקלי ERNIE-5.5-Flash-Base, מודל בסיס עם 280 מיליארד פרמטרים

באידו שחררה את המשקלים של ERNIE-5.5-Flash-Base, מודל שפה עם 280 מיליארד פרמטרים שאומן מאפס על 33.5 טריליון טוקנים ותומך בהקשר של עד מיליון טוקנים. זהו מודל בסיס גולמי, לפני כל שלב של כוונון, כך שהוא מיועד למפתחים וחוקרים שרוצים לאמן אותו הלאה ולא למשתמשי קצה. ההודעה מפרטת את הארכיטקטורה, אבל בחלק שעמד לרשותנו אין נתוני ביצועים או תנאי רישיון.

חומרה ורובוטיקה

דיווח: Thinking Machines שחררה את משקלי Inkling 2 Small, מודל של 594 מיליארד פרמטרים

Thinking Machines שחררה את המשקלים של Inkling 2 Small, מודל של 594 מיליארד פרמטרים שרק 17 מיליארד מהם פעילים בכל רגע, כך לפי דיווח בערוץ הטלגרם ai_newz שלא אומת מול ההודעה הרשמית. לפי הדיווח, האימון המקדים ארך 68 שעות בלבד, והרצת המודל דורשת שני כרטיסי B300 או ארבעה H200. אם הפרטים נכונים, זה מודל פתוח גדול ממעבדה אמריקאית, אבל כזה שרץ רק על חומרת שרתים.

חומרה ורובוטיקה

Runway משיקה את Praxis-1: מודל וידאו בגודל 27B שמשמש גם לשליטה ברובוטים

Runway, שמוכרת בעיקר בזכות כלי יצירת הווידאו שלה, פרסמה את Praxis-1. זהו מודל open weight שמנבא איך הסצנה תיראה בהמשך, ובמקביל מפיק את הפקודות שמזיזות את הרובוט. לפי הדוח הטכני של החברה, המודל מוביל בדירוג RoboLab-120 של אנבידיה, אבל התוצאות עדיין לא אומתו באופן בלתי תלוי.

עסקים ותעשייה

באידו מפרסמת את ERNIE 5.5 Flash Base: 280 מיליארד פרמטרים בקוד פתוח, בלי fine-tuning

באידו שחררה את ERNIE-5.5-Flash-Base, מודל בסיס פתוח בארכיטקטורת MoE עם 280 מיליארד פרמטרים, שאומן על 33.5 טריליון טוקנים. המודל יוצא במכוון בלי fine-tuning, וגרסה מכווננת אמורה להגיע בהמשך. דיווח נוסף מאשר כעת את הפרטים שנותרו לא מאומתים בכתבה הקודמת.

מודלים וכלים

Moonshot משחררת את Kimi K3.1 Pro עם משקלים פתוחים ומחליפה את מנגנון ה-attention

Moonshot AI פרסמה את Kimi K3.1 Pro, מודל דגל עם משקלים פתוחים, 2.8 טריליון פרמטרים וחלון הקשר של מיליון טוקנים. החברה החליפה את שכבות ה-Gated MLA בשכבות Gated DSA כדי לעבד הקשרים ארוכים ביעילות רבה יותר. לפי הטבלאות של החברה עצמה, המודל מתחרה במודלים הסגורים המובילים בחלק מהמבחנים ומפגר אחריהם באחרים.

חומרה ורובוטיקה

Recursive חושפת את Flint: המודל הראשון שלה, שפותח ברובו בתהליך מחקר אוטומטי

הסטארטאפ Recursive, שהקים בין היתר ריצ'רד סושר, השיק את Flint: מודל קוד בארכיטקטורת MoE עם 40 מיליארד פרמטרים, שלפי החברה פותח בארבעה חודשים, ברובו בידי מערכת AI פנימית בשם Eureka Machine. המודל זמין בחינם ב-Hugging Face ורץ על חומרה מקומית. עם זאת, תוצאות הביצועים עדיין לא אומתו באופן עצמאי, והחזון של AI שמשפר את עצמו עדיין רחוק מהוכחה.

חומרה ורובוטיקה

Ornith-1.5-122B: מודל במשקלים פתוחים, מבוסס Qwen, זמין עכשיו להורדה בפורמט GGUF

Ornith הציגה את Ornith-1.5-122B, מודל MoE בגודל 122 מיליארד פרמטרים שנבנה על בסיס Qwen. לדברי החברה, הוא רץ על GPU יחיד של 80GB. Unsloth כבר הפיצה לו גרסאות GGUF להרצה מקומית. החברה טוענת לתוצאות חזקות במבחני קוד וסוכנים, אבל את המספרים פרסמה היא עצמה, ואף גורם חיצוני עוד לא אימת אותם.

עסקים ותעשייה

Ling-3.1-flash: מודל עם משקולות פתוחות, 560 מיליארד פרמטרים והקשר של מיליון טוקנים

צוות inclusionAI פרסם ב-Hugging Face את Ling-3.1-flash, מודל שפה בארכיטקטורת MoE עם 560 מיליארד פרמטרים בסך הכול, מתוכם 25 מיליארד פעילים לכל טוקן, וחלון הקשר של מיליון טוקנים. המפתחים אומרים שהמודל חזק במיוחד במשימות סוכנים ובהנדסת תוכנה, אבל בכרטיס המודל אין ציונים מספריים, וטרם פורסמו בדיקות עצמאיות.

עסקים ותעשייה

Liquid AI משחררת את LFM2.5-24B-A2B בפורמט GGUF: מודל של 24 מיליארד פרמטרים שמיועד להרצה מקומית

Liquid AI העלתה ל-Hugging Face גרסאות GGUF של המודל LFM2.5-24B-A2B, מודל MoE בן 24 מיליארד פרמטרים שמיועד להרצה על המכשיר עצמו. הגרסה הקטנה ביותר שוקלת 13.6GB, והחברה מציעה גם checkpoint מיוחד שאומן לצמצם את אובדן הדיוק שנגרם מהדחיסה.

עסקים ותעשייה

NaiveAI משחררת את Naive-N0.5-Flash: מודל קוד פתוח עם 309 מיליארד פרמטרים והקשר של מיליון טוקנים

חברת NaiveAI פרסמה את Naive-N0.5-Flash, מודל MoE עם 309 מיליארד פרמטרים, מתוכם 15.5 מיליארד פעילים. המודל נבנה לפיתוח קוד ולמחקר AI, תומך בהקשר של מיליון טוקנים בלי שכבות full attention, והמשקולות שלו משוחררות ברישיון MIT. לדברי החברה, מודלי AI שלה היו שותפים לתכנון הארכיטקטורה של המודל עצמו.

חומרה ורובוטיקה

מודלים של מאות מיליארדי פרמטרים על מחשב ביתי: FreeToken,‏ Colibrì ו-Splash מקדמים את ה-inference המקומי

כמה פרויקטי open source חדשים מנסים להריץ מודלי שפה ענקיים על חומרה ביתית. הם מפזרים את משקלי המודל בין כרטיס המסך, זיכרון ה-RAM והדיסק. FreeToken ו-Colibrì מכוונים למחשבים עם כרטיסי אנבידיה ולמעבדים רגילים, Splash 1.1.0 מתמקד במחשבי Mac, ומפתח עצמאי מדווח על הרצה של DeepSeek-V4-Flash על כרטיס מסך עם 12GB בלבד.

עסקים ותעשייה

StepFun משיקה את Step 5: מודל MoE ענק עם חלון הקשר של מיליון טוקנים

חברת StepFun השיקה את Step 5 Preview, מודל שפה בארכיטקטורת MoE עם 600 מיליארד פרמטרים בסך הכול ו-27 מיליארד פעילים בכל טוקן, לצד חלון הקשר של מיליון טוקנים ותמיכה בקלט טקסט, תמונה ווידאו. המודל ממוקד במשימות אגנטיות ארוכות טווח בפיתוח תוכנה, עבודת ידע מקצועית ופיננסים, זמין כעת דרך API, ובאוקטובר צפוי לצאת גם כמשקלים פתוחים.

מודלים וכלים

Sand.ai משחררת בקוד פתוח מודל וידאו חסכוני שמזנק ללידרבורד

חברת Sand.ai פרסמה בקוד פתוח את המשקלים וקוד ה-inference של MAGI-2 Preview, מודל וידאו המבוסס על ארכיטקטורת MoE נדירה לתחום. המודל, שמייצר קטעי וידאו של 10 שניות עם פס קול סינכרוני, מוריד את עלות ההסקה פי כ-10 ומטפס למקום השישי בלידרבורד Artificial Analysis.