כל מה שחם בעולם הבינה המלאכותית · בעברית
בנושא
מטא פרסמה ב-15 באוקטובר את המשקלות של Muse Spark Open, מודל פתוח עם 816 מיליארד פרמטרים, חלון הקשר של מיליון טוקנים, וקלט של טקסט, תמונה, וידאו ושמע. במדד Artificial Analysis Intelligence Index הוא מקבל 39 נקודות, לפי הטבלה שמטא עצמה פרסמה. זה פחות מ-GLM 5.3, Kimi K3 וגרסה של Qwen3.8.
חברת ה-AI הסינית StepFun פרסמה את המשקלים של Step 5 Preview, מודל Mixture-of-Experts עם 600 מיליארד פרמטרים, מתוכם 27 מיליארד פעילים לכל טוקן, וחלון הקשר של עד מיליון טוקנים. המודל נבנה למשימות סוכניות ארוכות טווח, והמשקלים זמינים להורדה ב-Hugging Face וב-ModelScope.
Fish Audio שחררה את Drama 3, מודל להמרת טקסט לדיבור (TTS) עם 35 מיליארד פרמטרים בארכיטקטורת Mixture-of-Experts. בכל רגע פועלים רק כ-3 מיליארד מהם. המודל מקבל הנחיות בשפה טבעית, תומך ב-83 שפות, והמשקולות שלו פתוחות תחת רישיון קהילתי עם תקרת הכנסות.
DeepSeek AI השיקה את DeepSeek-V4.1-Flash, מודל MoE מולטימודלי עם חלון context של מיליון טוקנים, 552 מיליארד פרמטרים בגוף הרשת ו-196 מיליארד פרמטרים נוספים מסוג Engram. המודל משלב מטמון KV בדיוק FP4 ומנגנון cross-layer attention reuse שנועדו לצמצם את עומס הזיכרון בהרצת סוכני AI הפועלים לאורך זמן.