StepFun משיקה את Step 5: מודל MoE ענק עם חלון הקשר של מיליון טוקנים

חברת StepFun השיקה את Step 5 Preview, מודל שפה בארכיטקטורת MoE (Mixture-of-Experts, "תמהיל מומחים") עם 600 מיליארד פרמטרים בסך הכול — אך רק 27 מיליארד מהם פעילים בכל טוקן בודד שמעובד. המודל תומך בחלון הקשר (context window) של עד מיליון טוקנים, ומקבל קלט בטקסט, בתמונה ובווידאו. לפי ההודעה הרשמית, החברה ממקדת את המודל במשימות אגנטיות ארוכות טווח בשלושה תחומים: פיתוח תוכנה, עבודת ידע מקצועית ופיננסים. גישת API למודל זמינה כבר כעת, במחיר של 1.00 דולר למיליון טוקני קלט ו-2.70 דולר למיליון טוקני פלט, ואילו משקלים פתוחים (open weights) צפויים להתפרסם ב-15 באוקטובר 2026.

מה זה MoE, ולמה זה משנה

ארכיטקטורת MoE מחלקת את המודל ל"מומחים" — תת-רשתות נפרדות — כך שבכל טוקן מופעל רק חלק קטן מהם, ולא כל הרשת כולה. זהו ההסבר לפער הגדול בין 600 מיליארד הפרמטרים הכוללים לבין 27 המיליארד הפעילים בפועל: המודל "גדול" מבחינת היקף הידע האגור בו, אך זול משמעותית מבחינת חישוב בזמן הרצה (inference), משום שרוב הפרמטרים אינם מעורבים בכל חישוב נתון. ככל הנראה זהו גם השיקול שמאפשר לחברה להציע תמחור API כפי שהוכרז — תמחור שמבוסס על עלות ריצה נמוכה יחסית להיקף המודל הכולל.

הקשר של מיליון טוקנים ועבודה אגנטית

חלון ההקשר הרחב הוא, ככל הנראה, המרכיב המרכזי שמאפשר את המיקוד המוצהר במשימות "אגנטיות ארוכות טווח" — כלומר סוכן AI שמבצע רצף פעולות מורכב, כמו כתיבת קוד לאורך פרויקט שלם, מעקב אחר קבצים מרובים או ניתוח מסמכים פיננסיים ארוכים, מבלי לאבד את ההקשר המצטבר באמצע התהליך. שילוב של חלון הקשר כה גדול עם ארכיטקטורת MoE חסכונית מאפשר להזין למודל כמויות גדולות של קוד או תיעוד בלי להקריב באופן דרסטי את מהירות התגובה או העלות התפעולית. תמיכה בקלט מולטימודלי — טקסט, תמונה ווידאו — מרחיבה את טווח השימושים האפשריים מעבר לטקסט בלבד, אם כי המקור אינו מפרט יכולות פלט מעבר לכך.

למה זה חשוב

ההשקה מצטרפת למגמה רחבה יותר בענף שבה חברות AI מנסות לשלב שני מרכיבים שנחשבים קריטיים לעבודה אגנטית אמינה: הקשר ארוך מספיק כדי ש"לזכור" פרויקט שלם, ועלות הרצה נמוכה מספיק כדי שהפעלת סוכן לאורך זמן תהיה כלכלית וברת-קיימא. קביעת מועד יעד לפרסום משקלים פתוחים — 15 באוקטובר 2026 — מציבה את Step 5 גם בזירת המודלים בקוד פתוח, מה שעשוי להרחיב את הנגישות אליו מעבר ללקוחות ה-API בלבד ולאפשר לצוותי פיתוח להריץ אותו על תשתית עצמאית.