Beam: מעבדת Reflection משחררת מודל פתוח בגודל 501B ברישיון Apache 2.0

Reflection, מעבדת AI אמריקאית חדשה, שחררה את המודל הראשון שלה, Beam, כמודל פתוח ב-Hugging Face. לפי פוסט ההשקה בבלוג של Hugging Face, שפורסם ב-16 באוקטובר 2026, מדובר במודל בגודל 501 מיליארד פרמטרים. הוא מקבל טקסט בלבד, תומך בחלון הקשר (context window) של מיליון tokens ומופץ ברישיון Apache 2.0, רישיון מתירני שמאפשר גם שימוש מסחרי.

Beam מכוון לכתיבת קוד ולשימושים אגנטיים, כלומר מערכות שבהן המודל מבצע משימות רב-שלביות ומפעיל כלים בעצמו. לפי ההודעה הוא מיועד ל"צוותים שרוצים מודל בקנה מידה של frontier על החומרה, התשתית או הענן שלהם", ורוצים להתאים אותו לצרכים שלהם.

גדול בזיכרון, מהיר כמו מודל קטן

Beam בנוי בארכיטקטורת Mixture-of-Experts ‏(MoE): במקום שכל הרשת תעבוד על כל מילה, כל token מנותב לחלק קטן ממנה. בכל אחת מ-49 שכבות ה-MoE יש 256 "מומחים", ורק 8 מהם מופעלים לכל token. לכן כל token מחושב בעזרת כ-23 מיליארד פרמטרים בלבד. המומחים מחזיקים 98.4% מהפרמטרים של המודל.

לבחירה הזו יש מחיר. לפי הפוסט, כל 256 המומחים נשארים בזיכרון, ולכן "הפריסה דורשת את הזיכרון של מודל 501B, אבל רצה במהירות של מודל 23B". ה-checkpoint בפורמט BF16 שוקל כ-1TB. לצידו מופצות גרסאות FP8 ו-NVFP4, והאחרונה שומרת את רוב הפרמטרים בדיוק של 4 ביט ומיועדת למעבדי Blackwell של אנבידיה.

כדי להתמודד עם הקשר ארוך כל כך, רוב 52 השכבות מסתכלות רק על 512 ה-tokens האחרונים (sliding-window attention). רק 9 שכבות "גלובליות" רואות את כל ההקשר. מנגנון הניתוב בין המומחים מבוסס, לפי הפוסט, על השיטה של DeepSeek-V3, אבל בלי "מומחה משותף".

מה מגיע בחבילה

לצד המשקולות, Reflection מספקת harness ייעודי בקוד פתוח שכתוב ב-Rust, כלומר שכבת התוכנה שמריצה את המודל. לפי ההודעה, הוא מפיק מהמודל את הביצועים הטובים ביותר. המודל נתמך מהיום הראשון בספריות transformers, ‏vLLM ו-SGLang. Hugging Face, שעבדה עם צוות Reflection, מפרסמת גם מתכונים להרצה, לאימון נוסף מפוקח (SFT) ולאימון בחיזוק (RL), כולל RL על כל הפרמטרים באמצעות Miles.

בין היכולות שמפורטות בהודעה:

• חמש רמות "חשיבה": ‏low, ‏medium (ברירת המחדל), ‏high, ‏xhigh ו-max.
• אפשרות לשמר את תהליך החשיבה בהקשר לאורך כמה תורות בשיחה (preserve_thinking).
• הפעלת כלים (tool calling) עם דקדוק ייעודי.
• מודל drafter ל-speculative decoding, טכניקה להאצת יצירת הטקסט.

כדי לעודד שימוש במודל, Reflection תחלק קרדיטים בשווי 10,000 דולר ב-Hub לפרויקטים הטובים ביותר שייבנו עם Beam, למשל דמו ב-Spaces, גרסה מכווצת (quantized), מאגר נתונים סינתטי או benchmark.

למה זה חשוב

המשמעות המרכזית היא ככל הנראה שעוד מודל בקנה מידה גדול יוצא ברישיון פתוח לחלוטין. בכך מצטרפת מעבדה אמריקאית לזירה שבה בולטים בשנים האחרונות מודלים פתוחים גדולים. הדגש על "מודל שאפשר להחזיק", עם harness, מתכוני אימון ותמיכה מלאה בכלים הנפוצים, מרמז שהקהל המיועד הוא ארגונים שרוצים שליטה מלאה בנתונים ובתשתית.

עם זאת, כדאי להבהיר למי זה רלוונטי בפועל. "פתוח" אין פירושו "קל להרצה": מודל שה-checkpoint המלא שלו שוקל כ-1TB דורש חומרת שרתים רצינית, גם בגרסאות המכווצות. השאלה הפתוחה היא איך Beam מתמודד מול מודלים קיימים בקוד ובמשימות אגנטיות. הודעת ההשקה מתמקדת בארכיטקטורה ובכלים, והשוואות עצמאיות יידרשו כדי לענות על כך.