Inception משיקה את Mercury 3: מודל שפה מבוסס דיפוזיה שלטענת החברה עוקף את GPT-6 Luna ואת Claude Haiku 5.5

חברת הסטארט-אפ Inception הציגה את Mercury 3, מודל שפה שמבוסס על טכניקת דיפוזיה (diffusion). לטענת החברה הוא עוקף את GPT-6 Luna של OpenAI ואת Claude Haiku 5.5 של אנתרופיק בשורה של מדדים, ורץ מהר מהם פי ארבעה עד שמונה. בהודעה הרשמית Inception מכנה אותו מודל הדיפוזיה החזק ביותר ששוחרר עד היום. עם זאת, כפי שמציין אתר The Decoder, כל המספרים מגיעים מבדיקות פנימיות של החברה, ועדיין לא פורסמו בדיקות עצמאיות.

טיוטה במקום מילה אחר מילה

ההבדל הוא באופן שבו המודל מייצר טקסט. מודלים כמו GPT או Claude כותבים מילה אחת בכל פעם, וכל מילה חדשה מחכה לזו שלפניה. מודלי דיפוזיה, המוכרים בעיקר מעולם יצירת התמונות, משרטטים קודם גרסה גסה של התשובה כולה ומלטשים אותה בכמה סבבים. כך הם מייצרים מילים רבות במקביל.

לפי Inception, ‏Mercury 3 מפיק 1,068 טוקנים (יחידות טקסט) בשנייה על מעבדים גרפיים של אנבידיה. בהשוואה של החברה, Claude Haiku 5.5 מגיע לכ-240 טוקנים בשנייה ו-GPT-6 Luna לכ-130. החברה מוסיפה שבמודל יש יותר מפי 40 פרמטרים מאשר ב-Mercury 1, ובכל זאת הוא מהיר באותה מידה. את מספר הפרמטרים המדויק היא לא חשפה.

היתרון צר יותר ממה שנראה בכותרות

טבלת המדדים של החברה עצמה מציירת תמונה מורכבת יותר. Mercury 3 מנצח ב-8 מתוך 12 מבחנים, כששלושת המודלים רצים בהגדרות בינוניות. הפער הגדול ביותר הוא בציות להוראות: במבחן IFBench הוא קיבל 76.84 נקודות, 15 יותר מ-GPT-6 Luna. גם במבחן כתיבת קוד אוטונומית SWE-Bench Atlas הוא מוביל בבירור, עם 51.08 נקודות מול 33.33 ו-32.26 למתחרים.

מנגד, Claude Haiku 5.5 מנצח במבחן הקוד הארוך יותר DeepSWE, וטוב יותר באיתור מידע בתוך טקסטים ארוכים. ‏GPT-6 Luna מוביל בשני מבחנים של Artificial Analysis. גם Inception עצמה מנסחת בזהירות רבה יותר בסקירה הקצרה שלה, ומתארת את איכות המודל כ"שווה או טובה יותר".

בשביל מי זה נבנה

Inception מכוונת את המודל בעיקר לסוכני AI, לחיפוש, לשירות לקוחות ולהוראה פרטנית. סוכן AI מבצע משימה בשלבים רבים ומחכה למודל בכל אחד מהם, כך שעיכובים קטנים מצטברים מהר.

שותפים שקיבלו גישה מוקדמת מדווחים בהודעה בעיקר על מהירות. ‏Octen AI בונה יכולות חיפוש למשקפיים חכמים. "במשקפיים חכמים, תשובה שלוקחת חמש שניות מרגישה שבורה", אומר המייסד קואן זו (Kuan Zou). לדבריו, החיפוש עצמו לקח כ-80 אלפיות שנייה, וצוואר הבקבוק היה מודל השפה. עם Mercury 3 התשובה החציונית הגיעה אחרי 0.9 שניות, והתהליך המלא נמשך 2.2 שניות. ב-TinyFish AI נתנו למודל 50 משימות ניווט באתרים אמיתיים, והוא פתר 25 מהן. לדברי המייסד-השותף שוהאו ז'אנג (Shuhao Zhang), התוצאה טובה מזו של GPT-6.1-Sol, אבל הוא לא מסר נתון עבור המודל של OpenAI.

מחיר השקה זמני

המחיר הרגיל הוא 0.20 דולר למיליון טוקנים של קלט ו-0.70 דולר למיליון טוקנים של פלט. בהשקה החברה מוזילה אותו בחצי, ולא ציינה מתי ההנחה תסתיים. אחריה Mercury 3 יהיה יקר יותר בפלט מהמתחרים, לפחות בבקשות קצרות, שבהן שניהם גובים 0.50 דולר. בבקשות ארוכות מאוד המתחרים יקרים הרבה יותר. המודל מסוגל לעבד עד מיליון טוקנים בבת אחת. הוא זמין בפלטפורמה של Inception וגם ב-OpenRouter, ב-Baseten וב-Vercel, ומשתמש באותו API כמו המודלים של OpenAI, כך שלדברי החברה מעבר אליו דורש מעט עבודה.

למה זה חשוב

בפברואר השיקה Inception את Mercury 2, שלדבריה היה מודל הדיפוזיה הראשון שמבצע הסקה בשלבי ביניים לפני שהוא עונה. לפני כן גייסה 50 מיליון דולר, בין השאר מזרועות ההשקעה של אנבידיה (NVentures), מיקרוסופט (M12) ו-Snowflake. גם גוגל עובדת על הגישה הזו: אחרי הדגמת Gemini Diffusion היא שחררה ביוני את המודל הפתוח DiffusionGemma.

נראה שהשאלה כבר אינה אם מודלי דיפוזיה יכולים לייצר טקסט, אלא אם הם יכולים להתחרות באיכות ולא רק במהירות. אם הנתונים של Inception יעמדו בבדיקות עצמאיות, ייתכן שזו נקודת מפנה עבור אפליקציות שבהן כל שנייה של המתנה פוגעת בחוויה. עד אז מדובר בטענות של החברה בלבד.