אנתרופיק ו-OpenAI כבר לא מתחרות רק על ביצועים: מירוץ המחירים בשוק מודלי הדגל
אנתרופיק השיקה את Opus 5.5 ו-OpenAI השיקה את GPT-6 Sol ו-Luna, ובשני המקרים ההבטחה המרכזית היא מחיר נמוך יותר, לא קפיצה ביכולות. ככל הנראה המשמעות היא שהלקוחות העסקיים מתחילים לבחור מודל לפי הערך הכלכלי שהוא נותן, ולא רק לפי הביצועים שלו.
אנתרופיק ו-OpenAI השיקו בימים האחרונים מודלים חדשים, ושתיהן הבטיחו פחות או יותר אותו דבר: קצת יותר יכולות תמורת הרבה פחות כסף. אנתרופיק הציגה את Opus 5.5, מודל העבודה המרכזי שלה לתכנות ולעבודת ידע מורכבת. OpenAI הציגה את GPT-6 Sol ו-GPT-6 Luna, הגרסאות החדשות של המודלים הבינוניים והקטנים שלה, שמכוונים ליעילות ולמהירות. לפי Ars Technica, אף אחת מההשקות לא מביאה יכולות חדשות פורצות דרך. שתיהן עוסקות בעיקר ביעילות.
Opus 5.5: המחיר הוא העיקר
לפי ההודעה של אנתרופיק, שמצוטטת ב-Ars Technica, העלות של Opus 5.5 היא 4 דולר למיליון טוקנים (יחידות הטקסט שלפיהן מתומחר השימוש במודל) בקלט, ו-20 דולר למיליון טוקנים בפלט. זה 20% פחות מ-Opus 5. קריאות ממטמון (cache), שלדברי החברה הן רוב העלות בעבודה של סוכנים ובתכנות, עולות 0.20 דולר למיליון טוקנים, 60% פחות מבעבר. בנוסף, לפי החברה המודל מייצר פלט מהר ביותר מ-30%.
אנתרופיק טוענת שבעומסי עבודה טיפוסיים, בהגדרות ברירת המחדל, החיסכון לעומת Opus 5 קרוב יותר ל-40%. הסיבה היא שהמודל גם צורך פחות טוקנים כדי להשלים משימה. לפי מבחני ביצועים של אנתרופיק ושל שותפותיה, Opus 5.5 עוקף בחלק מהמקרים את GPT-6 Astra של OpenAI בתכנות ובעבודת ידע, אבל בפער קטן.
פרט נוסף: המודל נחשב חזק במיוחד בתחומים שמוגדרים "בסיכון גבוה", כמו סייבר וביולוגיה. לכן חלות עליו אותן הגנות שחלות על Fable 5.1. בפועל, בקשה שמסומנת כנוגעת בתחום מוגן עלולה לעבור אוטומטית, ובלי הודעה למשתמש, למודל ישן יותר.
Sol ו-Luna: חצי מחיר
את השקת Sol ו-Luna מתאר Ars Technica כצעד הדרגתי. בתחילת החודש השיקה OpenAI את GPT-6 Astra, המודל החזק והיקר שלה, שלפי הכתבה עקף לפעמים את Opus 5 בפער קטן, גם במבחני ביצועים וגם בתחושת המשתמשים. לפי OpenAI, המודלים החדשים אומנו בשיטות דומות לאלה של Astra. בחלק מהמבחנים הם טובים בכמה נקודות אחוז מהדור הקודם, והשימוש בהם עולה חצי.
המחיר של GPT-6 Sol ב-API הוא 2 דולר למיליון טוקנים בקלט ו-10 דולר בפלט. Luna עולה 0.10 דולר בקלט ו-0.50 דולר בפלט.
למי שמתבלבל בשמות: Astra הוא המודל החזק והיקר ביותר, Sol הוא חלופה יעילה וזולה יותר לשימוש יומיומי, Terra הוא מודל כללי ומאוזן, ו-Luna הוא האפשרות המהירה והזולה. לפי Ars Technica אפשר להציב בערך את Astra מול Fable של אנתרופיק, את Sol מול Opus, את Terra מול Sonnet ואת Luna מול Haiku, אבל ההשוואה לא מדויקת, במיוחד במודלים החזקים.
גם OpenAI מדגישה חיסכון. בסיפור לקוח שפרסמה היא מספרת ש-GPT-6 Astra אפשר לסוכנים של חברת Parallel לחקור ולסכם נתונים על שוק העבודה בחצי מהזמן ובחצי מהעלות, לעומת מודלים קודמים. חשוב לזכור שזה נתון שמגיע מ-OpenAI עצמה.
למה זה חשוב
לפי Ars Technica, שתי החברות מכוונות ללקוחות עסקיים ומתחרות במודלי open-weight, כלומר מודלים שהמשקלות שלהם זמינים לכל אחד. ארגונים כבר בוחנים שינויים בדרך העבודה שלהם ומשתמשים ב-model routers, מערכות שמנתבות כל משימה למודל המתאים, כדי להשתמש פחות במודלי הדגל היקרים ויותר בחלופות זולות.
ב-Ars Technica מעריכים גם שהמודלים עצמם כבר אינם המנוע היחיד של ההתקדמות. תשתיות התזמור (orchestration) וה-harnesses, הסביבות שבתוכן המודלים פועלים, חשובות לפחות באותה מידה. לדברי הכתבה, חלק מהמפתחים והארגונים מתעניינים פחות בחזית היכולות ויותר בשאלה איך מטמיעים את הכלים האלה בעבודה בצורה משתלמת.
ככל הנראה המשמעות היא שלב חדש בשוק. אם בעבר המירוץ נמדד בעיקר בטבלאות מבחני ביצועים, עכשיו גם המחיר למיליון טוקנים והזמן להשלמת משימה נעשים כלי תחרות מרכזיים. לקוחות עסקיים, שמשלמים לפי שימוש, ירוויחו מזה כנראה יותר מכולם.