OpenAI משיקה מצב 'Ultrafast' שמריץ את GPT-5.6 Sol פי 14 מהר יותר

חברת OpenAI הכריזה על מצב עבודה חדש בשם Ultrafast, שנועד להאיץ משמעותית את קצב הפעולה של המודל המתקדם ביותר שלה, GPT-5.6 Sol. לפי החברה, המצב החדש יכול לפעול במהירות של פי 14 מעיבוד רגיל, ולספק עד 750 טוקנים בשנייה בפלט — כלומר יחידות הטקסט שהמודל מייצר בתגובה לבקשת המשתמש.

בפוסט שפרסמה ביום חמישי כתבה החברה: "עד כה, השגת מהירות בזמן אמת פירושה בדרך כלל בחירה במודל קטן יותר או מתמחה יותר. Ultrafast מצביע על התקדמות בכיוון חדש: יותר עבודה שימושית בכל שנייה".

המהלך מגיע על רקע תחרות הולכת וגוברת בשוק המודלים השפתיים הגדולים (LLM). מתחרות כמו Anthropic השיקו בעבר גרסאות מואצות משלהן — Claude, למשל, כולל מצב "fast" — אך לפי הדיווח, מהירות זו אינה מתקרבת לרמה שמציעה כעת OpenAI.

החברה מציינת כי הגרסה המהירה של GPT-5.6 Sol מתאימה לשילוב בתהליכי עבודה ארגוניים מגוונים, ובהם טיפול באירועי חירום טכנולוגיים (incident response), שירות ותמיכת לקוחות, ניתוח שווקים פיננסיים ומסחר אלקטרוני. מדובר בתחומים שבהם זמן תגובה קצר עשוי להוות יתרון תחרותי משמעותי עבור ארגונים.

מבחינה טכנית, מצב Ultrafast מופעל הודות לשיתוף פעולה בין OpenAI לחברת השבבים Cerebras, המתמחה בחומרה ייעודית להאצת תהליכי הסקה (inference) של מודלים גדולים. כרגע התכונה מוצעת בשלב תצוגה מקדימה (preview) למספר מצומצם של לקוחות בלבד, כאשר OpenAI מבטיחה להרחיב את הגישה אליה "ככל שהקיבולת תגדל".

המשמעות המעשית של המהלך, ככל הנראה, נוגעת בעיקר לתחרות על לקוחות ארגוניים גדולים, שעבורם מהירות תגובה של מודל AI יכולה להיות קריטית בתרחישים בזמן אמת. השילוב עם חברת שבבים חיצונית כמו Cerebras עשוי לשקף גם מגמה רחבה יותר בענף: חברות מודלים שפתיים מחפשות פתרונות חומרה ייעודיים כדי לצמצם את פערי המהירות מול המתחרות, בלי לוותר על היכולות של המודלים הגדולים והמורכבים ביותר שלהן.