ChatGPT ו-Codex יחלקו מכסת טוקנים אחת: מה משתנה מדצמבר למנויים של OpenAI
מדצמבר יקבלו מנויי Plus, Pro ו-Business של OpenAI מכסת טוקנים אחת, שתשמש גם את ChatGPT וגם את Codex. המכסה תתרוקן מהר יותר כשמשתמשים במודלים מורכבים, ולפי הערכת The Decoder משתמשים כבדים במסלולים הזולים צפויים לקבל תוצאות באיכות נמוכה יותר.
OpenAI משנה את האופן שבו היא סופרת את השימוש של המנויים שלה. החל מדצמבר יקבלו מנויי Plus, Pro ו-Business מכסה אחת מבוססת טוקנים, משותפת ל-ChatGPT ול-Codex, כלי התכנות של החברה. כך עולה מדף תמיכה מעודכן של OpenAI, כפי שדיווח האתר The Decoder. השינוי מגיע עם המיזוג בין מצבי Chat ו-Work, שבמסגרתו יכולות ה-agent (סוכן שמבצע משימות בעצמו) של Work יעברו לממשק הראשי של ChatGPT.
איך תעבוד המכסה החדשה
OpenAI כבר הודיעה בעבר על כוונתה למזג בין Chat ל-Work. העדכון החדש מבהיר מה המיזוג אומר על מגבלות השימוש. טוקנים הם יחידות המידע שהמודל מעבד ומפיק, כלומר בערך חלקי מילים. לכן מודלים מורכבים יותר, ומשימות כבדות יותר, יכלו את המכסה מהר יותר.
לפי הדיווח, המשתמשים יוכלו לראות בהגדרות כמה נשאר להם במכסה ומתי היא מתאפסת. מי שיגיע לתקרה יוכל לבחור בין שלוש אפשרויות: לחכות לאיפוס, לשדרג למסלול יקר יותר או לקנות קרדיטים נוספים.
יש גם חריג: שיחות עם מודלי Instant לא ייספרו במכסה. כך, כותב The Decoder, ChatGPT נשאר "על הנייר" שירות בתשלום חודשי קבוע. עם זאת, להערכת האתר, שימוש אינטנסיבי במסלולים הזולים יוביל ככל הנראה לתוצאות באיכות נמוכה יותר. משתמש שיגמור את המכסה יישאר עם המודלים המהירים והפשוטים, או שיצטרך לשלם יותר.
הכנה מוקדמת והקשר רחב
לפי הדיווח, OpenAI הכפילה לאחרונה את מגבלות השימוש במסלולים היקרים יותר. The Decoder מעריך שהצעד נועד להכין את הקרקע למיזוג. לדעת האתר, המיזוג עצמו הוא ככל הנראה תגובה לביקורת על המורכבות הגוברת של ChatGPT: כיום המשתמשים בוחרים בין שני מצבי עבודה ו-11 הגדרות מודל, הבדלים שגם משתמשים מנוסים מתקשים לעקוב אחריהם.
OpenAI לא לבד בכיוון הזה. לפי הדיווח, אנתרופיק כבר איחדה ב-Claude את Chat ואת "Cowork", מצב העבודה הסוכני שלה.
למה זה חשוב
עד עכשיו המנוי ל-ChatGPT נתפס בעיקר כחבילה במחיר קבוע עם מגבלות שימוש לכל מודל בנפרד. המעבר למכסה אחת מבוססת טוקנים מתקרב, ככל הנראה, למודל של תשלום לפי צריכה: כל משימה "עולה" לפי המשאבים שהיא דורשת, ומי שצורך הרבה ישלם יותר, בשדרוג או בקרדיטים. The Decoder מציין שזה סוף עידן ה-"all-you-can-prompt", כלומר שימוש בלי הגבלה תמורת מחיר קבוע.
למשתמשים הפרטיים המשמעות מעשית: מי שמשתמש גם ב-ChatGPT וגם ב-Codex יצטרך מדצמבר לחלק ביניהם מכסה אחת. גם הבחירה במודל הופכת לשאלה כלכלית ולא רק לשאלה של איכות. מבחינת OpenAI, נראה שהמהלך מנסה לפתור שתי בעיות בבת אחת: לפשט ממשק שהפך מסובך, ולקשור את ההכנסות לעלויות המחשוב בפועל של המודלים הכבדים.