דיווח: טנסנט מציגה את Hy4 flash, מודל של 224 מיליארד פרמטרים שרק 12 מיליארד מהם פעילים
טנסנט מציגה את Hy4 flash, גרסה זולה של מודל הדגל שלה: 224 מיליארד פרמטרים שרק 12 מיליארד מהם פעילים בכל טוקן, וחלון הקשר של מיליון טוקנים. כך עולה מציטוט של הודעת החברה שמופץ ברשת ועדיין לא אומת מול מקור רשמי. מחיר מדויק ומועד לשחרור המשקלים לא פורסמו, כך שעדיין אי אפשר לדעת אם המודל באמת ירוץ על חומרה זולה.
טנסנט מציגה את Hy4 flash, מודל עם 224 מיליארד פרמטרים שרק 12 מיליארד מהם פעילים בעיבוד כל טוקן, כך לפי ציטוט מהודעת החברה שמופץ ברשת. את הנוסח לא הצלחנו לאמת מול פרסום רשמי של טנסנט, ולכן המספרים שלהלן הם בגדר דיווח לא מאומת. עצם קיומה של גרסת Flash כן מאושר: בהשקת Hy4 ב-4 בנובמבר נמסר, לפי SiliconANGLE, שהיא תשוחרר "בקרוב" ותהיה חסכונית יותר למשתמשים.
מה ידוע על המודל
לפי הנוסח המצוטט, טנסנט מתארת את Hy4 flash כמודל המשתלם ביותר במשפחת Hy עד כה. מתוך 224 מיליארד הפרמטרים, 64 מיליארד מוגדרים "פרמטרי Engram", מונח שהמקורות שבידינו אינם מסבירים. כמו Hy4, המודל רב-מודלי מלידה, כלומר מעבד גם תמונות ולא רק טקסט, וחלון ההקשר שלו הוא מיליון טוקנים. מחיר ה-API מתואר כ"נמוך משמעותית", בלי מספר.
לשם השוואה: Hy4 עצמו עולה כ-90 סנט למיליון טוקנים של קלט, 2.70 דולר למיליון טוקנים של פלט ו-4.5 סנט למיליון טוקנים של קלט שמור במטמון. Hy4 Preview, שיצא ב-28 באוגוסט, כלל 770 מיליארד פרמטרים, מהם 49 מיליארד פעילים. אם הנתונים נכונים, Hy4 flash מפעיל בכל טוקן כרבע ממה שהפעילה גרסת ה-Preview.
למה היחס בין 224 ל-12 חשוב
במודלים מהסוג הזה רק חלק קטן מהפרמטרים משתתף בחישוב של כל טוקן. מספר הפרמטרים הפעילים קובע בעיקר את מהירות התגובה ואת עלות החישוב, ומספר הפרמטרים הכולל קובע כמה זיכרון צריך כדי לטעון את המודל.
מכאן ההערכה בקהילת המפתחים שמריצים מודלים מקומית שאפשר יהיה להפעיל את Hy4 flash על מחשבים "טובים למדי", ולא רק על שרתים יקרים. זו הערכה של משתמשים ולא התחייבות של טנסנט. גם מודל שמפעיל רק 12 מיליארד פרמטרים צריך להחזיק 224 מיליארד בזיכרון, ולכן הדרישות בפועל יתבררו כנראה רק כשהמשקלים והגרסאות הדחוסות שלהם יהיו זמינים.
הרקע: Hy4 המלא
Hy4, מודל הדגל, הוסיף לראשונה יכולות ראייה ו-computer use, כלומר הפעלת מחשב דרך שורת הפקודה וממשקים גרפיים, כולל תוכנות מקצועיות כמו Blender ותוכנות CAD. כך דיווח WinBuzzer. לדברי טנסנט, המודל דורג ראשון מבין מודלי המשקלים הפתוחים בהערכה עיוורת של 579 משימות פיננסיות, שבה השתתפו 213 מומחים. במבחני פיתוח המשחקים הפנימיים הוא השתפר ב-19.1% ב-GameDev וב-9.8% ב-GameLogic לעומת ה-Preview, אבל נתוני הבסיס לא פורסמו.
Hy4 זמין כבר עכשיו ב-Tencent Cloud TokenHub, ב-WorkBuddy, ב-CodeBuddy וב-Yuanbao, וגם דרך OpenRouter. את המשקלים ואת ה-system card הבטיחה החברה לפרסם "בימים הקרובים". למשקלים של Hy4 flash לא נמסר מועד.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות