Nvidia הודיעה על הרחבת פלטפורמת NVLink Fusion שלה בטכנולוגיית זיכרון חדשה בשם NVHBM, שמבטיחה עד 30% יותר רוחב פס זיכרון ופחות צריכת חשמל בשבבי AI מותאמים אישית. Annapurna Labs של אמזון הוא השותף הראשון שיעבוד עם הטכנולוגיה, במסגרת שילוב שבבי Trainium4 העתידיים עם תשתית NVLink.
Nvidia הודיעה על הרחבת פלטפורמת NVLink Fusion שלה בטכנולוגיית זיכרון חדשה בשם NVHBM — זיכרון בעל רוחב פס גבוה (high-bandwidth memory) המיועד לשבבי AI מותאמים אישית (XPUs). החברה מציינת כי הטכנולוגיה תאומת ותוצע על ידי שותפי זיכרון מובילים בתעשייה.
בארכיטקטורת HBM המקובלת, בקר הזיכרון יושב על גבי מטריצת השבב (die) עצמו, ותופס שטח סיליקון שיכול היה לשמש לחישוב. ב-NVHBM, לעומת זאת, Nvidia משלבת את בקר הזיכרון הקנייני שלה בתוך מטריצת הבסיס של מחסנית ה-HBM התלת-ממדית, ולא בשבב החישוב עצמו. לפי ההודעה, השינוי הארכיטקטוני הזה מספק עד 30% יותר רוחב פס זיכרון, צריכת חשמל נמוכה ב-15% בזיכרון ה-HBM, ומפנה עד 25% יותר שטח על שבב החישוב בהשוואה לתקן HBM4E הסטנדרטי. Nvidia מציינת כי הטכנולוגיה מבוססת על אותה תשתית שתשמש גם בדורות העתידיים של מעבדי הגרפיקה שלה.
החברה גם מקימה מימוש תקני ל-NVHBM שיהיה זמין ממספר ספקי זיכרון, מה שאמור לצמצם את מאמצי ההנדסה הנדרשים לשילוב ואישור זיכרון מול ספקים שונים — ולפי Nvidia, לקצר את הדרך של לקוחות NVLink Fusion להוצאת שבבי AI מותאמים אישית לשוק.
חטיבת Annapurna Labs של אמזון תהיה הראשונה לעבוד עם טכנולוגיית NVHBM, כחלק משיתוף הפעולה הרחב יותר שלה עם Nvidia סביב NVLink Fusion — שיתוף פעולה ש-AWS כבר הכריזה עליו בעבר. Annapurna Labs תתמוך ב-NVLink Fusion החל מדור השבבים הבא שלה, Trainium4, מה שיאפשר לשבבי אמזון ולמעבדי הגרפיקה של Nvidia לפעול יחד במסגרת ארכיטקטורת מדף משותפת (rack-scale).
"NVHBM מייצגת גישה ארכיטקטונית חדשה לקידום ביצועים ויעילות של זיכרון בעל רוחב פס גבוה," אמר נפע בשארה, סגן נשיא Annapurna Labs באמזון, בהודעה. "אנו מצפים לשיתוף הפעולה הטכנולוגי הזה כדי להיטיב עם תכנוני תשתית AWS העתידיים."
NVLink Fusion מאפשרת לשותפים לחבר שבבי AI ומעבדים מותאמים אישית לפלטפורמת המדף (rack-scale) של Nvidia, תוך גישה לרכיבי NVLink, NVLink-C2C, מתגי NVLink, מערכות NVIDIA MGX וקבוצות רפים, כמו גם מערך רחב של שותפי מעבדים, מעצבי שבבים ויצרני מערכות. לפי Nvidia, המטרה היא לאפשר לחברות ענן וחברות AI להתמקד בפיתוח השבב עצמו, תוך הסתמכות על מחסנית טכנולוגית מוכחת לרשתות, מערכות מדף ותוכנה.
Nvidia מציינת כי הצעד נובע מכך שעומסי עבודה של סוכני AI ומודלים בסדר גודל של טריליון פרמטרים הופכים נפוצים יותר, ודורשים תכנון משותף של חישוב, זיכרון, אחסון ורשת כמערכת אחת. ככל הנראה, המשמעות היא שמפתחי שבבים מותאמים אישית — כמו אמזון — יוכלו לשלב חומרה משלהם עם תשתית Nvidia בצורה הדוקה יותר, מבלי לבנות מאפס פתרונות זיכרון ורשת קנייניים.