אנבידיה פותחת את תכנון מתלי Vera Rubin לתעשייה בכנס OCP
בכנס Open Compute Project בסן חוזה תרמה אנבידיה לארגון את תכנוני המתלים ומגשי המחשוב של Vera Rubin, במסגרת ארכיטקטורת MGX הפתוחה. במקביל הוכרזו שיתופי פעולה עם מטא, סיסקו וגוגל, ונחשף מתלה CPU חדש שמיועד לסוכני AI. ההודעה פורסמה בבלוג הרשמי של החברה, ולכן יש בה גם מרכיב שיווקי.
אנבידיה הודיעה בכנס Open Compute Project (OCP) Global Summit, שמתקיים במרכז הכנסים McEnery בסן חוזה, כי תרמה לארגון תכנונים מרכזיים של המתלים (racks) ושל מגשי המחשוב בפלטפורמת Vera Rubin. התרומה נעשתה דרך MGX, ארכיטקטורה פתוחה של אנבידיה לבניית שרתים. לדברי החברה, המטרה היא לתת ליצרני מערכות בסיס משותף לבניית הדור הבא של "מפעלי AI", כלומר מרכזי נתונים שמוקדשים לאימון מודלים ולהרצתם.
ההכרזה מגיעה בשלב שבו, כלשון אנבידיה, מפעלי AI גדלים "ממגה-וואטים לג'יגה-וואטים". החברה טוענת שבקנה מידה כזה מחשוב מתקדם כבר לא מספיק, ושתקנים פתוחים מאפשרים לתעשייה לבנות תשתיות מהר יותר, ביעילות רבה יותר ובאמינות גבוהה יותר. חשוב לזכור שהמקור הוא הבלוג הרשמי של אנבידיה. החברה מציגה את "הפתיחות" כתרומה לתעשייה, אבל ככל הנראה היא גם מקדמת אותה כדרך להפוך את התכנון שלה לסטנדרט שכל השוק בונה סביבו.
מה יש במפרט החדש
לפי ההודעה, מפרט MGX 1.2 המעודכן מיועד למפעלי AI מבוססי Vera Rubin. הוא כולל קירור נוזלי שמתחבר אוטומטית עם הכנסת הרכיב למתלה (blind-mate), תשתית קישוריות שמתאימה בין ספקים שונים, ומוט הולכה (busbar) מקורר בנוזל לזרם של 5,000 אמפר. המפרט תומך גם בציוד בתקן 19 אינץ', במגשי מחשוב בלי מאווררים ובמתלים בהספק של עד 250 קילוואט. אנבידיה מוסיפה שהתכנון מקצר את זמני ההרכבה, הבדיקה והתחזוקה.
המפרט הוא חלק מעיצוב ייחוס (reference design) מהדור השלישי של MGX, שאנבידיה ושותפות נוספות בתעשייה תרמו במסגרת יוזמת Open DC של OCP. הוא משולב בטכנולוגיות קירור נוזלי פתוחות בשם MQD ו-MQDB.
מתלה CPU לעידן הסוכנים
אחד הפרטים הבולטים בהודעה הוא מפרט למתלה שמבוסס על מעבד Vera CPU. לפי אנבידיה, Vera Rubin NVL72 נשאר הבסיס לאימון ולהסקה (inference) בקנה מידה גדול, ואילו מתלה ה-CPU נועד לתמוך בקריאה לכלים (tool calling), בתזמור (orchestration) ובהרצה בסביבה מבודדת (sandboxed execution). אלה המשימות שסוכני AI מבצעים כשהם פועלים מול אפליקציות, נתונים ושירותים בזמן אמת. ההפרדה הזו מרמזת, ככל הנראה, שאנבידיה צופה ביקוש נפרד לחומרה שתריץ את "סביבת העבודה" של הסוכנים, לצד המאיצים שמריצים את המודלים עצמם.
השותפויות
בכנס הוכרזו גם כמה מהלכים עם חברות אחרות:
- מטא ואנבידיה קידמו רשתות AI פתוחות סביב כרטיסי Spectrum-X Ethernet SuperNIC ו-Spectrum-6.
- סיסקו ואנבידיה הכריזו על תקן USFP. לפי ההודעה, זה המודול הראשון בתעשייה לרשתות שמבוססות על 400Gb/s.
- גוגל ואנבידיה הודיעו על תמיכה בפרוטוקול Falcon Transport בכרטיסי ConnectX-10 SuperNIC ובמעבדי BlueField DPU עתידיים.
- Visionbay הציגה תכנון למפעל AI שעובד בזרם ישר של 800 וולט.
בנוסף פרסמו אנבידיה וספקיות ענן גדולות (hyperscalers) תקנים פתוחים לתכנון מפעלי AI ולעמידות רשת החשמל. אנבידיה גם הרחיבה את DSX OS, שכבת התפעול של פלטפורמת DSX, ברכיבי open source חדשים לניהול רשתות, אימות אשכולות, ניהול מתלים והקצאת שרתים פיזיים (bare metal). אחד מהם הוא NVIDIA Config Manager, שמבצע אוטומציה של הגדרות מתגים בקנה מידה גדול.
למה זה חשוב
איאן באק, סגן נשיא אנבידיה לתחומי hyperscale ומחשוב עתיר ביצועים, הציג בכנס תשתית פתוחה כרכיב קריטי בהרחבת מפעלי AI ברחבי העולם. המשמעות המעשית היא שכאשר מפרטי מתלים, קירור והזנת חשמל הופכים לתקנים משותפים, יצרני שרתים ומפעילי מרכזי נתונים יכולים לבנות תשתית בלי לפתח כל רכיב מאפס. הדבר עשוי לקצר את זמני ההקמה. מנגד, כשהתקן נשען על ארכיטקטורה של אנבידיה, הוא עשוי גם לחזק את מעמדה של החברה במרכז האקוסיסטם. הנתונים שמציגה החברה, כמו 250 קילוואט למתלה ופס זרם של 5,000 אמפר, ממחישים כמה צפוף ותובעני הפך מרכז הנתונים בעידן ה-AI.