גוגל ואנבידיה מכניסות את Vera Rubin לענן: מופעי A5X יהיו זמינים לכלל הלקוחות בחודש הבא
Google Cloud ואנבידיה הודיעו שמופעי A5X, המבוססים על מערכת Vera Rubin NVL72, יהיו זמינים לכלל הלקוחות בחודש הבא, ובהמשך גם באירופה. גוגל מתכננת להגיע לעד 960 אלף מעבדי Rubin GPU בכמה אתרים. הלקוחה הראשונה היא Ineffable Intelligence, החברה של דייוויד סילבר, ממפתחי AlphaGo.
גוגל ואנבידיה הודיעו שמופעי A5X בענן של גוגל, המבוססים על פלטפורמת Vera Rubin של אנבידיה, יגיעו לזמינות כללית (General Availability) בחודש הבא. בהמשך החברות מתכננות להרחיב את הזמינות גם לאירופה. זו כניסה של הדור החדש של שרתי ה-AI של אנבידיה לענן ציבורי מסחרי, שבו כל לקוח יכול לשכור אותם.
מה יש בתוך A5X
לפי ההודעה, מופעי A5X משלבים כמה רכיבים: מערכת Vera Rubin NVL72 של אנבידיה, כרטיסי רשת ConnectX-9 SuperNIC, רשת Virgo של Google Cloud, ואת הדור הרביעי של טכנולוגיית קירור הנוזלים של גוגל. החברות מכוונות את המוצר לאימון מודלים, להרצתם (inference) ולמשימות reinforcement learning בקנה מידה גדול. RL היא שיטה שבה מודל לומד מניסוי וטעייה ומהתוצאות של הפעולות שלו. המופעים משתלבים ב-AI Hypercomputer, תשתית ה-AI המשולבת של גוגל, שכוללת מחשוב, רשת ואחסון.
בטווח הארוך, Google Cloud מתכננת להגדיל את התשתית מבוססת Vera Rubin לעד 960 אלף מעבדי Rubin GPU בכמה אתרים. ההודעה לא מפרטת לוח זמנים להגעה להיקף הזה.
הלקוחות הראשונים
הלקוחה הראשונה שקיבלה גישה ל-A5X היא Ineffable Intelligence, חברה לונדונית שהקים דייוויד סילבר, ממפתחי AlphaGo. החברה עובדת על מערכות שהיא מכנה "superlearners", מערכות שלומדות כל הזמן מהניסיון שהן צוברות. "זה דורש גם כוח מחשוב משמעותי וגם חיבור הדוק בין יצירת הניסיון לבין האימון עליו, כך שכל שיפור בסוכן יוכל לעצב במהירות את הניסיון הבא שלו", אמר סילבר. לדבריו, השילוב של ביצועי המחשוב והחיבור המהיר בין מעבד ה-Vera CPU למעבדי ה-Rubin GPU, ובין מעבדי ה-GPU בתוך הארון, מאפשר לחברה להרחיב את היקף מחקר ה-RL שלה.
גם WPP, חברת השיווק והתקשורת הלונדונית, הדגימה על מופעי A5X ארכיטקטורה של סוכנים יצירתיים. הסוכנים מבוססים על מודלי Nemotron של אנבידיה ועל OpenShell, כלי של אנבידיה שמריץ סוכנים בסביבות מבודדות ומפוקחות (sandboxes). הסוכנים הופכים בקשה בשיחה לתהליך עבודה בכמה שלבים, למשל יצירת וידאו, שיפור רזולוציה ושינוי סגנון, וכל פעולה מחכה לאישור אדם לפני שהיא מתבצעת. לפי אנבידיה, בבדיקות הראשונות של WPP, משימות שבדרך כלל דרשו אשכול של כמה שרתים רצו על מופע A5X אחד.
מחשוב חסוי והתייעלות אנרגטית
לצד A5X הודיעה גוגל שתהיה מספקיות הענן הראשונות שיציעו את NVIDIA Confidential Computing ברמת ארון שלם, על שרתים ייעודיים (bare metal) כמו מופעי A4X Max שמבוססים על GB300 NVL72. מחשוב חסוי (Confidential Computing) נועד להגן על מודלים קנייניים ועל מידע רגיש גם כשהם רצים על תשתית שהלקוח לא מחזיק בעצמו. השירות גם זמין עכשיו לכלל הלקוחות במכונות G4 עם כרטיסי RTX PRO 6000 Blackwell Server Edition. לפי ההודעה, החברות Vertebrae, Polaris Cloud ו-Confidential Core AI כבר משתמשות בו.
בנוסף, החברות בודקות את יכולות NVIDIA DSX MaxLPS לתשתית Vera Rubin. המטרה היא לשפר את הביצועים לכל וואט ולהגדיל את הקיבולת בתוך מגבלות החשמל של מרכזי הנתונים.
למה זה חשוב
המעבר מהכרזה על שבב לזמינות כללית בענן הוא השלב שבו טכנולוגיה חדשה עוברת מהמעבדה לשוק. ככל הנראה, המשמעות היא שגם חברות שלא בונות מרכזי נתונים בעצמן יוכלו לשכור את החומרה החדשה. הבחירה של Ineffable ושל WPP כלקוחות לדוגמה מרמזת גם על המקום שאליו גוגל ואנבידיה מכוונות: פחות אימון חד-פעמי של מודל גדול, ויותר מערכות שלומדות כל הזמן וסוכנים שמבצעים משימות בכמה שלבים. ההרחבה המתוכננת לאירופה, יחד עם ההדגשה של מחשוב חסוי, נראית כמענה ללקוחות שדורשים שליטה על המידע שלהם ועל מיקום העיבוד שלו. מצד שני, החיפוש אחר פתרונות להתייעלות אנרגטית מזכיר שהחשמל הופך למגבלה מרכזית על גידול תשתיות ה-AI.