היתרון החדש של Nvidia: לא רק שבבי GPU, אלא בקרת תעבורת נתונים חכמה במרכזי הנתונים
בעקבות הדוחות הכספיים שפרסמה Nvidia ביום רביעי, מסתמן שהיתרון התחרותי של החברה בתחום הבינה המלאכותית אינו מוגבל עוד לשבבי הגרפיקה עצמם. ארכיטקטורת Vera Rubin, ובפרט מעבד ה-Vera, משפרת את היעילות באמצעות ניהול חכם יותר של תעבורת הנתונים בתוך מרכז הנתונים - גישה שגם OpenAI מאמצת, בדרך שונה, בשבב Jalapeño שלה.
הנרטיב השולט סביב Nvidia בשנה האחרונה היה נרטיב של דעיכה הדרגתית: החברה שהייתה לתקופה מסוימת הספקית הבלעדית של שבבי ה-GPU המתקדמים ביותר לתחום ה-AI, מתמודדת כיום עם תחרות גוברת מצד ענקיות ענן כמו Amazon ו-Google, שמפתחות שבבים משלהן. השווי השוק של Nvidia טיפס פי עשרה בין תחילת 2023 לאמצע 2025, אך בשנה האחרונה נעה מניית החברה במסלול מתון בהרבה, על רקע חששות המשקיעים מהתחרות הגוברת בתחום ה-GPU, כך דיווח TechCrunch.
אלא שבעקבות דוח הרבעון שפרסמה Nvidia ביום רביעי, מסתמן נרטיב אחר: ככל הנראה, היתרון התחרותי האמיתי של החברה אינו מוגבל עוד לשבב ה-GPU עצמו, אלא נשען יותר ויותר על היכולת לתזמר את זרימת הנתונים סביבו - משימה שהופכת מורכבת יותר ככל שהיקפי החישוב הנדרשים לאימון ולהרצת מודלים גדלים לסדרי גודל של גיגה-ואט.
בפועל אפשר לראות זאת במוצרים ש-Nvidia משווקת כיום. החברה מטמיעה בהדרגה את ארכיטקטורת Vera Rubin, המשלבת את שבב ה-GPU בשם Rubin עם מעבד ה-CPU בשם Vera, יחידת האצה להסקה (inference) בשם Groq 3 LPX, ומדפים (racks) ייעודיים לאחסון ולתקשורת. לפי TechCrunch, מדובר במערכות מתמחות מאוד, שתפקידן אינו עיבוד ישיר של טוקנים אלא הבטחה שכל מה שמסביב לשבב ה-GPU יפעל ביעילות מרבית.
ג'ייסון הארדי, סגן נשיא Nvidia לטכנולוגיית אחסון, הסביר לכתב TechCrunch כי מעבד ה-Vera נועד לפתור בעיה יסודית: "יש גבול לכמות הזיכרון שאפשר להכניס לשרת בודד או לכל פלטפורמת מחשוב". גם כשקיבולת הזיכרון במרכזי הנתונים גדלה - מגמה שהעשירה חברות כמו Micron - האתגר האמיתי הוא להעביר את הנתונים הנכונים אל ה-GPU בזמן הנכון. לדברי הארדי, נרשם שיפור של פי שלושה בפעולות מסוימות הודות להאצה שמספק מעבד ה-Vera, מה שמאפשר לחברות לנצל את מלוא הביצועים של רכיבי אחסון מסוג flash מבלי להיתקל בצוואר בקבוק.
האתגר הזה אינו ייחודי ל-Nvidia. גם OpenAI, שפיתחה לאחרונה שבב בשם Jalapeño, מתמודדת עם בעיה דומה בגישה שונה: צמצום תנועת הנתונים מלכתחילה. בפוסט בבלוג שפרסמה בתחילת החודש כתבה החברה כי השבב "תוכנן כדי לצמצם תנועת נתונים ועיכובי תקשורת", כך שעומס העבודה כולו יכול להישאר בתוך מערכת מחוברת אחת מבלי להעביר נתונים בין רכיבים.
המשמעות, כפי שעולה מהניתוח, היא שנפתח שדה תחרות חדש: לא רק עוצמת חישוב גולמית, אלא ניהול חכם של תעבורת הנתונים בתוך מרכזי הנתונים. זהו יתרון שאינו מובטח מראש גם ל-Nvidia עצמה - החברה תצטרך להתמודד בזירה הזו הן מול יצרני שבבים מתחרים והן מול ענקיות הענן שמפתחות פתרונות משלהן, בדיוק כפי שכבר קורה כיום בשוק ה-GPU.