מיקרוסופט חושפת את Maia 300 ומתכננת להרחיב את מערך שבבי ה-AI שלה לפריסות של כמה ג'יגה-וואט
מיקרוסופט חשפה את Maia 300, מערכת ה-AI מהדור השלישי שהיא מפתחת בעצמה, ולפי ההודעה הרשמית היא מתכוונת להרחיב את תשתית Azure Maia לפריסות בהיקף של כמה ג'יגה-וואט החל מהשנה הבאה. הפריסה בייצור צפויה להתחיל ב-2027. לפי החברה, המערכת תפיק כ-40% יותר טוקנים לכל מגה-וואט ממערכות GPU מובילות.
מיקרוסופט חשפה ב-12 באוקטובר את Maia 300, הדור השלישי של מערכת ה-AI שהיא מפתחת בעצמה ל-Azure. במקביל הודיעה שהיא מתכוונת להרחיב את תשתית Azure Maia לפריסות בהיקף של כמה ג'יגה-וואט. ההודעה הרשמית בבלוג של מיקרוסופט נקראת "Microsoft to expand Azure Maia system to multi-gigawatt deployments", וכך מדווח גם באתר Let's Data Science. לפי דיווח נוסף על ההודעה, ההרחבה צפויה להתחיל בשנה הבאה. Maia 300 עצמה אמורה להיכנס לפריסה בסביבות ייצור ב-2027.
מה מיקרוסופט הציגה
מיקרוסופט מציגה את Maia 300 כמערכת שתוכננה קודם כול ל-inference, כלומר להרצת מודלים קיימים כדי לענות למשתמשים, ולא לאימון מודלים. לדבריה, זו מערכת שלמה ולא רק שבב. היא משלבת עיבוד, זיכרון, תקשורת ותוכנה, ומיועדת לעומסים שדורשים הרבה זיכרון ורגישים לזמני תגובה: שירותי שיחה, הסקה על הקשרים ארוכים (long-context) ומשימות רב-שלביות של סוכני AI.
לפי המפרט שפרסמה החברה, לכל מאיץ יש שמונה ערימות זיכרון HBM4 עם רוחב פס שיא של 18.0 TB/s, בהספק תכנוני (TDP) של 950 וואט. ארון (rack) מלא של 96 מאיצים יכלול 27.6 TB של זיכרון HBM ורוחב פס מצטבר של 1.7 PB/s. שבבוני העיבוד (chiplets) מיוצרים בתהליך N2P של TSMC. הארכיטקטורה מפרידה בין עיבוד, בקרת זיכרון וקלט/פלט לשבבונים נפרדים, כך שכל רכיב מיוצר בטכנולוגיה שמתאימה לתפקידו.
המספרים שמאחורי ההבטחה
מיקרוסופט צופה ש-Maia 300 תפיק כ-40% יותר טוקנים לכל מגה-וואט ממערכות מובילות מבוססות GPU. טוקנים הם יחידות הטקסט והמידע שמודלי שפה מעבדים כשהם מייצרים תשובה. החברה צופה גם שבתצורה המלאה של 96 מאיצים, תפוקת הטוקנים ברמת הארון תהיה גבוהה עד פי שבעה מזו של הדור הקודם, Maia 200.
חשוב לזכור שאלה תחזיות ומפרטים של היצרנית, ולא מדדים שנבדקו באופן עצמאי. התוצאות בפועל תלויות במודלים ובעומסים שייבחרו להשוואה.
Maia 200 כבר מריצה עומסי ייצור, ביניהם Microsoft Copilot. מיקרוסופט מתכננת להרחיב את השימוש בה גם ל-GitHub Copilot ול-Microsoft Foundry.
למה זה חשוב
ההודעה על פריסות של כמה ג'יגה-וואט היא החלק החדש בסיפור. ג'יגה-וואט הוא היקף חשמל ברמה של תחנת כוח, והוא הפך ליחידת המידה שבה ענקיות הענן מתארות היום את בניית מרכזי הנתונים שלהן. המשמעות, ככל הנראה, היא שמיקרוסופט כבר לא רואה ב-Maia פרויקט ניסיוני, אלא רכיב מרכזי בתשתית העתידית שלה. לפי הדיווחים, היעד לטווח הארוך הוא שהשבבים מתוצרתה יהיו התשתית העיקרית להרצת AI במוצרים ובשירותים של החברה.
עד היום מיקרוסופט נשענה במידה רבה על מעבדים של ספקים חיצוניים, ובהם אנבידיה ו-AMD. ב-The Verge מסגרו את ההכרזה כצעד שמפחית את התלות של מיקרוסופט ב-GPU של אנבידיה. עם זאת, החברה ממשיכה לתאר את התשתית שלה כהטרוגנית, כלומר כזו שמשלבת חומרה מכמה מקורות. מההודעה לא עולה שמיקרוסופט תפסיק לקנות חומרה של אנבידיה.
עבור לקוחות הענן, ההערכה היא שהשיפור ביעילות יכול להגדיל את כושר העיבוד הזמין. השאלה אם החיסכון יתורגם למחירים נמוכים יותר תלויה בעלויות הפריסה, בביקוש ובהחלטות התמחור של מיקרוסופט. תמונה ברורה יותר צפויה להתקבל רק כש-Maia 300 תתחיל לפעול בעומסים אמיתיים ב-2027.