דיווח: DeepSeek מתכננת לאמן את V5 על שבבי Ascend של הואווי, לא רק להריץ עליהם
לפי STAR Market Daily הסיני, שמסתמך על כמה מקורות בשרשרת האספקה, DeepSeek מתכננת לבצע את ה-pre-training של המודל הבא שלה, V5, על שבבי Ascend של הואווי. עד היום שימשו השבבים האלה את החברה בעיקר להרצת המודלים. DeepSeek לא אישרה את הדיווח. אם הוא נכון, זה יהיה מבחן ראשון ליכולת לאמן מודל סיני מוביל מאפס על חומרה סינית.
חברת ה-AI הסינית DeepSeek מתכננת לבצע את שלב האימון המקדים (pre-training) של המודל הבא שלה, DeepSeek V5, על שבבי Ascend של הואווי. כך מדווח STAR Market Daily (科创板日报), כלי תקשורת כלכלי-טכנולוגי ששייך לקבוצת התקשורת של שנגחאי ומופק על ידי Cailian Press. לפי הדיווח, הכתבת הואנג שין-יי שמעה זאת מכמה גורמים בשרשרת האספקה של התעשייה. DeepSeek לא אישרה את הדיווח באופן רשמי.
החידוש הוא בהבדל בין אימון להסקה (inference). עד עכשיו שימשו שבבי Ascend את DeepSeek בעיקר להרצת מודלים קיימים, כלומר לענות לשאלות של משתמשים. ה-pre-training, השלב שבו המודל לומד מכמויות עתק של נתונים, הוא המשימה הכבדה והתובענית ביותר בפיתוח מודל שפה גדול (LLM). מבחינה היסטורית הוא נעשה כמעט תמיד על מעבדים גרפיים של אנבידיה.
איך הגענו לכאן
לפי הכתבה, הפריסה הגדולה הראשונה שידועה בפומבי של מודלי DeepSeek על Ascend התרחשה סביב ראש השנה הסיני של 2025. הכתבה מצטטת את הספר "עלייתו של Ascend" (昇腾崛起) מאת פאנג שינג-דונג, סגן הדיקן הבכיר בפקולטה לתקשורת ולתרבות בינלאומית באוניברסיטת ג'ג'יאנג. לפי הספר, ב-28 בינואר 2025 החליטה הנהלת הואווי ש-Huawei Cloud תתמוך במהירות ב-DeepSeek. בין ערב ראש השנה ליום השני של החג נפרסו ונבדקו יותר מ-3,000 שבבי Ascend, והמודלים DeepSeek-V3 ו-R1 הותקנו במרכז הנתונים של Huawei Cloud בגוויאן. עוד נכתב שם שמייסד הואווי, רן ג'נגפיי, ניהל בעצמו לאורך כל החג את ההתמודדות עם "צונאמי התעבורה".
באפריל 2026, אחרי השקת DeepSeek-V4, הודיעה הואווי שכל סדרת שרתי ה-SuperPoD שלה, מערכות שמחברות מספר רב של שבבי Ascend לאשכול אחד, תומכת במודלי V4. DeepSeek עצמה כתבה בעמוד ה-API הרשמי שלה שבגלל מחסור בכוח מחשוב מתקדם, קצב השירות של V4-Pro מוגבל. היא הוסיפה שהיא צופה הורדה משמעותית במחיר של Pro אחרי שה-SuperPoD מדגם Ascend 950 ייצא לשוק בכמויות במחצית השנייה של השנה.
הצעד המשמעותי ביותר עד כה הגיע ב-30 בספטמבר. DeepSeek פרסמה כ-open source סדרת רכיבי תשתית לפלטפורמת Ascend: כלי הקומפילציה TileLang, ספריות חישוב (DeepGEMM, FlashMLA, TileKernel, DeepSelect) וספריית התקשורת המבוזרת DeepEP. לפי הדיווח, כל רכיב מקביל לרכיב שהחברה פרסמה קודם לכן עבור פלטפורמת אנבידיה. הואווי מצידה סיפקה תצורות רשת שהוגדרו במשותף ופתחה את ממשק התכנות Ascend C. המשמעות, לפי הכתבה, היא שהשיתוף בין החברות כבר אינו מוגבל להרצת מודלים, והוא מגיע לשכבת התשתית שמשרתת גם אימון.
המבחן שעוד לא נעשה
הכתבה מציינת שהשימוש בחומרה סינית מתרכז כיום בעיקר בהסקה, ושבצד האימון עוד נדרש שיפור. לאחרונה השלים צוות ממכון Hetao בשנג'ן, יחד עם המכון הטכנולוגי של חרבין (שלוחת שנג'ן), המכון למחקר ביג דאטה של שנג'ן וצוותים של הואווי, post-training מלא לכל הפרמטרים של DeepSeek-V4-Pro, מודל בן 1.6 טריליון פרמטרים, על אשכול שבבי Ascend 910C. אבל גם שם לא בוצע pre-training.
לכן הדיווח על V5 חשוב. לפי STAR Market Daily, אם המודל יאומן מאפס על Ascend, זו תהיה התשובה הראשונה לשאלה אם מודל סיני מוביל יכול להשלים pre-training על חומרה מקומית. עד היום, כך נכתב, היו סביב השאלה הזו רק ספקות.
ככל הנראה המשמעות רחבה יותר מ-DeepSeek עצמה. על רקע מגבלות הייצוא האמריקניות על שבבים מתקדמים, מעבר של אחת ממעבדות ה-AI הבולטות בסין לאימון על חומרה סינית ישקף תלות גוברת של התעשייה הסינית בשבבים מקומיים. הוא גם עשוי לחזק את מעמדה של הואווי כחלופה לאנבידיה. כל זה מותנה בכך שהדיווח יתאמת, וכרגע הוא עדיין מבוסס על מקורות אנונימיים בלבד.