אנבידיה משיקה את Minerva: פלטפורמת AIOps לניטור "מפעלי AI"
אנבידיה השיקה את Minerva, פלטפורמת AIOps שמאחדת טלמטריה מהחומרה ומעומסי ה-AI במרכזי נתונים ומנתחת אותה בעזרת מודלים ייעודיים, כדי לאתר תקלות מוקדם יותר. IREN כבר משתמשת בפלטפורמה, ובין החברות שמתכננות לפרוס אותה נמצאות IBM, Lambda ו-Tesla.
אנבידיה השיקה היום (22 באוקטובר) את Minerva. זו פלטפורמת AIOps, כלומר מערכת שמשתמשת ב-AI לתפעול תשתיות IT, והיא מיועדת למה שהחברה מכנה "מפעלי AI": מרכזי נתונים עצומים שבהם מספר גדול מאוד של מעבדים גרפיים (GPU) מאמנים מודלים ומריצים שירותי AI. Minerva אוספת טלמטריה, כלומר נתוני מדידה שוטפים, גם מהתשתית וגם מעומסי העבודה שרצים עליה, ומפיקה ממנה תובנות שהצוותים יכולים לפעול לפיהן.
הבעיה: רכיב חלש אחד מאט את כל המערכת
לפי אנבידיה, בקנה מידה כזה רכיב יחיד שהביצועים שלו ירדו יכול להאט משימה שלמה. סימני האזהרה עלולים לחמוק מעין: GPU שמתחמם יותר מהמעבדים שלידו, או כונן NVMe שמאבד מהירות תחת עומס. החברה מציינת שכלי ניטור מסורתיים מחלקים את מרכז הנתונים לתצוגות נפרדות. צוותי הרשת, המחשוב, האמינות (SRE) ולמידת המכונה רואים כל אחד חלק אחר של התמונה.
Minerva מחברת את האותות האלה מה-GPU, מהרשת, מהאחסון, ממתזמני המשימות (schedulers) ומעומסי העבודה עצמם. על בסיסם היא בונה גרף ידע (knowledge graph) דינמי, מפה לוגית של הרכיבים (מעבדים גרפיים, כרטיסי SuperNIC, מתגים וכבלים) ושל המשימות שרצות עליהם. לדברי החברה, כך אפשר לאתר את הרכיב שמאט משימת אימון מסוימת, גם במתקן שיש בו מאות אלפי GPU.
מסופת התראות לתקלה אחת
לפי ההודעה, הפלטפורמה מנתחת מיליארדי נקודות מידע בשעה בעזרת למידת מכונה מונחית ובלתי מונחית. היא לומדת מה נחשב התנהגות תקינה, מזהה חריגות שלא נראו קודם, חוזה תקלות מתפתחות ומקשרת בין אירועים לפי מבנה הרשת. במקום להציף את המפעיל בכל סימפטום בנפרד, היא מאגדת "סערת אירועים" לתקלה ממוקדת אחת עם הסיבה הסבירה לה.
ל-Minerva יש עוזר AI מובנה, והיא מתחברת גם לכלי agentic AI חיצוניים, כלומר סוכנים שמבצעים משימות באופן עצמאי. כך המפעילים יכולים לבדוק את מצב האשכול בשפה טבעית ולקבל המלצות לתיקון. כל ארגון יכול לבחור אם אדם יבצע את התיקונים ידנית, או לחבר את המערכת לאוטומציה דרך ממשקי API של התשתית.
אנבידיה מודדת את ההצלחה במדד שהיא מכנה "תפוקת מפעל ה-AI" (AI factory yield). המדד משקלל שעות GPU, goodput (התפוקה המועילה בפועל), זמינות האשכול וכמות הטוקנים שהמערכת מייצרת. לטענת החברה, הפלטפורמה מאריכה את הזמן בין תקלות, מקצרת את זמן התיקון ומסננת את הרעש כך שנשארות רק ההתראות החשובות. ההודעה לא כוללת מספרים שמגבים את הטענות האלה.
מי כבר בפנים
חברת התשתיות IREN כבר משתמשת ב-Minerva. "Minerva נותנת לצוות התפעול שלנו תצוגה אחת של הרשת, ה-GPU והמשימות שרצות עליהם, כך שאנחנו מתמקדים יותר בתחזוקה מונעת ופחות בפתרון תקלות", אמר דניס סקריניקוף, ה-CTO של החברה. Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI ו-Tesla מתכננות לפרוס את הפלטפורמה. Dell Technologies, Lenovo ו-Supermicro יציעו אותה כחלק מסל פתרונות התפעול שלהן למפעלי AI. אנבידיה לא פרסמה מחיר.
למה זה חשוב
המשמעות ככל הנראה היא שאנבידיה מתרחבת משכבת החומרה והתוכנה שמריצה AI לשכבת התפעול של מרכזי הנתונים. זה תחום שבו פועלות היום חברות ניטור ותצפיתיות (observability) ייעודיות. היתרון המובנה של אנבידיה הוא שהיא מייצרת חלק גדול מהרכיבים שהמערכת מנטרת: ה-GPU, כרטיסי הרשת והמתגים. כשכל דקת השבתה של GPU עולה כסף, לקוחות כנראה יעדיפו כלי שמבין את החומרה מבפנים. מנגד, זה עשוי להעמיק עוד יותר את התלות של המפעילים באנבידיה.