אנבידיה משיקה גרסת 64GB ל-DGX Spark, מחשב ה-AI השולחני שלה

אנבידיה הכריזה על קונפיגורציה חדשה של DGX Spark עם 64GB זיכרון. DGX Spark הוא מחשב שולחני שהחברה מייעדת לעבודה עם AI, והוא מבוסס על שבב GB10 מסדרת Grace Blackwell. לפי ההכרזה, הגרסה החדשה תגיע משש יצרניות חומרה: Acer,‏ ASUS,‏ Dell,‏ Gigabyte,‏ HP ו-MSI.

להתחיל מיחידה אחת ולהתרחב בהמשך

אנבידיה מציגה את הגרסה החדשה כדרך להתחיל בקטן. מפתח יכול לקנות מערכת אחת ולהריץ עליה מודלים וסוכני AI מקומית. כשהצרכים גדלים, אפשר לחבר שתי יחידות של 64GB לאשכול (cluster), כלומר כמה מחשבים שעובדים יחד כמערכת אחת. כך מקבלים 128GB זיכרון לאורך האשכול וגם יותר כוח מחשוב.

לפי הדיווח ב-MarkTechPost, המכשיר מספק ביצועים של 1 PetaFLOP, כלומר מיליון מיליארד פעולות חישוב בשנייה. הוא מיועד לשלושה סוגי עבודה:

• סוכני AI מקומיים: תוכנות שמבצעות משימות בכמה שלבים ורצות על המחשב עצמו, בלי לשלוח מידע לענן.
• Fine-tuning: אימון נוסף של מודל קיים על נתונים ספציפיים, כדי להתאים אותו למשימה מסוימת.
• Inference: הרצה של מודל מאומן כדי לקבל ממנו תשובות.

למה הזיכרון חשוב

בעבודה עם מודלי שפה גדולים (LLM), כמות הזיכרון קובעת במידה רבה איזה מודל אפשר בכלל לטעון ולהריץ. ככל שמודל גדול יותר, הוא צריך יותר זיכרון. לכן האפשרות לחבר שתי יחידות ולהגיע ל-128GB מכוונת ככל הנראה למפתחים שמתחילים עם מודלים קטנים יחסית ורוצים לעבור בהמשך למודלים גדולים יותר, בלי להחליף את כל החומרה.

מה המשמעות

הגרסה החדשה ממשיכה את מאמצי אנבידיה להביא את סדרת DGX, שמזוהה עם מערכות של מרכזי נתונים, אל שולחן העבודה של המפתח. ההערכה היא שקונפיגורציה עם פחות זיכרון נועדה להוריד את סף הכניסה: מפתחים, סטארט-אפים וצוותי מחקר יוכלו להתחיל עם השקעה קטנה יותר ולהוסיף יחידה רק כשיצטרכו.

לפיתוח מקומי יש כמה יתרונות מוכרים. הנתונים נשארים בתוך הארגון, אין עלות שימוש שוטפת בשירותי ענן, ואפשר לנסות דברים בלי לחכות למשאבים משותפים. במיוחד בתחום הסוכנים, שבו מריצים את המודל שוב ושוב בזמן הפיתוח והבדיקות, מכשיר מקומי עשוי לחסוך לא מעט עלויות.

גם רשימת השותפות הארוכה ראויה לציון. שש יצרניות מוכרות יציעו את המערכת, ולכן היא צפויה להגיע לקהל רחב יותר מזה של מוצר שנמכר רק ישירות מאנבידיה. כנראה שזה גם יאפשר לארגונים לרכוש אותה דרך ספקים שהם כבר עובדים איתם.

בחומרים שפורסמו לא צוינו מחיר או מועד זמינות.