Cerebras משיקה את CS-4: שרת חדש שמכפיל את מהירות הרצת המודלים

חברת החומרה Cerebras, המתמחה בשבבים ייעודיים להרצת מודלי בינה מלאכותית, הציגה את הדור החדש של שרתי הענק שלה — CS-4. לפי דיווח בערוץ הטלגרם ai_newz, השרת החדש מאפשר הרצת מודלים במהירות כפולה לעומת הדור הקודם, ומגיע עם היכולת להריץ מודלים בגודל 10 טריליון פרמטרים במהירות של מעל 1,000 טוקנים לשנייה — קצב עיבוד המשמש כאינדיקציה מרכזית ליכולת של מערכת AI לספק תשובות בזמן אמת.

בליבו של כל שרת CS-4 יושבים שלושה שבבי WSE 3 Turbo — גרסה מואצת של שבב ה-WSE 3 המקורי של החברה, שנחשב לאחד השבבים הגדולים בעולם המיועדים ייעודית להרצת מודלים. לפי המקור, Cerebras הכפילה את תדר הפעולה של השבב מ-1.4Ghz ל-2.8Ghz, ובכך הכפילה בפועל גם את רוחב הפס של הזיכרון וגם את כושר החישוב (FLOP/s) של השבב. השילוב בין שני הפרמטרים הללו הוא שמניב, לפי החברה, את הקפיצה במהירות הרצת המודלים.

עם זאת, כמות הזיכרון על גבי כל שבב נותרה ללא שינוי — 44 גיגה-בייט. המשמעות היא שכדי להריץ בפועל מודל בגודל 10 טריליון פרמטרים כפי שהחברה מבטיחה, יידרשו ככל הנראה עשרות יחידות CS-4 המחוברות יחדיו, ולא שרת בודד. מאפיין נוסף שמדגישה החברה הוא המודולריות של העיצוב: כל שבב יושב במודול נפרד המתחבר למערכת הכוללת, מה שאמור לאפשר גמישות רבה יותר בהרכבת תצורות חומרה בהתאם לצרכים.

ההשקה מגיעה על רקע מגמה רחבה יותר בתעשייה, שבה מפתחי מודלים שואפים לבנות מערכות בקנה מידה של טריליוני פרמטרים — כפי שניתן לראות למשל באוסף המודלים של משפחת Qwen בפלטפורמת Hugging Face, הכולל גרסאות בגודל של מעל 2 טריליון פרמטרים. ככל שהמודלים גדלים, כך גדל גם הצורך בחומרה ייעודית שתאפשר להריץ אותם במהירות סבירה למשתמש הקצה, ולא רק לאמן אותם.

עבור חברות המפעילות שירותי AI בקנה מידה גדול, שיפור כזה במהירות ההרצה עשוי להתבטא בעלויות תפעול נמוכות יותר לכל בקשה, ובחוויית שימוש מהירה יותר עבור משתמשי קצה. יחד עם זאת, מכיוון שכמות הזיכרון לשבב לא גדלה, נראה כי היתרון המרכזי של CS-4 טמון בעיקר בשיפור המהירות עבור מודלים בגדלים הקיימים כבר היום, ופחות בפתרון מיידי לאתגר הרצת מודלים ענקיים על יחידת חומרה בודדת.