לפי דיווח: PS5 פרוץ מריץ את Qwen 3.8 27B, מודל שפה גדול על קונסולת משחקים, ב-20 טוקנים בשנייה
אפליקציית homebrew חדשה בשם PS5LM Plus מאפשרת להריץ מודלי שפה מקומיים על המעבד הגרפי של PS5 פרוץ. לפי דיווח שהופץ ברשתות, Qwen 3.8 27B של עליבאבא רץ על הקונסולה בקצב של כ-20 טוקנים בשנייה. זו הדגמה יצירתית של מה שאפשר לעשות עם חומרה ביתית, ולא בהכרח איום על סוני.
קונסולת PlayStation 5 פרוצה מריצה עכשיו מודל שפה גדול. אפליקציית homebrew חדשה בשם PS5LM Plus (homebrew היא תוכנה שמפתחים עצמאיים כותבים לקונסולות בלי אישור היצרנית) מריצה מודלי שפה מקומיים על המעבד הגרפי (GPU) של הקונסולה. לפי דיווח שהופץ ברשתות החברתיות, המודל Qwen 3.8 27B רץ עליה בקצב של כ-20 טוקנים בשנייה.
מה בדיוק רץ שם
לפי הכתבה באתר Gameranx, התיאור של PS5LM Plus באתר homebrew.page מבטיח הרצה של מודלים בפורמט GGUF באמצעות llama.cpp, ספריית הקוד הפתוח הנפוצה להרצת מודלים על חומרה ביתית. האפליקציה כוללת גם לוח בקרה שמוצג על מסך הטלוויזיה, אפשרות להוריד מודלים, ממשק צ'אט ו-API שתואם ל-OpenAI. במילים אחרות, מחשבים אחרים ברשת הביתית יכולים לפנות לקונסולה כאילו הייתה שרת AI.
את הממצא הפיץ משתמש בשם chasm, ו-Gameranx מצטט את הפוסט שלו: "מישהו פרץ PS5 והריץ את Qwen 3.8 27B על ה-GPU שלה ב-20 טוקנים לשנייה. זה מודל AI אמיתי של 27 מיליארד פרמטרים שרץ מקומית על קונסולת משחקים". לדבריו, אותו מודל שרץ על המעבד הראשי (CPU) של הקונסולה הפיק בערך טוקן אחד בדקה. המספרים האלה מגיעים מהפוסט ולא ממדידה עצמאית. גם פרטים כמו רמת הדחיסה (quantization) של המודל לא פורסמו.
למה דווקא Qwen 3.8 27B
Qwen היא משפחת מודלים בקוד פתוח של עליבאבא, והגרסה 3.8 27B זוכה להערכה רבה בקהילת המודלים המקומיים. לפי סקירה ב-XDA Developers, חברת Artificial Analysis מדרגת אותו כמודל ה-open-weights (מודל שהמשקולות שלו פתוחות להורדה) המוביל בקטגוריית הגודל של 4 עד 40 מיליארד פרמטרים, מתוך 135 מודלים. הוא קיבל ציון 52 במדד האינטליגנציה של החברה.
לשם השוואה, כותב XDA הריץ את אותו מודל על תחנת עבודה ייעודית של לנובו מבוססת שבב GB10 של אנבידיה, עם 128GB של זיכרון מאוחד. בלי אופטימיזציות הוא קיבל 15 עד 30 טוקנים בשנייה, ועם הגדרות מתקדמות הגיע לכ-50. אם המספרים מה-PS5 מדויקים, הקונסולה נמצאת בטווח של מחשב עבודה ייעודי שלא עבר אופטימיזציה. זה לא מעט בשביל מכשיר שתוכנן להריץ משחקים.
משבר לסוני? כנראה לא
ב-Gameranx מיהרו להכריז על "משבר אמיתי" לסוני. הטענה שם היא שחברות AI עלולות לקנות קונסולות בכמויות ולהעביר אותן לחוות שרתים, וסוני לא תרוויח מהן הכנסות מתוכנה. chasm עצמו קשר את העניין לעליית מחירי הזיכרון ולמחסור בכרטיסי גרפיקה מתקדמים, וסיכם בבדיחה: "PS5 מגיעה לדאטה-סנטר לידך".
סביר להניח שזו בעיקר הגזמה. הרצה כזו דורשת פריצה של הקונסולה, שסוני נוהגת לחסום בעדכוני תוכנה. היא תלויה בכלי homebrew לא רשמיים, ו-20 טוקנים בשנייה על מודל בינוני רחוקים מהיקפים של דאטה-סנטר.
הערך של הסיפור הוא בהדגמה עצמה. המעבדים הגרפיים בקונסולות הם חומרה חזקה, ומודלים פתוחים קטנים יחסית כבר מספיק טובים כדי שמישהו ירצה להריץ אותם על כל מכשיר שמונח בסלון. זה הניסוי שהקהילה עשתה כאן, ככל הנראה רק כי זה היה אפשרי.