דיווח: מי שמריצים AI בבית קונים את ה-RTX 5060 Ti עם 16GB זיכרון

כרטיס מסך זול יחסית של אנבידיה מוצא קהל שלא נועד לו מלכתחילה. לפי כתבה באתר החומרה gamegpu.com מ-8 בנובמבר 2026, משתמשים פרטיים קונים "בהמוניהם" את ה-GeForce RTX 5060 Ti בגרסת 16GB. הם לא קונים אותו בשביל משחקים. הם רוצים להריץ עליו מודלי AI מקומית, כלומר על המחשב שלהם ולא בענן. חשוב לסייג: הכתבה לא מציגה נתוני מכירות, ואת ההיקף של התופעה אי אפשר לאמת כרגע.

למה דווקא זיכרון

כדי להריץ מודל שפה גדול (LLM) על כרטיס מסך, משקלי המודל צריכים להיכנס לזיכרון הווידאו של הכרטיס (VRAM). לפי הכתבה, כרטיסי הדגל של השוק דורשים השקעה של אלפי דולרים. ה-RTX 5060 Ti, כרטיס מהשורה הבסיסית, מציע לדברי האתר "איזון אופטימלי" בין המחיר לבין כמות הזיכרון. הכתבה מציינת גם שבשבב הזה יש יחידות חומרה שמאיצות חישובי מטריצות, סוג החישוב שעליו מבוססות רשתות נוירונים.

להרכיב מכונה מכמה כרטיסים

הכתבה מתארת כמה תצורות. חלק מהמשתמשים מוסיפים את ה-5060 Ti לכרטיס שכבר יש להם, למשל RTX 5070 עם 12GB, ומקבלים יחד 28GB של זיכרון וידאו. בזיכרון הזה הם מריצים את המודל Qwen3.8-Flash-Next בגרסה מכווצת (quantized) מסוג IQ3_S. כיווץ מודל (quantization) מקטין את המשקלים כדי שייכנסו לפחות זיכרון, ובתמורה האיכות נפגעת מעט. לפי הדיווח, גם 28GB לא מספיקים לחלונות הקשר ארוכים, כלומר לכמות הטקסט שהמודל יכול להחזיק בבת אחת.

חובבים אחרים מתקינים במחשב אחד שני כרטיסי 5060 Ti או יותר. יש גם מי שמתכננים לחבר כרטיס שלישי דרך שקע M.2 בממשק החיצוני OCuLink. M.2 הוא השקע שמשמש בדרך כלל לכונני SSD.

הכתבה מתארת גם פתרון תוכנה. התוכנה Strata בגרסה 0.2.10 מעבירה את ה-KV cache אל 64GB של זיכרון RAM רגיל של המחשב. ה-KV cache הוא הזיכרון שבו המודל שומר את ההקשר של השיחה. כך, לפי האתר, אפשר היה להריץ חלון הקשר גדול יותר על שני כרטיסים בלבד. מספרי הטוקנים שמופיעים בכתבה נראים משובשים בתרגום, ולכן לא הבאנו אותם כאן. לדברי האתר, הפתרון הזה פוגע בביצועים בשלב העיבוד המקדים של הקלט, ולכן משתמשים מעדיפים לקנות עוד כרטיס פיזי.

מה המשמעות

לפי gamegpu.com, הקניות של משתמשים פרטיים כבר מרוקנות מלאי אצל קמעונאים. האתר מוסיף ש"מומחי שוק" צופים מחסור גם בדגם הזה, אבל לא מציין מי הם. האתר גם לא מפרסם נתונים שתומכים בטענה.

הכתבה הופצה בקהילת r/LocalLLaMA, פורום של אנשים שמריצים מודלים מקומית. מי שפרסם אותה שם הגיב בקצרה: "Oh look, thats us!" ("תראו, זה אנחנו!"). התגובה מראה שהקהילה מזהה את עצמה בתיאור, אבל היא לא מוכיחה דבר על היקף המכירות.

ככל הנראה המגמה, אם היא אכן מתרחשת בהיקף שמתואר, משקפת שינוי בשוק. מודלי open source (קוד פתוח) משתפרים, וכלי הכיווץ מאפשרים להריץ אותם על חומרה צנועה. לכן, עבור מי שמריץ AI בבית, כמות הזיכרון חשובה ככל הנראה יותר ממהירות העיבוד. המשמעות היא שכרטיס שתוכנן לגיימרים בתקציב מוגבל עשוי להפוך לרכיב מבוקש בבניית מחשבים ביתיים להרצת AI. אם התחזיות על מחסור יתממשו, גם גיימרים שמחפשים כרטיס זול עלולים להרגיש את זה.