מהנדס פרטי פיצח שבב AI סיני ובנה לו קומפיילר בקוד פתוח
מהנדס שעובד באופן עצמאי הנדס לאחור את פורמט הרגיסטרים של יחידת ה-NPU בשבב RK3588 הסיני, ובנה קומפיילר וסביבת ריצה בקוד פתוח שמאפשרים להריץ עליו מודלים ישירות מ-PyTorch, ONNX ו-JAX, בלי להזדקק ל-SDK הקנייני של היצרן. בפוסט שפרסם ב-Reddit הוא מדגים הרצת GPT-2 במהירות של 36 טוקנים בשנייה על החומרה הזו.