NVIDIA חושפת SoL-Pi: מנגנון שגילתה בינה מלאכותית חוסך עד 49% מהטוקנים של סוכני קוד

חוקרים ב-NVIDIA פרסמו SoL-Pi, חבילה של ארבעה מנגנוני harness (שכבת התיווך שמנהלת את האינטראקציה בין סוכן הקוד למודל השפה ולסביבת העבודה) עבור Pi, סוכן קוד בקוד פתוח. הייחוד במנגנונים הללו הוא מקור הגילוי שלהם: הם לא תוצר של הנדסה ידנית, אלא נמצאו על ידי בינה מלאכותית שהריצה לולאות מחקר אוטומטיות (auto-research loops) על פני 535 סביבות עבודה שונות, כך לפי הדיווח ב-MarkTechPost.

התוצאות, שנמדדו על מבחן הייחוס EdgeBench, מראות צמצום של 44.7% עד 49% בכמות הטוקנים שהסוכן צורך במהלך ביצוע משימות, ולצד זה ירידה של כשליש (כ-33%) בעלות קריאות ה-API בפועל. הפער בין שיעור החיסכון בטוקנים לשיעור החיסכון בעלות נובע מכך שמדובר במדדים שונים — לא כל טוקן נחסך מתורגם ישירות לאותו שיעור חיסכון כספי, בהתאם למבנה התמחור של המודלים. חשוב לא פחות: הירידה בצריכת המשאבים לא באה על חשבון האיכות באופן משמעותי — הסוכן שמר על כ-94% מהציון שהשיג Pi המקורי, במבחנים שנערכו הן מול GPT-5.6 Sol והן מול Opus 5.

מה זה בעצם אומר

סוכני קוד — כלים שמריצים משימות תכנות באופן אוטונומי, לא רק עונים על שאלות בודדות — נוטים "לבזבז" טוקנים רבים: הם קוראים קבצים שלמים, מריצים פקודות בדיקה חוזרות, ומייצרים היסטוריית שיחה ארוכה שנשלחת שוב ושוב למודל בכל צעד. ככל שמשימה מתארכת, כך עולה גם החשבון. זו הסיבה שהעלות בפועל של הרצת סוכן קוד יכולה להיות גבוהה משמעותית מהעלות של שיחה רגילה עם צ'אטבוט.

מה שמבדיל את SoL-Pi הוא לא רק התוצאה המספרית, אלא השיטה: מנגנון אוטומטי חיפש בעצמו, על פני מאות סביבות, אילו שינויים בתהליך העבודה של הסוכן — כלומר באופן שבו הוא קורא ל-harness, מנהל את ההקשר שלו או בוחר מתי לבצע פעולות — מצמצמים בזבוז מבלי לפגוע בביצועים. ככל הנראה, גישה כזו מייצגת כיוון שבו חברות בינה מלאכותית מתחילות להשתמש במודלים כדי לייעל את התשתית שמריצה מודלים אחרים, ולא רק לפתור משימות עבור משתמש קצה.

המשמעות המעשית, אם הממצאים יתקיימו גם מחוץ למעבדה, היא הוזלה של אחד ההוצאות התפעוליות הכבדות ביותר בהרצת סוכני קוד בסביבות ארגוניות — עלות קריאות ה-API שנצברת ככל שסוכן עובד על משימה מורכבת. מכיוון ש-Pi הוא סוכן בקוד פתוח, המנגנונים שפורסמו עשויים להיות זמינים לבדיקה ואימוץ על ידי מפתחים אחרים, אם כי בשלב זה מדובר בתוצאות שדווחו על ידי הגורם שפיתח את השיטה, ומבחני עצמאיים נוספים עשויים לספק תמונה מלאה יותר.