Infini-AI-Lab משיקה את Hermit: מסגרת קוד פתוח שמשפרת סוכני AI מבחוץ

מעבדת המחקר Infini-AI-Lab פרסמה את Hermit. זו מסגרת קוד פתוח מסוג "harness adapter", שמטרתה לשפר את הביצועים של סוכני AI בלי לגעת בהם עצמם. במקום לאמן מחדש את המודל, Hermit מאמנת שכבה חיצונית שעוטפת את הסוכן. השכבה כוללת הוראות, כישורים (skills), זיכרון וכלים, והיא לומדת מתוך המשוב שהסוכן מקבל על המשימות שהוא מבצע. המסגרת מופצת ברישיון Apache-2.0.

מה זה harness, ולמה לא לגעת בו

סוכן AI הוא יותר ממודל שפה (LLM). סביב המודל יש מעטפת תוכנה, שבתעשייה נקראת harness. המעטפת הזו מנהלת את הלולאה של הסוכן: היא מעבירה למודל את ההנחיות, מפעילה את הכלים שהוא מבקש, מנהלת את ההקשר ומחליטה מתי המשימה הסתיימה. כלי פיתוח מבוססי סוכנים, כמו אלה שמפעילים את Claude או את מודלי GPT, בנויים כולם בשיטה הזו.

לפי הדיווח ב-MarkTechPost, Hermit לא משנה אף אחד משני הרכיבים האלה. המודל נשאר כמו שהוא, וגם ה-harness. מה שמתאמן הוא השכבה שיושבת מעליהם: אילו הוראות מקבל הסוכן, אילו כישורים זמינים לו, מה הוא זוכר ממשימות קודמות ובאילו כלים הוא יכול להשתמש.

למה הגישה הזו מעניינת

בשיטה המקובלת, כדי לשפר סוכן במשימה מסוימת מבצעים fine-tuning, כלומר אימון נוסף של המודל על נתונים ייעודיים. זה תהליך יקר שדורש חומרה ומומחיות. ובמודלים מסחריים סגורים, שאין גישה למשקולות שלהם, אי אפשר לעשות אותו בכלל.

גישה שמשפרת את הסוכן מבחוץ עוקפת את שתי המגבלות. המשמעות, ככל הנראה, היא שארגון יוכל להתאים סוכן קיים לסביבת העבודה שלו גם כשהמודל שמאחוריו נשאר "קופסה שחורה". אפשר להעריך שיש לזה גם יתרון של ניידות: כשהשיפור שמור בשכבה נפרדת ולא במשקולות המודל, אולי יהיה קל יותר להעביר אותו בין גרסאות מודל או לבדוק ולתקן אותו. עם זאת, המקור לא מפרט אם Hermit תומך במעבר כזה בפועל.

הרעיון מתחבר למגמה רחבה יותר בתחום. בשנה האחרונה מושקעת תשומת לב גוברת לא רק בשאלה כמה המודל חזק, אלא גם בכל מה שסביבו: הנדסת הקשר (context engineering), ספריות של כישורים ומנגנוני זיכרון לסוכנים. Hermit מנסה להפוך את הרכיבים האלה, שבדרך כלל נכתבים ומכוונים ידנית, לדבר שאפשר לאמן באופן שיטתי מתוך תוצאות.

מה עוד לא ידוע

המקור הזמין לא כולל תוצאות של מבחני ביצועים, השוואות לשיטות אחרות או פירוט של המודלים וה-harness-ים שהמסגרת נבדקה עליהם. לכן קשה בשלב זה להעריך כמה השיפור משמעותי בפועל. גם השאלה כמה משוב ומשימות צריך כדי לאמן את השכבה החיצונית נותרה פתוחה.

ובכל זאת, רישיון Apache-2.0 הוא רישיון מתירני, שמאפשר שימוש מסחרי, שינוי והפצה. המשמעות היא שמפתחים וחברות יכולים לנסות את Hermit, לבחון אותו על הסוכנים שלהם ולשלב אותו במוצרים. ככל הנראה, הניסיון בשטח הוא שיקבע אם אימון "מבחוץ" יהפוך לחלופה מעשית לאימון המודל עצמו.