אנבידיה מרחיבה את ערכת הסוכנים שלה: חיבור לנתוני הארגון ושליטה במה שהסוכן עושה

אנבידיה הכריזה היום (21 באוקטובר), במסגרת כנס GTC Berlin, על הרחבה של NVIDIA Agent Toolkit. זו ערכת כלים בקוד פתוח (open source) שמיועדת לארגונים שבונים סוכני AI, כלומר מערכות שלא רק עונות על שאלות אלא גם מבצעות פעולות. לפי החברה, הכלים החדשים מאפשרים להתאים סוכנים ולשלוט בהם, להזין אותם בנתוני הארגון, לעקוב אחרי מה שהם עושים ולקבוע כללים לאופן שבו הם פועלים.

אנבידיה מסכמת את הרעיון במשפט אחד: סוכנים מועילים רק במידה שהם יודעים, ואמינים רק במידה שהגבולות שבתוכם הם פועלים ברורים.

מה יש בערכה

הערכה המורחבת כוללת חמישה רכיבים:

• NVIDIA Agent Knowledge Foundation – שכבה חדשה שנועדה להפוך את נתוני החברה למידע שסוכנים יכולים להשתמש בו.
• מודלים פתוחים – Nemotron Retriever ומשפחת Kumo החדשה.
• NVIDIA OpenShell – סביבת הרצה (runtime) מאובטחת לסוכנים.
• NVIDIA NemoClaw – תבניות (blueprints) לבניית סוכנים מאובטחים.
• כלים ויכולות נוספים, ביניהם NeMo Relay ו-NeMo Compass.

הנתונים נשארים במקומם

החידוש המרכזי הוא Agent Knowledge Foundation. לפי הודעת החברה, ארגונים יכולים להשתמש בה בלי להעביר את הנתונים שלהם, בלי לבנות מחדש תהליכי עבודה קיימים ובלי לשנות את מנגנוני הבקרה (governance) שכבר יש להם. כנראה שזה הפרט החשוב ביותר עבור ארגונים, כי העברת מידע רגיש למערכת חדשה היא לרוב המקום שבו פרויקטים כאלה נתקעים מול מחלקות האבטחה והרגולציה.

השכבה נשענת על ספריות CUDA-X של אנבידיה (cuDF, cuGraph, cuML, cuOpt ו-cuVS) ועל ספרייה חדשה בשם Auto-Ontology. הספרייה הזו מתרגמת נתונים גולמיים למושגים עסקיים מוכרים כמו לקוחות, מוצרים והזמנות, וממפה את הקשרים ביניהם. לצדה פועלים Nemotron Retriever ומודלי Kumo Structured (Kumo Tabular, Kumo Relational, Kumo Time Series ו-Kumo Forecast), שעוזרים לסוכנים לאתר מידע רלוונטי, לענות על שאלות ולבצע תחזיות.

הגבולות

בצד הבקרה, OpenShell משמשת לדברי אנבידיה כגבול ההרצה המאובטח: היא נותנת לארגון שליטה במה שהסוכנים יכולים לגשת אליו ובמה שהם יכולים לעשות. תבניות NemoClaw הן תכנוני ייחוס לבניית סוכנים מאובטחים וייעודיים. התבנית החדשה ביותר עוסקת באופטימיזציה, ומציעה נקודת פתיחה מסודרת לשיפור הסוכנים לאורך זמן.

מי כבר משתמש

אנבידיה מונה כמה שותפים שכבר עובדים עם השכבה החדשה. מחלקת שרשרת האספקה של אנבידיה עצמה משתמשת בה דרך Foundry, Ontology ו-AIP של Palantir. Databricks משלבת את Kumo Anomaly עם Genie Ontology, ו-Snowflake מאפשרת ללקוחותיה להשתמש ב-Kumo Engine וב-Kumo Relational בסביבת Snowflake Notebook.

החברה מציגה גם נתוני ביצועים של Nemotron Retriever, ויש לזכור שאלה נתונים שהיא עצמה מפרסמת. לפיהם, Amazon OpenSearch Service שיפר את הרלוונטיות של תוצאות החיפוש בפחות שלבי חיפוש וכמעט בלי תוספת השהיה. מודל דירוג מחדש (reranker) מכוונן של SAP רץ מהר כמעט פי 3, ו-ServiceNow שיפרה את איכות הדירוג וקיצצה את זמן ההשהיה בכמעט רבע. גם Zoom משתמשת במודלים לשיפור החיפוש והבנת המסמכים ב-Zoom AI Services. ברשימת החברות שבונות על השכבה מופיעות גם AWS, IBM, Oracle, Dell, Elastic ו-Perplexity, בין היתר.

למה זה חשוב

השלב הבא בשימוש ב-AI בארגונים הוא סוכנים שפועלים בעצמם, ושני חששות מלווים אותו: שהסוכן יפעל על סמך מידע שגוי או חלקי, ושהוא יעשה משהו שאסור לו. ההכרזה של אנבידיה מנסה לענות על שניהם, בהזנה מנתוני הארגון מצד אחד ובגבולות הרצה מוגדרים מצד שני.

אפשר להעריך שבחירה בקוד פתוח ובשילוב עם פלטפורמות שארגונים כבר עובדים איתן נועדה להוריד את המחסום לאימוץ. ועדיין, ההכרזה מתארת יכולות ולא תוצאות בשטח. השאלה אם הבקרות האלה מספקות את האמינות שארגונים דורשים תוכרע רק כשהן יעבדו בהיקף רחב.