Mistral משיקה Agentic Search: שכבת איתור מידע חדשה למסמכים מורכבים

חברת Mistral AI הכריזה היום, 20 באוגוסט, על השקת Agentic Search — שכבת איתור מידע (retrieval) חדשה שמטרתה לאפשר למערכות AI לנווט, לקרוא ולאמת מידע בתוך מסמכים מורכבים ומרובי מקורות. הכלי זמין דרך Mistral Search Toolkit, ומשולב כברירת מחדל ברכיב Libraries בשתי הסביבות של החברה, Studio ו-Vibe.

מה זה בעצם עושה

לפי החברה, השיטה המקובלת כיום ל-RAG (retrieval-augmented generation) פועלת ב"מעבר אחד": המערכת שולפת קבוצת קטעי טקסט קבועה מראש ומבקשת מהמודל לענות על בסיסם בלבד. גישה כזו נכשלת, לפי Mistral, כשהתשובה דורשת מעבר בין כמה מסמכים, מעקב אחר הפניות, או אימות מידע החבוי בתוך טבלה או הערת שוליים ספציפית — והמודל לא יכול להחליט בעצמו שהוא זקוק למסמך אחר או לקטע נוסף לפני שהוא עונה.

Agentic Search, לעומת זאת, מתפקד כלולאת איתור רב-שלבית, המבוססת על חמישה כלים: search, open, navigate, read ו-grep. המערכת בונה על אינדקסי חיפוש קיימים אצל הארגון, ומאפשרת למודל "להסתכל" בתוך מסמך ארוך, לנווט לסעיף הרלוונטי ולוודא את התשובה — לא רק לשלוף קטע טקסט מנותק מהקשרו.

Mistral מדגישה גם היבט אבטחת מידע: הכלים ניתנים להרצה מקומית (on-premises) או בענן פרטי, כדי לשמור על נתונים רגישים — כמו דוחות כספיים, חוזים משפטיים או מסמכי רגולציה — בתוך גבולות הבידוד הארגוניים, מבלי להעביר אותם למערכות חיצוניות.

מספרים מהבנצ'מרקים

החברה מציגה נתוני ביצועים משני מבחני התייחסות (benchmarks): במבחן FinanceBench, הבודק דיוק על דוחות כספיים, הדיוק עלה מ-26.7% ל-86% — כמעט פי שלושה. במבחן OfficeQA Pro, המתמקד בשאלות מרובות-מסמכים עתירות טבלאות, נרשם שיפור של 45.6 נקודות אחוז, מ-6.3% ל-51.9%.

לצד השיפור בדיוק, Mistral מדווחת גם על ירידה בזמן התגובה (latency) של עד 39.6% ב-p90 (מדד המשקף את 90% המקרים המהירים ביותר), ובצריכת טוקנים — עד כשליש פחות — הודות לצמצום חיפושים חוזרים ומיותרים.

למה זה חשוב

היתרון התחרותי של ארגונים רבים בנוי על נתונים קנייניים — דוחות, חוזים, מסמכים פנימיים — שלרוב שמורים מאחורי הגבלות אבטחה ואינם נגישים בקלות לכלי AI. הפער הזה בין המודלים המתקדמים ביותר לבין הגישה בפועל למידע הרגיש הוא, ככל הנראה, אחד החסמים המרכזיים למימוש הערך של AI ארגוני. אם הנתונים שמפרסמת Mistral אכן משתקפים גם בשימוש בפועל, מדובר בכיוון שמנסה לגשר בין יכולות ההיסק המתקדמות של מודלי השפה לבין היכולת לפעול בבטחה מול מסמכים מורכבים ורגישים — ולא רק מול קטעי טקסט שנשלפו מראש.