Cloudflare חושפת את Clairic: מודל לחילוץ מידע שמחייב רק על הקלט

חברת Cloudflare חשפה גרסת preview של Clairic, מודל AI ייעודי לחילוץ מידע מטקסט. המודל זמין בפלטפורמת Workers AI של החברה. לפי הדיווח, Clairic מחזיר ערכים מוגדרי טיפוס (typed values) יחד עם ציון ביטחון (confidence score) לכל ערך, והכול ב-forward pass אחד, כלומר במעבר יחיד של הקלט דרך המודל. המחיר הוא 0.10 דולר למיליון טוקנים של קלט, והפלט לא מחויב בכלל.

מה זה "חילוץ מידע", ולמה צריך לזה מודל נפרד

הרבה מהמידע בארגונים נמצא בטקסט חופשי: מיילים, פניות של לקוחות, חשבוניות סרוקות, טפסים וחוזים. כדי להכניס אותו למערכת ממוחשבת צריך קודם לחלץ ממנו שדות מוגדרים, כמו שם, תאריך, סכום או מספר הזמנה. זה בדיוק מה שנקרא חילוץ מידע (extraction).

כיום מפתחים רבים עושים את זה בעזרת LLM כללי. כותבים לו הנחיה (prompt) בנוסח "החזר לי JSON עם השדות האלה" ומקווים שהתשובה תגיע בפורמט הנכון. השיטה עובדת, אבל יש לה מחירים מוכרים: המודל מייצר את התשובה טוקן אחרי טוקן, ולכן לוקח זמן; משלמים גם על טוקני הפלט; ולפעמים הפורמט נשבר או שהמודל ממציא ערך שלא הופיע בטקסט.

לפי התיאור של Cloudflare, Clairic בנוי אחרת: הוא מחזיר את הערכים המובנים ישירות, במעבר אחד. ככל הנראה זו הסיבה שהחברה יכולה לוותר על חיוב הפלט. כשהמודל לא "כותב" תשובה ארוכה, הפלט כמעט לא עולה לה כסף.

"System One" וציוני ביטחון

Cloudflare מגדירה את Clairic כמודל חילוץ מסוג "System One". נראה שהמונח לקוח מהחלוקה המוכרת של הפסיכולוג דניאל כהנמן בין "מערכת 1", חשיבה מהירה ואינטואיטיבית, לבין "מערכת 2", חשיבה איטית ומחושבת. אם זו אכן הכוונה, המסר הוא שהמודל מיועד למשימות מהירות וממוקדות, ולא להסקה מורכבת בכמה שלבים.

ציון הביטחון שמצורף לכל ערך הוא כנראה הפרט המעשי ביותר למפתחים. בעזרתו אפשר לבנות תהליך שבו ערכים עם ביטחון גבוה נכנסים ישר למערכת, וערכים עם ביטחון נמוך עוברים לבדיקה של אדם או למודל כבד יותר. בתהליכי אוטומציה זה ההבדל בין מערכת שאפשר לסמוך עליה לבין מערכת שצריך לבדוק ידנית את כל מה שהיא מוציאה.

משמעות למפתחים

המחיר, 0.10 דולר למיליון טוקנים של קלט בלבד, מכוון בבירור לעבודה בהיקפים גדולים: עיבוד של אלפי או מיליוני מסמכים, מיילים או רשומות. מי שבונה כיום אוטומציות על טקסט חופשי בעזרת מודל שפה כללי עשוי לגלות שמודל ייעודי זול ומהיר יותר מספיק לחלק גדול מהעבודה.

חשוב לזכור שמדובר בגרסת preview. מהדיווח לא ברור באילו שפות המודל תומך, כמה הוא מדויק בהשוואה למודלים אחרים, ומתי הוא יהיה זמין באופן כללי. השאלה הזאת חשובה במיוחד למפתחים ישראלים שעובדים עם טקסט בעברית.

ההשקה משתלבת במגמה רחבה יותר בתעשייה: לא כל משימה צריכה את המודל הגדול והיקר ביותר. משימות צרות ומוגדרות היטב, כמו חילוץ שדות מטקסט, הולכות ועוברות למודלים ייעודיים שזולים ומהירים יותר.