Cloudflare משיקה את Clef: מודלי החלטה שלדבריה מאפשרים לסוכני AI לפעול בלי אדם בתהליך
Cloudflare השיקה את Clef ואת Clef-flash, שני "מודלי החלטה" לסוכני AI. במקום לכתוב טקסט, הם מחזירים הסתברויות לתשובות מוגדרות מראש. החברה מציגה אותם כמתחרים ישירים ל-Jev של TypeSafe AI, ומבליטה בעיקר את המהירות: לפי המדידות שלה, זמן התגובה החציוני של Clef-flash עומד על 39 מילישניות.
Cloudflare נכנסת לתחרות על התשתית של סוכני AI אוטונומיים. החברה השיקה את Clef ואת Clef-flash, שני מודלים שנועדו לקבל החלטות בתוך תהליכים אוטומטיים. לפי Cloudflare, "אדם לא חייב עוד להיות בלולאה בהחלטות של סוכנים". היא ממצבת את המודלים כמתחרים ישירים ל-Jev, המודל של TypeSafe AI שמוביל כיום את התחום.
מה זה בעצם "מודל החלטה"
מודל שפה רגיל (LLM) מחזיר תשובה טקסטואלית חופשית. מודל החלטה מחזיר סיווג קצר עם הסתברויות לכל אחת מכמה תשובות שהוגדרו מראש. הדוגמה של Cloudflare היא הודעה למוקד תמיכה: Clef מעריך עד כמה היא דחופה ולאיזה צוות להעביר אותה. על בסיס הפלט הזה, קוד אחר במערכת יכול לנתב את הפנייה, להסלים אותה או להעביר אותה לנציג אנושי.
לפי Cloudflare, המודלים האלה ממלאים פער בין שני סוגי כלים קיימים. מודלי שפה יודעים להסיק מסקנות ולהפעיל כלים, אבל הפלט שלהם משתנה מהרצה להרצה, ולפעמים הם איטיים. מסווגים קלאסיים מהירים, אבל כל קטגוריה חדשה מחייבת לאמן אותם מחדש. השם Clef לקוח מעולם המוזיקה: מפתח סול או פה קובע את גובה הצלילים שעל החמשה. באותו אופן, מודל ההחלטה קובע את המסגרת לפעולות שיבואו אחריו. הדמיון הצלילי ל-Jev ככל הנראה אינו מקרי.
מירוץ המהירות מול Jev
Cloudflare מתמודדת עם Jev בעיקר על מהירות. לפי המדידות של החברה עצמה, זמן התגובה החציוני של Clef-flash עומד על כ-39 מילישניות, ושל Clef על כ-209 מילישניות. אצל Jev הוא מעט יותר מ-524 מילישניות. Cloudflare טוענת שבכל 43 מבחני ההשוואה שערכה, שני המודלים מהירים יותר מכל מודלי ההחלטה המתחרים הרלוונטיים. לדברי החברה, חלק מהיתרון מגיע מכך שהם רצים ישירות על התשתית של Cloudflare, קרוב למרכזי הנתונים שבקצה הרשת (edge).
גם יתרונות נוספים שהחברה מציגה מכוונים ישירות אל Jev. Clef מעבד גם תמונות, בעוד Jev מוגבל בינתיים לטקסט. חלון ההקשר של Clef מכיל 64 אלף טוקנים, פי שניים מזה של Jev. בנוסף, ה-API של Clef תואם לחלוטין לזה של Jev, כך שלקוחות יכולים לעבור בקלות. המשמעות היא ככל הנראה ניסיון גלוי למשוך את הלקוחות של המתחרה.
חשוב לסייג: כל המספרים מגיעים מ-Cloudflare עצמה. גם בטבלה שהיא פרסמה, Clef לא מוביל בכל מבחן. במבחן When2Call, למשל, Jev קיבל 80.97 לעומת 72.37 של Clef.
בנוי על Qwen
Clef מבוסס על Qwen3.8-27B, ו-Clef-flash על Qwen3.5-9B, שניהם מסדרת Qwen של עליבאבא. Cloudflare לא שינתה את מודלי הבסיס. היא אימנה רכיבים נוספים על נתונים סינתטיים משלה, והרכיבים האלה מפיקים את אפשרויות התשובה וההסתברויות מתוך החישובים הפנימיים של המודל. החברה גם משתמשת בגרסה משלה של RLCD (Reinforcement Learning for Calibrated Decisions), שיטת האימון ש-TypeSafe פיתחה עבור Jev. השיטה מאמנת את המודל לענות על כמה שאלות בקריאה אחת, ולתת הסתברויות שתואמות את שיעור הפגיעה בפועל.
צוות מודיעין האיומים של Cloudflare כבר בודק את Clef לסיווג אתרים. באחת הדוגמאות המודל העריך שאתר מסוים הוא אתר אופנה בהסתברות של 95%, וחנות מקוונת בהסתברות של 85%. הסיכוי שמדובר באתר פישינג הוערך בפחות מ-1%. כל התהליך, כולל טעינת האתר ורינדור שלו, נמשך 2.2 שניות. מודל השפה הכללי המהיר ביותר של החברה צריך 4.7 שניות לאותה משימה, והחזיר רק שתי קטגוריות.
למה זה חשוב
במקביל להשקה, Cloudflare פותחת שירות reinforcement learning שיאפשר ללקוחות להתאים את Clef למשימות שלהם. בשלב הראשון צוות מהנדסים של החברה יבצע את ההתאמה יחד עם הלקוחות, ובהמשך מתוכננת פלטפורמה לשירות עצמי. הלקוחות יוכלו לבנות מאגר נתונים מבקשות שנרשמות דרך AI Gateway.
כדאי לשים לב ש-Cloudflare לא מנסה להתחרות במודלי השפה הגדולים. היא מכוונת לשכבה צרה יותר: נקודות ההחלטה בתוך תהליך שמנוהל על ידי סוכן. אם ארגונים אכן יתחילו לתת לסוכנים לנתב פניות, לסמן אתרים חשודים ולהסלים מקרים בלי אישור אנושי, המהירות והאמינות של ההסתברויות יהפכו ככל הנראה לשיקול מרכזי. כך גם השאלה מי שולט בתשתית שעליה ההחלטות האלה רצות.