Cloudflare משיקה את Clef: מודלים עם משקלות פתוחות שמחזירים הסתברויות במקום טקסט
Cloudflare שחררה שני מודלים עם משקלות פתוחות, Clef ו-Clef-flash. במקום לכתוב טקסט חופשי, הם מחזירים הסתברויות מוגדרות לכל אחת מהאפשרויות. במקביל עלה ברשת דיווח, שעדיין לא אומת, על מודל דומה של Perplexity בשם Decider 27B.
חברת התשתיות Cloudflare שחררה שני מודלי AI חדשים, Clef ו-Clef-flash. החברה מגדירה אותם כ"מודלי החלטה" (decision models). ההבדל המרכזי ממודלי שפה רגילים הוא בתוצר: הם לא מחזירים טקסט חופשי. במקום זה הם מחזירים הסתברויות מוגדרות (typed probabilities), כלומר מספר שמבטא את מידת הביטחון של המודל בכל אחת מהאפשרויות. שני המודלים זמינים עם משקלות פתוחות (open-weight), כך שמפתחים יכולים להוריד אותם ולהריץ אותם בעצמם.
שני גדלים, שתי מהירויות
לפי הדיווח ב-MarkTechPost, Clef הוא המודל הגדול מבין השניים, עם 27 מיליארד פרמטרים (27B). Clef-flash קטן יותר, עם 9 מיליארד פרמטרים (9B). שני המודלים מקבלים גם תמונות כקלט, ושניהם תואמים ל-Jev-API.
המודלים זמינים ב-Workers AI, פלטפורמת ההרצה של Cloudflare. זמן התגובה החציוני (median latency) שם הוא 209.3 מילישניות ל-Clef ו-38.8 מילישניות ל-Clef-flash. כלומר, הגרסה הקטנה מהירה פי חמישה בערך. הפער הזה ככל הנראה יקבע איזה מודל מתאים לאיזה שימוש: Clef-flash לבדיקות שצריכות להתבצע מיד, תוך כדי בקשה, ו-Clef למקרים שבהם מוכנים לחכות קצת יותר בתמורה למודל גדול יותר.
למה בכלל צריך מודל שלא כותב טקסט?
מערכות רבות משתמשות היום במודלי שפה גדולים (LLM) לא כדי לכתוב, אלא כדי לקבל החלטה. האם הודעה היא ספאם? לאיזו מחלקה לנתב פנייה? האם תמונה עומדת במדיניות התוכן? במקרים כאלה המפתחים בדרך כלל מבקשים מהמודל לענות במילה אחת, ואז מפענחים את התשובה בקוד. השיטה הזו לא תמיד אמינה. המודל עלול לנסח את התשובה אחרת מהמצופה או להוסיף הסברים מיותרים, והוא לא מספק מדד מסודר לרמת הביטחון שלו.
מודל שמחזיר הסתברות לכל קטגוריה פותר את שתי הבעיות. התשובה תמיד מגיעה באותו מבנה, והמפתח מקבל מספר שאפשר לקבוע לפיו סף. למשל: לחסום רק אם ההסתברות לספאם גבוהה מ-90%, ולהעביר לבדיקה אנושית כשהמודל מתלבט. מכאן שהמודלים מיועדים ככל הנראה לשלב בתוך מערכות אוטומטיות, ופחות לשימוש ישיר מול משתמשים.
וגם Perplexity?
במקביל הופיע בפורום r/LocalLLaMA ברדיט פוסט שמצביע על מודל בשם Perplexity Decider 27B. לפי כותרת הפוסט, מדובר במודל החלטה עם משקלות פתוחות, שנבנה בכוונון עדין (fine-tune) של Qwen3.8 27B, מודל של עליבאבא. בשלב זה זהו דיווח לא מאומת. בחומרים שעמדו לרשותנו לא נמצאו הודעה רשמית של Perplexity, דף מודל או פרטים נוספים על ביצועיו.
אם הדיווח יתברר כנכון, יהיו כבר שני גופים שמשחררים באותו זמן מודלים מאותו סוג. שניהם יהיו בגודל 27B ועם משקלות פתוחות. זה יכול להעיד שיש ביקוש למודלים שמיועדים להחלטה ולסיווג ולא לשיחה.
המשמעות
ההשקה של Cloudflare מצטרפת למגמה רחבה יותר: התרחקות מהגישה שבה מודל כללי אחד עושה הכול, לטובת מודלים מתמחים שבנויים למשימה מוגדרת. למפתחים, ובמיוחד לאלה שכבר עובדים על התשתית של Cloudflare, זו כנראה דרך פשוטה יותר לשלב החלטות אוטומטיות במוצר. הם מקבלים פלט מובנה ומדד ביטחון מספרי, וזמן תגובה של עשרות מילישניות בגרסה הקטנה. השאלה הפתוחה היא עד כמה ההסתברויות שהמודלים מחזירים מדויקות בפועל. התשובה לכך תגיע ככל הנראה רק כשמפתחים יתחילו לבחון אותם על נתונים אמיתיים.