Salesforce ו-Nvidia משיקות את Koa: מודל היסק ייעודי למכירות ושירות לקוחות

Salesforce הציגה השבוע, כחלק מההכרזות המרכזיות בכנס הענק שלה Dreamforce, מודל בינה מלאכותית חדש בשם Koa — המודל הראשון מסוג reasoning (היסק, כלומר מודל שמתכנן ומנמק לפני שהוא עונה) שהחברה מפתחת בעצמה. לפי הדיווח ב-TechCrunch, Koa נבנה על בסיס Nemotron, המודל בעל המשקולות הפתוחות (open-weight) של Nvidia, ושתי החברות שיתפו פעולה כדי לאמן אותו מחדש (post-training) כך שיתמחה במשימות מכירות, שיווק ושירות לקוחות.

Koa אמור להצטרף כחלופה למודלים הקיימים בפלטפורמת הסוכנים Agentforce של Salesforce, שבה לקוחות בונים סוכני AI לטיפול במשימות שגרתיות כמו מענה לפניות שירות או תיאום פגישות. עד כה, כאשר סוכן נדרש להיסק מורכב או משימה רב-שלבית, הפנייה נשלחה דרך "שער" ה-AI (gateway) של Agentforce אל מודל פרונטלי כמו Claude או ChatGPT. "בנינו הרבה מודלי שפה קטנים וממוקדי-משימה, שהם חלק מהפורטפוליו של Agentforce," אמר ג'איש גובינדראג'אן, סגן נשיא בכיר ל-AI ב-Salesforce, ל-TechCrunch. "אבל על היסק תמיד הסתמכנו על ספקי המודלים הפרונטליים. עד עכשיו."

לדברי גובינדראג'אן, הסיבה שהחברה לא בנתה עד כה מודל פרונטלי משלה הייתה היעדר מודל בסיס (base model) מאומן-מראש שעונה על שלושה קריטריונים בו-זמנית: מקור אמריקאי "ריבוני", רמה מתקדמת (state of the art), ומקור נתונים ברור. הוא ציין את Qwen, המודל הסיני בעל המשקולות הפתוחות של עליבאבא, כדוגמה הפוכה: "אין לנו מושג על מה Qwen מאומן."

נקודה מרכזית בתהליך הפיתוח: לדברי Salesforce, האימון המשלים של Koa למשימות מכירות ושירות לקוחות לא נעשה על נתוני לקוחות אמיתיים, אלא על נתונים סינתטיים שדימו דפוסי עבודה אמיתיים — כולל סימולציה של מוקד שירות לקוחות עם "דמויות" כמו נציג שירות, לקוחות כועסים ואיש מכירות שמנסה לסגור עסקה. Salesforce מציגה זאת כיתרון אבטחה: מודל שלא "בלע" נתוני לקוחות אינו יכול לדלוף אותם. מנקודת המבט של Nvidia, שהצטרפה לפרויקט כשותפה, המודל תוכנן גם להיות חסכוני בטוקנים. "יש לנו ארכיטקטורת היסק ייחודית לצורך יעילות טוקנים," אמרה קארי אן בריסקי, סגנית נשיא ל-Generative AI Software for Enterprise ב-Nvidia. "זו בעצם שלישיית הדרישות: ריבונות AI, זמן עד לטוקן הראשון, והיסק יעיל — עבור כלכלת הטוקנים כולה."

המשמעות המעשית, כך לפי הדיווח, היא שסיילספורס מציעה ללקוחותיה חלופה למודלים הסגורים של המעבדות הפרונטליות: מודל בעל משקולות פתוחות, ממוקד-משימה במקום מיועד לפתור בעיות מתמטיות מורכבות, וכזה שנשאר בגבולות התשתית וכללי האבטחה והנתונים שכבר קיימים אצל הלקוח. ככל הנראה, המהלך משקף מגמה רחבה יותר בשוק הארגוני: צרכים עסקיים ספציפיים וזולים-יחסית לתפעול, לעומת מודלים כלליים ויקרים יותר שמעבדות ה-AI הגדולות מציעות.

עם זאת, Salesforce לא זונחת את השותפויות עם המעבדות הפרונטליות. החברה הכריזה גם על שיתוף פעולה חדש עם Anthropic בשם ClaudeForce, שיאפשר ללקוחות להשתמש ב-Claude כממשק ה-AI שלהם, כאשר הנתונים עצמם נשארים במערכות הרישום (system of records) של Salesforce ומאובטחים על ידי התשתית שלה.