Cohere משיקה את North 2: חדר בקרה לסוכני AI שעובד עם כל מודל
Cohere השיקה את North 2, גרסה חדשה של הפלטפורמה הארגונית שלה. סוכני AI יכולים להריץ בה בעצמם תהליכי עבודה מרובי שלבים ולזכור את ההקשר משיחה לשיחה. הפלטפורמה עובדת עם מודלים של Cohere ושל גורמים אחרים, אפשר להריץ אותה גם בסביבה מנותקת לגמרי מהרשת, והיא מכוונת לגופי ממשל ולתעשיות מפוקחות.
חברת ה-AI הקנדית Cohere השיקה את North 2, גרסה חדשה של הפלטפורמה הארגונית שלה. לפי הדיווח ב-The Decoder, הפלטפורמה הפכה ל"חדר בקרה" לסוכני AI. הסוכנים מבצעים בעצמם תהליכי עבודה של כמה שלבים, וזוכרים את ההקשר גם כשעוברים משיחה אחת לאחרת. North 2 היא גם model-agnostic: היא לא קשורה למודל מסוים, ולצד המודלים של Cohere, כמו Command A+, ארגונים יכולים לחבר אליה מודלים משלהם.
מה יש בפלטפורמה
בבסיס של North 2 נמצאת מערכת orchestration (תזמור) שנבנתה מחדש. המערכת הזו מתאמת בין כמה סוכנים. הסוכנים שואבים מידע מספריות ידע משותפות ומשתמשים ב"מיומנויות" (skills) שאפשר להפעיל שוב ושוב. הם גם מתחברים לכלים שארגונים כבר עובדים איתם, כמו Slack, SharePoint ו-Jira.
בנוסף, משתמשים יכולים לבקש מתוך הצ'אט, בבקשה כתובה, מצגות, דשבורדים ואפליקציות פשוטות, והפלטפורמה מייצרת אותם.
לצד היכולות האלה יש שכבת שליטה. מנהלי מערכת עובדים עם כלי שנקרא North Admin. בעזרתו הם מנהלים את צריכת ה-tokens (היחידות שלפיהן מודלי שפה מעבדים טקסט ומתמחרים אותו), קובעים מכסות למשתמשים ומחלקים הרשאות גישה עד לרמת הסוכן הבודד. לפני שסוכן מבצע פעולה קריטית, הוא מבקש אישור מאדם.
אפשר להתקין את הפלטפורמה בשרתי הארגון עצמו (on-premises), להריץ אותה בענן, או להפעיל אותה בסביבה air-gapped, כלומר מנותקת לגמרי מהאינטרנט. Cohere מוסיפה שעל חומרת Blackwell ו-Hopper של אנבידיה המודלים שלה צורכים פחות tokens. זו טענה של החברה, ובמקור לא מופיעים מספרים שמראים כמה פחות.
הלקוחות והשוק
לפי הדיווח, LG CNS ו-Bell Cyber כבר מריצות את North בסביבת ייצור (production). קהל היעד של Cohere הוא גופי ממשל ותעשיות מפוקחות שרוצים לשמור את ה-AI בשליטתם.
זה גם הקהל של Aleph Alpha הגרמנית, שבסיסה בהיידלברג. Cohere הודיעה באפריל שהיא רוכשת את החברה. לאחרונה Aleph Alpha חזרה לכותרות עם Kolibri, מודל שפה בגרמנית ובאנגלית.
למה זה חשוב
בשוק ה-AI הארגוני, Cohere מתחרה בחברות גדולות ממנה בהרבה, כמו OpenAI, אנתרופיק וגוגל. ההכרזה מראה ככל הנראה שהיא בוחרת להתחרות על שליטה ופריסה, ופחות על השאלה מי מחזיק במודל החזק ביותר. בגלל שהפלטפורמה פתוחה למודלים חיצוניים, Cohere יכולה להציע את עצמה כשכבת הניהול שמעל המודלים: הרשאות, מכסות, אישורים אנושיים וחיבור לכלים הקיימים בארגון. ההערכה היא שגופים מפוקחים יראו בגמישות הזו יתרון, כי היא מאפשרת להם להחליף מודלים בלי לבנות מחדש את כל התשתית.
גם אפשרות ההרצה ב-air-gapped מתאימה לקהל הזה. לבנקים, לגופים ביטחוניים ולמשרדי ממשלה יש לרוב דרישות מחמירות לגבי המקום שבו הנתונים נשמרים, ופלטפורמה שאינה תלויה בענן חיצוני עונה על חלק מהדרישות האלה. רכישת Aleph Alpha מחזקת ככל הנראה את המגמה, ומעידה ש-Cohere מנסה לבסס נוכחות בשוק האירופי, שבו הדרישה לריבונות על נתונים חזקה במיוחד.
ההכרזה לא מבטלת את השאלות הפתוחות. אין בה פרטים על תמחור, וגם לא נתונים עצמאיים על הביצועים של הסוכנים בתהליכי עבודה מורכבים. רק השימוש בפועל אצל לקוחות יראה אם הרעיון של "חדר בקרה" מתאים לצרכים של ארגונים גדולים.