IBM מאפשרת להריץ את סוכן הפיתוח Bob על שרתי החברה, גם ברשתות מנותקות

חברת IBM הודיעה על זמינות כללית של גרסה בהתקנה עצמית (self-hosted) ל-IBM Bob, פלטפורמת פיתוח התוכנה שלה המבוססת על סוכני AI. מעכשיו ארגונים יכולים להריץ את Bob על שרתים בתוך הארגון (on premises), בענן פרטי או ריבוני, וגם ברשתות air-gapped, כלומר רשתות שמנותקות פיזית מהאינטרנט. בפועל, חברה יכולה לתת לסוכן AI לעבוד על הקוד שלה בלי להעביר את הקוד לשרתים של מישהו אחר.

מביאים מודל משלכם

בגרסה הזו IBM לא כופה מודל שפה מסוים. הלקוחות בוחרים את ה-LLM (מודל שפה גדול) ש-Bob יעבוד איתו, ויש שתי דרכים עיקריות לעשות את זה:

• בידוד מלא: מריצים מקומית את Nemotron של אנבידיה או את Laguna של Poolside. במצב הזה גם המודל עצמו נמצא בתוך הארגון, ושום מידע לא יוצא החוצה.
• תצורה היברידית: הפלטפורמה רצה אצל הלקוח, אבל מתחברת למודלים מסחריים כמו Claude של אנתרופיק, Gemini של גוגל או מודלי GPT.

ההבדל בין שתי הדרכים מבטא את הפשרה שארגונים מכירים היטב. המודלים המסחריים הגדולים נחשבים לרוב חזקים יותר, אבל מי שמשתמש בהם שולח מידע לספק חיצוני. מודל שרץ מקומית מבטיח שליטה מלאה, ולעתים זה בא על חשבון ביצועים.

חבילות למערכות ותיקות

IBM מציעה גם חבילות פרימיום אופציונליות שמרחיבות את Bob למודרניזציה של קוד Java ושל מערכות IBM i ו-IBM Z. לצורך ההקשר: IBM Z היא משפחת המחשבים המרכזיים (mainframe) של החברה, ו-IBM i היא פלטפורמה עסקית ותיקה. שתיהן עדיין מריצות מערכות ליבה בבנקים, בחברות ביטוח ובגופים ממשלתיים. ככל הנראה כאן IBM רואה את היתרון הייחודי שלה: הרבה קוד ארגוני ישן נכתב בדיוק למערכות האלה, ומעט מאוד כלים של חברות אחרות מתמחים בו.

למה זה חשוב

כלי הקוד מבוססי ה-AI התפשטו מהר בשנים האחרונות, אבל בארגונים רבים, ובמיוחד בפיננסים, בביטחון, בבריאות ובמגזר הציבורי, יש מכשול קבוע: אי אפשר לשלוח קוד סודי או נתונים רגישים לענן של ספק חיצוני. הקוד יכול להכיל סודות מסחריים, פרצות אבטחה שעוד לא תוקנו או מידע שכפוף לרגולציה.

ההצעה של IBM מכוונת ישר לבעיה הזו. הכלי מגיע לנתונים, ולא הנתונים לכלי. המשמעות כנראה היא שהתחרות בשוק סוכני הקוד לא תתנהל רק על איכות המודל, אלא גם על גמישות הפריסה ועל השליטה שהלקוח מקבל. בשביל ארגונים שעד עכשיו הסתכלו מהצד על גל כלי ה-AI לפיתוח בגלל דרישות אבטחה, אפשרות להריץ סוכן כזה ברשת סגורה יכולה לפתוח את הדלת.

עם זאת, בחומרים שפורסמו אין פרטים על מחירים או על דרישות החומרה של ההתקנה העצמית, ועוד לא ברור כמה ייפגעו הביצועים כשעובדים במצב בידוד מלא לעומת המודלים המסחריים.