גוגל מציגה את Agent Compute Engine: מכונה וירטואלית מבודדת לכל סוכן AI

גוגל הכריזה על Agent Compute Engine. זהו שירות שמקצה לכל סוכן AI מכונה וירטואלית (VM) נפרדת ומבודדת משלו. לדברי החברה, השירות כבר מפעיל את Gemini, והוא ייפתח לגרסת preview בחודשים הקרובים.

מכונה קטנה לכל סוכן

סוכני AI הם מערכות שלא רק עונות על שאלות, אלא גם מבצעות פעולות: מריצות קוד, גולשות, ניגשות לקבצים ולשירותים חיצוניים. בגלל זה עולה השאלה היכן בדיוק הם רצים ומה מפריד בינם לבין סוכנים אחרים שפועלים על אותו שרת.

התשובה של גוגל היא microVM, מכונה וירטואלית מינימלית וקלה, נפרדת לכל סוכן. לדברי החברה, כל microVM כזו מאובטחת באמצעות שבב Titanium של גוגל. המשמעות היא שהבידוד בין הסוכנים נשען על רכיב חומרה ולא רק על הפרדה ברמת התוכנה. ככל הנראה המטרה היא להבטיח שסוכן שנפרץ או שמתנהג באופן לא צפוי לא יוכל להשפיע על סוכנים שכנים.

המאבק בעלויות

לבידוד יש מחיר, משום שמכונה וירטואלית נפרדת לכל סוכן דורשת משאבים. כפי שמציין The Decoder, מכונות וירטואליות הן גורם עלות משמעותי באספקת מערכות מבוססות סוכנים, ולכן גוגל מתמקדת כאן ביעילות.

כמה מנגנונים נועדו לצמצם את העלות. כשסוכן אינו פעיל, המכונה הווירטואלית שלו מושהית אוטומטית ומפנה את השרת לאחרים. בנוסף, זיכרון משותף בין המכונות מוזיל את עלות ההרצה של כל אחת מהן.

על אותו עיקרון מבוסס גם Agent Substrate, סביבת הרצה (runtime) מבוססת Kubernetes שגוגל שחררה כ-open source. Kubernetes היא מערכת נפוצה לניהול והפעלה של אפליקציות על פני אשכולות שרתים. לטענת גוגל, הגישה הזו מאפשרת להריץ פי עשרה סוכנים על שרת בודד. בניסוי שערכה החברה עם 200,000 סוכנים, השהיה וחידוש של סוכן נמשכו פחות מ-500 אלפיות השנייה.

שכבת הפיקוח

מעבר לתשתית, גוגל מוסיפה כלי בקרה לארגונים שמפעילים סוכנים:

• מעקב אחר צריכת tokens, יחידות הטקסט שלפיהן מתומחר השימוש במודלי שפה.
• ניתוב בין מודלים (model routing), כלומר הפניית משימות למודלים שונים.
• תמיכה בספקי זהות חיצוניים כמו Ping Identity ו-SailPoint, לניהול ההרשאות של הסוכנים.

לפי גוגל, הבקרות האלה יחולו גם על Cloud Run, על GKE (שירות ה-Kubernetes המנוהל של החברה) ועל נקודות קצה מנוהלות (managed endpoints).

למה זה חשוב

ההכרזה מעידה על כך שספקיות הענן מתחילות להתייחס לסוכני AI כסוג נפרד של עומס עבודה, עם דרישות משלו. סוכן עשוי לרוץ שעות, לחכות רוב הזמן לקלט ולהפעיל קוד שאיש לא בדק מראש. השילוב בין בידוד ברמת החומרה לבין השהיה מהירה של סוכנים לא פעילים נראה כניסיון לפתור את המתח בין אבטחה לעלות, מתח שמלווה כל ארגון ששוקל להריץ סוכנים בהיקף גדול.

הבחירה לשחרר את Agent Substrate כ-open source עשויה להרחיב את השימוש בגישה הזו גם מעבר לענן של גוגל. עם זאת, הנתונים על פי עשרה סוכנים לשרת ועל זמני השהיה של פחות מחצי שנייה מגיעים בשלב זה מגוגל עצמה. מועד ה-preview עדיין לא פורסם, ולא נמסרו פרטים על תמחור השירות.