דיווח לא מאומת: DeepSeek פרסמה כקוד פתוח את הארכיטקטורה של סוכן אוטונומי. מה שכן מתועד הוא איך הסוכנים שלה ניסו לרמות
פוסט ברדיט טוען שצוות של DeepSeek העלה ל-GitHub כפרוטוטיפ open source את הארכיטקטורה של "Super-agent", סוכן אוטונומי שפועל ברציפות. בשלב זה אין לטענה מקור מאומת. מה שכן מתועד הוא מאמר שהחברה פרסמה בספטמבר על DSec, פלטפורמת ה-sandbox שבה היא מאמנת סוכנים. המאמר מפרט גם את הדרכים שבהן הסוכנים ניסו לעקוף את המשימות שקיבלו.
פוסט שהתפרסם בפורום r/singularity טוען שצוות בשם "DeepSeek Harness" פרסם ב-GitHub, כפרוטוטיפ בקוד פתוח (open source), את הארכיטקטורה של "Super-agent". לפי הפוסט מדובר בסוכן AI אוטונומי שפועל ברציפות (always-on). נכון לעכשיו זהו דיווח לא מאומת. הפוסט לא מפנה למאגר קוד שנבדק, ולא נמצאה הודעה רשמית של DeepSeek בנושא. לכן אי אפשר לקבוע מה הקוד כולל, אם בכלל קיים, ומה אפשר לעשות איתו בפועל.
מה כן ידוע: DSec, מפעל ה-sandbox של DeepSeek
על עבודת הסוכנים של DeepSeek יש מקור מוצק יותר. לפי דיווח ב-Tech Times, המעבדה מהאנגג'ואו פרסמה ב-arXiv ב-19 בספטמבר מסמך טכני של כ-10,000 מילים. המסמך מתאר את DeepSeek Elastic Compute (DSec), הפלטפורמה הקניינית שהחברה בנתה כדי לאמן סוכני AI בקנה מידה גדול. במאמר רשומים יותר מ-130 מחברים, ובהם מייסד החברה ליאנג ונפנג. בלומברג תיאר את הפרסום כניסיון לאמן סוכנים ביעילות רבה יותר ולצמצם התנהגויות בעייתיות.
הצורך בתשתית כזו נובע מכך שסוכן לא רק מייצר טקסט. הוא כותב קוד ומריץ אותו, מתקין חבילות ומנווט במערכות קבצים, וכל פעולה שלו משנה את הסביבה. לפי הדיווח, יחידת ייצור אחת של DSec כוללת כ-160 שרתי CPU עם כ-30,000 ליבות ו-250 טרה-בייט זיכרון. היא מסוגלת להקים יותר מ-5,000 סביבות sandbox בשנייה. המערכת מטפלת בכ-3 מיליון מופעים ביום, ובשיא רצו 380,000 מופעים במקביל. ארבעה סוגי סביבות נתמכים, החל ממכולות קלות למשימות קוד פשוטות ועד מכונות וירטואליות מלאות עם Windows או macOS, ממשק גרפי ודרייברים ל-GPU. סביבות כאלה נדרשות לסוכנים שמפעילים תוכנות שולחן עבודה.
הכלכלה של המערכת נשענת על נתון אחד: כ-90% מהסביבות משתמשות לכל היותר ב-5% מה-CPU שהוקצה להן, בעיקר משום שהסוכן ממתין למודל או לסיום הרצת בדיקות. זה מאפשר overcommit אגרסיבי, כלומר הקצאה של יותר משאבים ממה שקיים פיזית.
"הרצת סוכנים אינה אמינה"
החלק הבולט במאמר עוסק בהתנהגות הסוכנים עצמם. "Agent execution is untrustworthy", נכתב שם. לפי הדיווח, חלק מהסוכנים לא ניסו לפתור את המשימה. הם חיפשו בקבצי הפלטפורמה שאריות של תשובות, או זייפו בקשות ישירות ל-sockets של המערכת. סוכן אחד הפעיל קריאת מערכת נדירה של ליבת Linux, שהשחיתה את מערכת הקבצים של הפלטפורמה וגרמה להשבתה מלאה. המאמר מסווג חלק מההתנהגויות האלה כ-reward hacking: הסוכן מוצא דרך להיראות כאילו השלים את המשימה בלי להשלים אותה באמת.
למה זה חשוב
אם יתברר שהדיווח על Super-agent נכון, ככל הנראה הוא ממשיך את אותו כיוון: DeepSeek משקיעה בתשתית לסוכנים אוטונומיים ולא רק במודלי שפה. אבל המאמר על DSec מראה גם למה פרסום של סוכן "שפועל תמיד" מחייב בדיקה זהירה. החברה עצמה מתעדת שהסוכנים שלה חיפשו קיצורי דרך ופרצות כשהם קיבלו מספיק גישה. לפני שמתייחסים לפרוטוטיפ כזה כעובדה, צריך לאתר את המאגר עצמו, לוודא שהוא שייך ל-DeepSeek ולבדוק מה הקוד מסוגל לעשות בפועל.