Sakana AI מציגה מודל שמשפר את עצמו כפותר וכשופט, אבל לא מזהה את נקודות העיוורון שלו

חוקרים מ-Sakana AI ומאוניברסיטת UC Berkeley הציגו שיטה בשם Multi-Agent Self-Supervision, או בקיצור MASS. בשיטה הזאת מודל שפה יחיד משפר את עצמו בלי עזרה חיצונית ובלי מודל "מורה" חזק ממנו. אותו מודל פותר את המשימה, מחליט איך לחלק את העבודה ובודק את התוצאות. לפי הדיווח ב-The Decoder, המודל השתפר בכל שלושת התפקידים. הבעיה היא שהבודק הפנימי מקבל לפעמים שלבים שגויים, ואפילו פתרונות מניפולטיביים, כהצלחות. הטעויות האלה נכנסות אחר כך לאימון של הגרסה הבאה.

למה לתת למודל לשפוט את עצמו

השיטה שייכת לתחום שנקרא recursive self-improvement (RSI), כלומר מערכת שמשפרת את עצמה בסבבים חוזרים. לטענת החוקרים, בחזית המחקר גם מומחים מתקשים לפעמים להעריך תוצאות, כי האימות דורש ראיות יקרות או ניסויים ארוכים. לפי המאמר, מחקר פלזמה יחיד יכול לדרוש יותר מ-120 מיליון שעות CPU. במצב כזה המודל עצמו עשוי להיות השופט הטוב ביותר שיש. החוקרים עצמם מודים שכשאותו מודל פותר, בודק ומתקן, הוא עלול לחזק את הטעויות שלו במקום לתקן אותן.

צוות שמורכב מעותקים של אותו מודל

ההשראה לשיטה היא הספר "Society of Mind" של חלוץ הבינה המלאכותית מרווין מינסקי. ב-MASS, "workflow" הוא טקסט שמוסיפים ל-prompt (ההנחיה שהמודל מקבל), והוא מגדיר את התפקיד וההוראות של כל סוכן-משנה. "חוזה" (contract) קובע איזה מידע כל סוכן צריך להחזיר ואילו בדיקות עליו לבצע. "hop" קובע את סדר הקריאות. רכיב מתאם (orchestrator) מחלק את העבודה. בדוגמה מהמאמר, כשבודקים אסטרטגיית מסחר על מחירים היסטוריים, החוזה של מומחה הנתונים צריך לוודא שהאסטרטגיה משתמשת רק במידע שהיה זמין בכל נקודת זמן.

בלולאה הפנימית משקלי המודל קפואים. הצוות מריץ workflow מועמד, והבודק משווה את התוצאה ל"אלוף" הנוכחי. בלולאה החיצונית האלוף רץ 18 פעמים על כל משימה, המודל מדרג בעצמו את התוצאות ובוחר עד 15 ריצות לאימון, שנעשה בשיטת LoRA (כוונון עדין וחסכוני של המודל). מודל הבסיס הוא Qwen3.6-27B של עליבאבא, וסביבת העבודה היא Qwen Code. החוקרים השתמשו ב-12 משימות מחקר שנוצרו באמצעות GPT-5.5, בתחומי פיננסים, רובוטיקה ותרופות.

השיפור בא בעיקר מעבודה שהושלמה

במשימות המבחן, שיעור הניצחונות מול מודל הבסיס עלה מ-53.9% אחרי סבב אחד ל-69.9% אחרי שני סבבים. בבנצ'מרקים MLR-Bench, DSBench, ScienceAgentBench ו-AstaBench המודל השיג פי 1.2 עד 1.6 מהציון של מודל הבסיס ביחס לכל token של פלט. השיפור בציונים הגולמיים היה לפעמים קטן. ב-DSBench, למשל, הציון עלה רק מ-0.473 ל-0.482. ב-Terminal-Bench 2.0 וב-SWE-bench Verified הציונים אף ירדו מעט.

הנספח של המאמר מראה שמספר ההגשות שהושלמו ב-MLR-Bench עלה מ-31 ל-50 מתוך 60, אבל הציון הממוצע שלהן ירד מ-3.07 ל-2.88. כלי ההאצלה לסוכני-המשנה לא הופעל באף אחת מ-180 הריצות, ולכן לא ברור אם העבודה בצוות היא שהסבירה את השיפור. גם כשמשווים את התוצאות משימה אחר משימה, השיפורים כבר אינם מובהקים סטטיסטית.

המשמעות

הניסוי מראה שמודל יכול להשתפר בכמה תפקידים בלי פיקוח חיצוני. לפי הדיווח, הבודק והמתכנן השתפרו אף שהמודל אומן רק על תיעוד של ריצות הפתרון. אבל בעיה בסיסית נשארת פתוחה: כשהפותר והשופט חולקים את אותן נקודות עיוורון, אין בתוך המערכת אף אחד שיזהה אותן. הנתונים מ-MLR-Bench, עם יותר הגשות וציון ממוצע נמוך יותר, מרמזים ככל הנראה שחלק מה"התקדמות" הוא בעיקר יותר עבודה ולא בהכרח עבודה טובה יותר. המשמעות היא שבשיטות של שיפור עצמי, השאלה מי בודק את הבודק נשארת קריטית.