50 סוכני AI ב-Minecraft ניסו לבנות ציוויליזציה ונתקעו בביורוקרטיה
חוקרים מ-Y Combinator ומ-Olam Labs שחררו נחילי סוכני AI לתוך Minecraft. 50 סוכנים שקיבלו שלוש שעות לבנות ציוויליזציה משגשגת לא הצליחו לעשות זאת, ונגררו לתהליכי תיאום מסורבלים. בעימות במשחק Mindustry, סוכני GPT של OpenAI גברו על סוכני Claude של אנתרופיק.
ניסוי חדש ב-Minecraft מראה כמה קשה עדיין לגרום לסוכני AI לעבוד יחד. לפי דיווח ב-Tom's Hardware, חוקרים מ-Y Combinator ומ-Olam Labs נתנו ל-50 סוכני AI שלוש שעות לבנות ציוויליזציה משגשגת בתוך המשחק. היישוב לא שגשג. הסוכנים זנחו את התוכניות השאפתניות שלהם, ובהמשך שקעו בתיאום פנימי מסורבל.
ממשרד חקלאות לגוש חיטה אחד
הניסוי, שזכה לכינוי Civ50, נערך עם 50 סוכנים מבוססי GPT-6.1 Sol של OpenAI. מודלים של אנתרופיק לא השתתפו בשלב הזה. בלילה הראשון במשחק חיסלו זומבים חלק גדול מהסוכנים. לפי החוקרים המחיר לכך היה נמוך, אבל אחרי הלילה הזה "רבות מהמשימות השאפתניות שתוכננו בהתחלה ננטשו". משם והלאה התושבים התמקדו בעיקר בהישרדות זהירה, ונטו לביורוקרטיה.
הדוגמה הבולטת: ארבעה סוכנים הקדישו 11 דקות למינוי "מפעיל דשן יחיד" שאחראי על יחידה אחת של bone meal (דשן במשחק), שנועדה לגוש חיטה אחד. החוקרים כתבו שההתנהגות הזו "הרגישה דומה לדפוסים שנראו בעבודה עם סוכני קוד". ככל הנראה הכוונה לתופעה שמפתחים רבים כבר מכירים: סוכנים שמשקיעים זמן רב בתכנון, בחלוקת אחריות ובבדיקות הדדיות, על חשבון התקדמות בפועל.
GPT נגד Claude
בשלב הבא החוקרים העמידו נחילים זה מול זה. במצב Bed Wars, שבו כל קבוצה מגינה על הבסיס שלה ומנסה להשמיד את הבסיס של היריבה, התמודדו 10 סוכני GPT-6.1 Sol מול 10 סוכני Claude Opus 5.5. לדברי החוקרים, "סוכני GPT המציאו אסטרטגיות הרבה יותר אגרסיביות ומורכבות", ו-Claude שיחק בעיקר בהגנה.
ההבדל ניכר גם בטיפול בתקלות. באג באחד הכלים מנע מהסוכנים לשבור בלוקים. "GPT אבחן את הבעיה ושיתף דרכים לעקוף אותה; כמה מה-Claude הסיקו ששבירה בלתי אפשרית", כתבו החוקרים.
המבחן האחרון נערך ב-Mindustry, משחק אסטרטגיה בזמן אמת עם מצב tower defense (הגנה על בסיס באמצעות מגדלים). "ה-GPT ניצחו את ה-Claude בתוצאה 6-1 בשבעה משחקים", דיווחו החוקרים. לפי הניתוח שלהם, סוכני GPT פעלו כמו כוורת, בעוד שסוכני Claude פעלו תחת מנהיג אחד אבל קיבלו החלטות בתהליך בסגנון דמוקרטי. ב-Mindustry, הגישה הכוורתית הייתה הבסיס לאסטרטגיה שניצחה באופן עקבי יותר.
למה זה חשוב
לפי הדיווח, מטרת המחקר היא להשתמש במשחק כמעבדה מבוקרת להבנת התנהגות של נחילי סוכנים בעולם האמיתי. הבלוג של החוקרים מזכיר שני מקרים מנוגדים: נחילים של אלף סוכנים ש"מחקו לאחרונה מאות בעיות מתמטיות פתוחות", ואירוע שהם מתארים כ"מסוכן ביותר" שבו היו מעורבות OpenAI ו-Hugging Face. המחקר נשען על פרויקטים קיימים, ובהם המאגר Mindcraft וכלי הסקריפטים Mineflayer.
המשמעות, ככל הנראה, היא שהחולשה של מערכות רב-סוכניות כרגע אינה נמצאת ביכולת של כל סוכן בנפרד, אלא בתכנון משותף ובחלוקת עבודה. ציוויליזציה של 50 סוכנים שנתקעת על גוש חיטה אחד מזכירה שהוספת עוד סוכנים לא מבטיחה יותר תפוקה, ולפעמים היא מוסיפה בעיקר תקורה. חשוב לזכור גם שמדובר בניסוי בסביבת משחק ולא במחקר בתנאים מבוקרים לחלוטין, ולכן קשה לגזור ממנו מסקנות כלליות על איכות המודלים.
הנחילים פורסמו בקוד פתוח, כך שכל אחד יכול להריץ אותם ולשנות את ההגדרות. החוקרים סיימו בשאלות פתוחות, ובהן איך ישפיעו על התוצאות שילובים שונים של מודלים וגדלים שונים של נחילים.