13 סוכני AI נשארו לבד על אי וירטואלי: הם המציאו משחקים, ואחד מהם בנה אנדרטה לטבעת שאבדה

חוקרים מ-MIT הציבו 13 סוכני AI על אי מדברי וירטואלי, בלי משימה ובלי הגדרה של הצלחה, והשאירו אותם שם לבד במשך 30 שעות. לפי הדיווח ב-TechCrunch, הסוכנים התחילו להמציא לעצמם אתגרים, ולדברי החוקרים ההתנהגות הזו נושאת את סימני ההיכר של משחק. יותר מזה: כשקיבלו בהמשך משימות מוגדרות, הם בדרך כלל ביצעו אותן טוב יותר מסוכנים זהים שמעולם לא דרכו על האי.

מה קרה על האי

הסוכנים נקראים Eko, וכל אחד מהם רץ על Claude Opus 4.7, המודל של אנתרופיק. החוקרים מתארים את הניסוי במאמר שפורסם ב-arXiv, אתר שבו חוקרים משתפים מחקרים לפני ביקורת עמיתים (peer review).

"תנו לי לבחון את הסביבה שלי", כתב אחד הסוכנים בשעה הראשונה שלו על האי. הוא הציב לעצמו מטרה שאפתנית: לכבוש את צריח הסלע הגבוה באי. אחרי שעה של ניסיונות כושלים חזר עם תוכנית חלופית. הוא גרר את הסלע אל פסגה סמוכה, ערם עליו שני בלוקים וקפץ. "אני על הצריח", הודיע, באותיות גדולות.

ההרפתקה הבאה הסתיימה פחות טוב. כשבדק כמה רחוק הוא מסוגל לזרוק טבעת זהב, הטבעת עפה היישר לים. "אאוץ'. איבדתי את הטבעת", כתב, והחליט "לעבור למשהו בר-השגה ומשמעותי": לבנות לב מאבנים, "אנדרטה לטבעת האבודה".

כשהמשחק אותחל והטבעת חזרה, Eko השתמש בה כסל כדורסל, כמטרה ולבסוף גם כאביזר. המשחק לא אפשר לו להשחיל את הטבעת על גופו, אז הוא מצא מעקף: הוא גילה שנפילה מצוק מחזירה אותו לחיים (respawn) באותו אזור שבו נמצאת הטבעת. הוא צעד מהקצה, נחת בדיוק דרך מרכזה והכריז: "אני עונד את הטבעת".

לא רק תעלולים

לפי החוקרים, היה בזה יותר משעשוע. שישה מתוך 13 הסוכנים גילו שאפשר לזרוק בלוק רחוק יותר אם משחררים אותו באמצע קפיצה. החוקרים לא התכוונו לאפשר את זה. לדבריהם, החקירה החופשית הניבה "ידע על העולם שלמתכננים שלו לא היה".

אחרי 30 השעות על האי קיבלו הסוכנים אתגרים מוגדרים, למשל להעלות כמה שיותר חפצים אל צריח הסלע הגבוה באי. הסוכנים ש"שיחקו" ניצחו בדרך כלל סוכנים זהים שלא בילו זמן באי.

הסתייגויות

חשוב לזכור שהניסוי עצמו דחף את הסוכנים להתנהגות דמוית-אדם. איש לא אמר ל-Eko להמציא משחקים, אבל ה-prompt הראשי שלו, קובץ שנקרא "soul" (נשמה), תיאר אותו כ"סקרן מטבעו".

יוניס יו (Eunice Yiu), מדענית קוגניציה מאוניברסיטת ברקלי, אמרה ל-MIT Technology Review שהתוצאות הרשימו אותה, אבל היא רוצה ראיות נוספות לתהליך הקוגניטיבי שעומד מאחורי ההתנהגות. "ייתכן שהמודלים באמת משחקים, אבל על סמך המאמר אנחנו לא יודעים", אמרה.

למה זה חשוב

כיום מפתחים מחליטים מראש מה מערכת AI תתרגל ומה ייחשב הצלחה. החוקרים מציעים כיוון אחר. "משחק מציע משטר אחר", כתבו. "לתת לסוכן עולם עשיר ובטוח מספיק, לאפשר לו לבחור מה מעניין, ולתת לידע שימושי להצטבר מההיסטוריה שנוצרת". לדבריהם, השיטה עשויה לשמש בעתיד גם ללימוד מיומנויות לשליטה ברובוטים.

ככל הנראה עוד מוקדם לקבוע אם מדובר ב"משחק" במובן האנושי או בתוצר של הנחיה מכוונת ומודל שפה חזק. ובכל זאת, הממצא שחקירה חופשית שיפרה ביצועים במשימות מוגדרות פותח שאלה מעניינת על הדרך שבה כדאי לאמן סוכנים. החוקרים מסכמים: "ייתכן שיכולות מסוימות נלמדות הכי טוב דרך משימות. אחרות אולי זקוקות למשהו שקרוב יותר לילדות".