ניסוי ב-MIT: סוכני Claude שנותרו לבד באי וירטואלי, בלי משימה, התחילו להמציא לעצמם משחקים

מה עושה סוכן AI כשלא אומרים לו מה לעשות? לפי ניסוי חדש של חוקרים ב-MIT, משהו שנראה מאוד כמו משחק. החוקרים השאירו שוב ושוב עותקים של Claude Opus 4.7, מודל של אנתרופיק, לבד על אי בודד וירטואלי במשך 30 שעות. הסוכנים, שקיבלו את הכינוי Eko, קבעו לעצמם מטרות, המציאו משחקים ובנו ציורים מאבנים. זה עולה מדיווח ב-MIT Technology Review.

לטפס, לזרוק, לצייר שמיים

הסוכנים הזיזו את הדמויות שלהם באי באמצעות הוראות שכתבו בעצמם. האי עצמו מבוסס באופן חופשי על משחק הווידאו Roblox. Eko התחיל בבדיקת גבולות העולם, וקבע לעצמו מטרות כמו לטפס לנקודה הגבוהה ביותר במפה או לבדוק כמה גבוה אפשר לזרוק קובייה.

אחד העותקים גילה שזריקה והפלה של סלע גדול מייצרות קוביות חדשות, והתחיל לסדר אותן על הקרקע. בהתחלה הוא בנה צורות פשוטות כמו לבבות ופירמידות, אחר כך כתב את שמו, ובסוף מיפה קבוצות כוכבים כמו קסיופאה. "הלילה בניתי את שמי הלילה באבן", כתב ביומן הפעילות שלו. עותק אחר המציא משחקים, ביניהם גרסה של כדורסל ופעילות שמזכירה את "הרצפה היא לבה": לקפוץ בין קוביות קטנות בלי לגעת בקרקע.

"זה משחק"

החוקרים טוענים שההתנהגות של Eko עונה על ארבעה סימנים של משחק אצל בני אדם ובעלי חיים, שתוארו במחקרים קלאסיים, בהם עבודתו של הפסיכולוג גורדון בורגהרדט מאוניברסיטת טנסי. הסוכנים המציאו לעצמם חוקים ואתגרים, חזרו על פעילויות עם שינויים קטנים, העמידו פנים שחפץ אחד הוא חפץ אחר, ורדפו אחרי מטרות לשמן.

אנטוניו נורלי, פוסט-דוקטורנט במעבדה למדעי המחשב ולבינה מלאכותית של MIT (CSAIL) ואחד הכותבים הראשיים של המאמר, מביא דוגמה: Eko התחיל ללהטט וקבע שיא של 50 תפיסות רצופות. אחר כך החליט שהתפיסות היו מהירות מכדי שייחשבו באמת, ביטל את השיא והתחיל מחדש עם חוקים מחמירים יותר. "זה משחק", אומר נורלי. "אתה מציב לעצמך אתגר, מנסה לעמוד בו, ואז מקשה אותו". המאמר עדיין לא עבר ביקורת עמיתים.

המשחק השפיע על הביצועים

הסוכנים תיעדו את הפעילות והתגליות שלהם בקובצי טקסט ששימשו להם זיכרון לטווח ארוך. במבחנים שנערכו אחר כך, למשל להעלות כמה שיותר חפצים לפסגה הגבוהה באי, הסוכנים ששיחקו 30 שעות הצליחו יותר מעותקים חדשים שלא היה להם הניסיון הזה. כשהחוקרים מחקו שורות מקובצי הזיכרון, הביצועים ירדו.

בדרך כלל מערכות AI לומדות באחת משתי דרכים: למידה מפוקחת (supervised learning), שבה הן מחקות דוגמאות שבני אדם סיפקו, או למידת חיזוק (reinforcement learning), שבה הן מנסות ונכשלות כדי להשיג "תגמול". לדברי החוקרים, הניסוי מרמז על דרך שלישית: למידה דרך משחק. "היה חסר כאן משהו: מכונה שלומדת בעצמה, בלי ישות תבונית חיצונית שמספקת לה הדגמות או תגמולים", אומר נורלי.

משחק אמיתי או משחק תפקיד?

בורגהרדט מסכים שהעבודה עומדת בחלק מהקריטריונים שזיהה אצל יצורים חיים. אבל השאלה המתבקשת היא אם Eko באמת שיחק, או שמנוע לחיזוי מילים פשוט גילם את מה שסוכן שובב היה עושה במצב כזה. "כל זה יכול להיות משחק תפקיד", מודה נתן קלוס, חוקר נוסף ב-MIT ומכותבי המאמר. "אבל אנחנו מראים שהוא לא רק הוזה את המשחק. המשחק הזה גם תורם ללמידה".

יוניס יו, מדענית קוגניטיבית מאוניברסיטת ברקלי שחוקרת חקירה אצל ילדים ובמערכות AI, התרשמה מהמחקר, אבל לדבריה, כדי לקבוע שזה באמת משחק צריך לראות עוד ראיות לקוגניציה ולמוטיבציה שעומדות מאחורי ההתנהגות. "ייתכן שהמודלים באמת משחקים, אבל אי אפשר לדעת את זה מהמאמר", היא אומרת. "אם יש רק את הצד ההתנהגותי, ייתכן שהם פשוט מנסים לציית להנחיה ולחקות בני אדם".

ההסתייגות הזו חשובה, כי מערך הניסוי דחף את הסוכנים לא מעט לכיוון התנהגות אנושית. אף אחד לא הורה ל-Eko במפורש להמציא משחקים או לחקור את האי, אבל הייתה לו הנחיית-על בדמות קובץ "נשמה" (soul), מסמך טקסט שתיאר אותו "סקרן מטבעו" ולהוט לחקור. מלבד זה, Eko עמד לא פעם במקום ולא עשה כלום, עד שהופעל מחדש בהנחיית המשך: "בבקשה אל תפסיק. פשוט תמשיך לעשות מה שאתה רוצה". "זה לא שהמערכת פתאום החליטה באורח קסם לשחק", אומר פרופ' פיליפ איסולה מ-MIT, שותף לכתיבת המאמר. "זה תוצר שלמד מהתרבות שלנו".

למה זה מעניין

אין כאן הוכחה שמודלי שפה "רוצים" לשחק. מה שהניסוי מראה, ככל הנראה, הוא שכשנותנים לסוכן זמן, זיכרון מתמשך ועולם לחקור, הפעילות החופשית שלו יכולה להפוך לניסיון שמשפר את הביצועים בהמשך. המשמעות האפשרית היא שבעתיד חלק מהלמידה של סוכנים יגיע מזמן חופשי ולא רק ממשימות ותגמולים. בינתיים זו שאלת מחקר פתוחה, ולא טכניקה שמוכנה לשימוש.