מחקר חדש מאוניברסיטת פרינסטון בוחן האם סוכני AI מסוגלים לבצע מחקר פורץ דרך בתחום הבינה המלאכותית עצמה, ומגלה פער משמעותי בין יכולות הנדסיות ליכולת שיפוט וחשיבה יצירתית. הממצאים מטילים ספק בתחזיות אופטימיות לגבי 'שיפור עצמי רקורסיבי' בטווח הקרוב.
אחת ההבטחות הנועזות ביותר בתעשיית הבינה המלאכותית כיום היא שמודלי AI יוכלו בקרוב לשפר את עצמם כמעט ללא צורך בפיקוח אנושי. מחקר חדש, שדווח לראשונה ב-MIT Technology Review, מציע שהדרך לשם עשויה להיות ארוכה יותר משנטען.
קבוצת חוקרים רב-מוסדית, בראשות פיטר קירגיס וסייאש קפור מאוניברסיטת פרינסטון, בדקה האם סוכני AI מסוגלים לבצע מחקר "פתוח" בתחום למידת המכונה — כלומר, חקירות ללא תשובה ברורה מראש, המחייבות שיקול דעת ויצירתיות. לשם כך פיתחו החוקרים שיטת הערכה חדשה שכינו "shadow evaluation": הם ביקשו ממודל Claude Opus 4.8 של Anthropic, שהופעל על תוכנת קוד פתוח בשם OpenClaw, לענות על שאלות מחקר משני מאמרים איכותיים שהוגשו לכנס NeurIPS 2026 היוקרתי אך טרם פורסמו — כך שהמודל לא יכול היה פשוט לשנן את התשובות מנתוני האימון שלו.
השאלה הראשונה עסקה באפשרות לשלוט ב"פרסונות" של מודל שפה על ידי עריכת משקלי המודל, והשנייה נגעה לתכנון מנגנון שמזהה מתי מודל שמנבא על סמך נתוני טבלאות הופך לא אמין. הסוכנים קיבלו שישה ימים, 3,000 דולר בקרדיטים ל-API של Anthropic, תקציב GPU, מחשבים וירטואליים משלהם וגישה לאינטרנט הפתוח — במטרה להפיק מאמר ראוי לפרסום בכנס מוביל. מחברי המאמרים המקוריים העריכו את התוצרים כפי שהיו מעריכים הגשה רגילה לכנס — ודחו את שני המאמרים.
החוקרים מצאו שהסוכנים ביצעו כראוי את כל המשימות ההנדסיות: סקרו ספרות, הריצו מאות ניסויים וריכזו תוצאות. אך, כדברי קפור, "הסוכנים היו גרועים באופן חד-משמעי בביצוע המחקר עצמו". הם הריצו ניסויים מוזרים — לעיתים על מדגמי נתונים סינתטיים זעירים — התקשו לכתוב בבהירות ולא הציגו תרומה מקורית לתחום. הסוכנים נטשו השערות מבטיחות על סמך נתונים מוגבלים מדי, לא הצליחו לבצע חשיבה מחודשת ויסודית כשגישה מסוימת נכשלה, והתקשו לנצל ביעילות משאבים כמו זמן וטוקנים. מנגד, לא נצפו מקרים של "פריצת תגמול" (reward hacking) — הסתרה או סילוף של תוצאות — אף שסוכני-משנה לעיתים הזו, כאשר תופעה זו זוהתה ותוקנה בידי הסוכן המפקח.
לדברי קפור, הפער נובע ככל הנראה מאופן האימון: מודלים משתפרים במשימות שניתן לאמן אותם עליהן בשיטת reinforcement learning, שקל יותר ליישם כאשר יש קריטריון הצלחה ברור וניתן לבדיקה אוטומטית — לעומת משימות פתוחות שקשה יותר ליצור עבורן סביבת אימון כזו. הצוות עורך כעת ניסוי דומה עם Mythos, המודל המתקדם של Anthropic שהושק באפריל אך נדרש בעקבות הנחיות ממשל טראמפ לעמוד במגבלות בטיחות, וזמין כיום רק לארגונים מאושרים; Anthropic לא הגיבה לפניית המערכת.
למחקר מגבלות ברורות: הוא בחן רק שני מאמרים, ומחברי המאמרים המקוריים ידעו שהם מעריכים תוצרי AI — עובדה שעשויה הייתה להשפיע על שיפוטם. עם זאת, הממצאים מהדהדים התבטאויות פנימיות בתעשייה עצמה: ג'ק קלארק, ממייסדי Anthropic, כתב בניוזלטר שלו Import AI שהתוצאות מתכתבות עם מה שהחברה גילתה כשניסתה להפוך היבטים במחקר בטיחות ה-AI לאוטומטיים, וכינה את היעדר היצירתיות במערכות הנוכחיות "סימן דובי" (bearish) לגבי לוחות זמנים קצרים לשיפור עצמי רקורסיבי.
יחד עם זאת, לחברות ה-AI יש תמריץ ברור להמשיך ולפתח בכיוון הזה — OpenAI הציבה בניית חוקר AI אוטומטי כיעד מוצהר, ובחודש יולי פרסמה שהמודל החדש שלה, GPT-5.6 Sol, סייע לאמן מודל קטן יותר וחסך שבועות עבודה לחוקרים; Anthropic, מצדה, פרסמה ביוני פוסט בשם "When AI Builds Itself" שמתאר התקדמות לעבר מודלים שמאיצים את פיתוחם שלהם. נג'ונג קים, פרופסור לבלשנות ומדעי המחשב באוניברסיטת בוסטון שלא הייתה מעורבת במחקר, מעריכה כי השקעה ומאמץ ממוקד בכיוון זה עשויים להניב התקדמות משמעותית, גם אם כרגע התוצאות מאכזבות.
המשמעות המעשית, כך עולה מהמחקר, היא שהתקדמות ה-AI עשויה להיות מפוצלת: מערכות ימשיכו להשתפר במהירות במשימות צרות וניתנות למדידה, בעוד שההתקדמות במחקר פתוח ויצירתי תישאר איטית יותר. השאלה הפתוחה המרכזית שנותרה היא עד כמה מחקר מסוג זה הכרחי בכלל להשגת שיפור עצמי רקורסיבי אמיתי.