פוסט שהופץ ברשת החברתית Reddit מפנה למחקר חדש ב-arXiv הטוען כי רעיונות מסוימים יכולים להופיע שוב אצל סוכני AI גם אחרי שהזיכרון וההקשר שלהם נמחקו לחלוטין. הממצא, אם יאושר, מעלה שאלות על התנהגות בלתי צפויה של מודלי שפה לאורך זמן.
פוסט שפורסם בפורום r/singularity ברשת Reddit הפנה תשומת לב לממצא מחקרי מסקרן: לפי הפוסט, מחקר חדש שפורסם בפלטפורמת arXiv בוחן תופעה שבה רעיונות 'מתפשטים' באופן עצמאי בין סוכני AI (AI agents) — ואף ממשיכים להתקיים אצל סוכן בודד גם לאחר מה שמכונה 'איפוס הקשר' (context wipe), כלומר מחיקה מלאה של השיחה והזיכרון הקודמים שהמודל פעל איתם.
חשוב להדגיש: החומר שהופץ ברשת מציג בשלב זה בעיקר את כותרת המחקר ואת ההפניה למאמר המקורי, ללא פירוט מלא של המתודולוגיה, הניסויים או הנתונים שביססו את הממצא. לפיכך אין באפשרותנו למסור כרגע פרטים על אופן ביצוע הניסוי, היקפו, או המודלים הספציפיים שנבדקו.
במודלים של שפה גדולים (LLM), ה'הקשר' (context) הוא בעצם כל המידע שהמודל 'זוכר' במהלך שיחה נתונה — הוא כלול בחלון קלט מוגבל, ובסיומה נמחק. ההנחה הרווחת היא שלמודל אין 'זיכרון' אמיתי שמצטבר בין שיחות נפרדות, אלא אם הוא מתוכנת במפורש לשמור מידע חיצוני. הטענה שרעיון עשוי 'לשרוד' גם לאחר איפוס כזה, ואף לעבור בין סוכנים שונים, סותרת לכאורה את התמונה המקובלת הזו — ומכאן העניין שהיא מעוררת בקהילת ה-AI המקוונת.
התחום של agentic AI — מערכות שבהן מספר סוכני AI פועלים במקביל, מתקשרים ומשפיעים זה על זה — צובר תאוצה בשנה האחרונה, עם יישומים בתחומי אוטומציה, מחקר ותמיכה עסקית. אם אכן מתברר שמידע או 'רעיונות' עשויים לעבור בין סוכנים בדרכים שאינן מתוכננות במפורש על ידי מפתחי המערכת, המשמעות עשויה להיות רחבה: החל משאלות טכניות על אמינות ובקרה של מערכות רב-סוכניות, ועד לשיקולי בטיחות (AI safety) הנוגעים ליכולת של מפעילים לצפות ולשלוט בהתנהגות המודלים לאורך זמן.
עם זאת, יש לנקוט זהירות בפרשנות. ממצא בודד שמפורסם באמצעות פוסט ברשת חברתית — גם אם מפנה למאמר אקדמי — טרם עבר בהכרח ביקורת עמיתים (peer review) מלאה או שחזור עצמאי על ידי חוקרים אחרים. ככל הנראה מדובר בשלב מוקדם של בחינת התופעה, ולא בממצא סופי ומבוסס. הקהילה המקצועית צפויה לבחון בקרוב את המתודולוגיה המדויקת של המחקר, כדי להבין האם מדובר בתופעה עקבית ובעלת משמעות מעשית, או בתוצר של תנאי ניסוי ספציפיים שקשה להכליל מהם.
בשורה התחתונה, מדובר בעוד תזכורת לכך שההבנה של הקהילה המדעית לגבי אופן פעולתם הפנימי של מודלי שפה גדולים עדיין חלקית, ושתופעות בלתי צפויות ממשיכות לצוץ ככל שהמערכות הללו הופכות מורכבות ואוטונומיות יותר.