מחקר MIT: GPT-6 Astra משנה ישירות את המשקלים של מודלי AI אחרים

חוקרים מ-MIT מדווחים ש-GPT-6 Astra, מודל השפה של OpenAI, מסוגל לנתח ולשנות ישירות את הערכים המספריים הפנימיים של מודלי AI אחרים, שנקראים משקלים (weights). השינוי נעשה בלי תהליך האימון המקובל. בניסוי המעשי ביותר, Astra שינה 0.016% בלבד מהמשקלים של מודל שפה קטן, ודיוק המודל בבעיות מתמטיקה עלה מ-7.9% ל-48.1%. כך דיווח האתר THE DECODER, על בסיס בלוג מחקר שפרסמו החוקרים.

מכונאי שמסובב כפתורים

כל מה שמודל AI יודע שמור במשקלים שלו: מיליוני ואף מיליארדי מספרים, מסודרים בטבלאות ענק שנקראות מטריצות. בדרך כלל מכוונים את המספרים האלה באימון, כלומר בתהליך אופטימיזציה מתמטי ארוך ויקר שמתקדם צעד אחר צעד. החוקרים קוראים לגישה החדשה "Weight-Space Programming" (תכנות במרחב המשקלים). לפי התיאור שלהם, במקום לאמן את המודל מחדש, מודל שפה פועל כמו מכונאי שמסובב כפתורים בודדים. בחלק מהניסויים Astra עבד ישירות על רשימות המספרים, ובאחרים נעזר בכלי תכנות ובמשוב מהרצות ניסיון.

לזהות מה מודל למד מתוך המספרים בלבד

בסדרה של ניסויים קיבל Astra את המשקלים הגולמיים של רשתות מאומנות, ונשאל מה הן למדו. הוא זיהה נכון לאיזה מבין ארבעה משחקי מחשב אומנה כל רשת. הוא גם זיהה את הצורות הבסיסיות שמחולל תמונות יצר, אבל בלבל בין צורות מלאות לקווי מתאר. בנוסף, הוא קבע נכון באיזו שפה אומנו מודלי שפה קטנים, בלי גישה לנתוני האימון ובלי אפשרות להריץ את המודלים.

במבחן אחר הוצגו ל-Astra זוגות של מודלים, והוא היה צריך לזהות איזה מהם אומן להסכים תמיד עם המשתמש. מתוך המשקלים בלבד הוא לא הצליח להבחין ביניהם. רק כשקיבל גם אפשרות לראות במה המודלים מתמקדים בזמן עיבוד הטקסט, הוא זיהה נכון את המודל המתחנף בכל שלושת הזוגות.

Astra גם כתב משקלים מאפס. על סמך חוקי המשחק וקוד המקור בלבד הוא יצר מודלים לשלושה משחקי מחשב פשוטים. ב-Breakout המודל שלו השיג ממוצע של 517 נקודות, לעומת 25 למודל שאומן בשיטה רגילה. בשני המשחקים האחרים הוא פיגר אחרי הגרסאות שאומנו הכי הרבה זמן. במשחק Go על לוח 9x9, Astra כתב רשת של כ-1.5 מיליון פרמטרים. הוא קיבל 50 סבבי בדיקה, ובכל סבב הרשת שיחקה עד 128 משחקי אימון ו-Astra תיקן את המשקלים. בסוף התהליך הרשת שלו ניצחה מודל בגודל דומה שאומן על כ-20 מיליון משחקים.

תיקון ממוקד ל-Qwen

הניסוי שנראה הכי רלוונטי לשימוש בפועל נעשה על Qwen3.5-0.8B, מודל שפה קטן ממשפחת Qwen של עליבאבא. Astra קיבל סביבת קוד ו-50 סבבי בדיקה על תרגילי מתמטיקה, וההערכה נעשתה על בעיות נפרדות שהוא לא ראה קודם. הוא זיהה בעיה שגם התיעוד של Qwen מזהיר מפניה: לולאות חשיבה, שבהן המודל חוזר שוב ושוב על אותו טקסט ולא מגיע לתשובה.

אחרי השינוי עלה הדיוק במבחן MATH-500 מ-7.9% ל-48.1%, והיכולת לציית להוראות עלתה מ-21% ל-62%. הלולאות לא נעלמו לגמרי: שליש מהתשובות עדיין הגיעו לאורך הטקסט המקסימלי, לעומת 93% לפני השינוי. במודל קטן יותר, Gemma 3 270M של גוגל, שכמעט לא נתקע בלולאות כאלה, Astra לא השיג שום שיפור מדיד.

החוקרים משערים ש-Astra הסיר ב-Qwen חסימה שדיכאה יכולות שכבר היו במודל. לדבריהם, בניסוי הזה לא הייתה אפשרות להוסיף על ידי שינוי משקלים בודדים יכולות שחסרות למודל מלכתחילה. המשמעות היא ככל הנראה שהשיטה מתאימה בעיקר לתיקון תקלות, ופחות ללימוד כישורים חדשים.

"כובע ישן"?

חלוץ ה-AI יורגן שמידהובר כתב ב-X שהגישה היא "old hat" (משהו ישן), והפנה לעבודות שלו משנות ה-90. Khattab מצוות המחקר השיב שהמאמר מפנה לעבודות האלה, ושהן "הקדימו את זמנן בהרבה". לדבריו, מה שחדש הוא עד כמה טוב מודלי השפה של היום מתרגמים בין שפה אנושית לבין הערכים המספריים של רשת.

החוקרים מציעים כמה שימושים אפשריים, למשל ביקורות אבטחה שנעשות ישירות על המשקלים, ושינויי התנהגות ממוקדים בלי אימון מחדש יקר. הם גם מודים שהיכולות עדיין מוגבלות. הצעד הבא שלהם הוא benchmark (מבחן השוואתי) למדידה שיטתית. יומני הניסויים פורסמו ב-GitHub, ומודל Qwen המתוקן זמין ב-Hugging Face. אם התוצאות יחזיקו גם במודלים גדולים יותר, ייתכן שחלק מעבודת הכוונון של מודלים יעבור מאימון ארוך לעריכה ממוקדת. בינתיים מדובר בניסויים על מודלים קטנים.