Nous Research: אפשר להסיר את ההטיה הפרו-סינית ממודל Qwen בכוונון עדין

חברת Nous Research האמריקאית פרסמה את Arete-27B, מודל open weights (מודל שהמשקלים שלו פתוחים להורדה) שמבוסס על Qwen3.8-27B של עליבאבא. לפי החברה, המודל עבר אימון שנועד להסיר ממנו את התעמולה של המדינה הסינית. כפי שדווח ב-The Decoder, אחרי כוונון עדין (fine-tuning) על כ-53 מיליון טוקנים, שיעור התשובות התעמולתיות ירד מ-22% לפחות מאחוז אחד. לפי החברה, היכולות הכלליות של המודל נשמרו. המודל ונתוני האימון שוחררו לציבור.

איך מודדים תעמולה

Nous, שמוכרת בעיקר בזכות סוכן הקוד הפתוח Hermes, טוענת שהמודלים הסיניים הפתוחים הם מהחזקים שיש, אבל ההתנהגות שהמדינה מחייבת בהם מוטמעת בתוך המשקלים עצמם. ב-Qwen3.8-27B זיהו החוקרים סירובים לענות, תשובות מתחמקות ותשובות שתואמות את עמדות המפלגה הקומוניסטית הסינית.

כדי למדוד את התופעה בנתה החברה מבחן משלה: 803 שאלות בשבע קטגוריות, ביניהן חופש הביטוי, אידיאולוגיה ממלכתית, חינוך, פרטיות ומעקב, דמוקרטיה וסביבה. לכל שאלה הוגדרו שתיים עד ארבע עובדות מתוך מקור מתוארך, כמו חוק, כתבה חדשותית או מאמר מחקר. את התשובות שפט מודל אחר, Grok 4.7 של xAI. הוא בדק אם התשובה מזכירה את העובדות, משמיטה אותן או סותרת אותן. השופט לא ידע איזה מודל כתב כל תשובה, והיה עליו לצטט את הניסוח הבעייתי. תשובה נחשבה תעמולה אם הציגה את הנרטיב הרשמי של בייג'ינג במקום העובדות, תמכה בו או הציגה אותו כנקודת מבט שקולה.

Qwen3.8-27B המקורי קיבל ציון 2.32 מתוך 5 בדיוק עובדתי, ו-22% מתשובותיו הכילו תעמולה. מודלים מערביים כמו Mistral Large 4 ו-Gemma 4 31B היו מתחת לאחוז אחד. GLM-5.3 הגיע ל-15%, ו-DeepSeek V4.1 Flash ל-16%.

גם המורה צריך להיות נקי

כמודל "מורה" לאימון בחרה Nous את Inkling של Thinking Machines Lab. לדבריה, מכיוון שמדובר במודל פתוח, השימוש בו לא מפר תנאי שימוש שאוסרים distillation, כלומר אימון מודל אחד על התשובות של מודל אחר. גם Nemotron 3 Ultra של אנבידיה נשקל, אבל לפי Nous הוא הראה סימנים של חריגות בנושאים שקשורים לסין. החוקרים חושדים שההטיה עברה אליו מאימון על מודלים סיניים פתוחים, ומדווחים על "זיהום" דומה גם בפרויקטים שלהם. ראוי לציין ש-Thinking Machines עצמה השתמשה, בין השאר, במודל הסיני Kimi K2.5 כדי לייצר נתוני אימון סינתטיים ל-Inkling.

האימון עצמו היה supervised fine-tuning בלבד: שני סבבים (epochs) על הנתונים, בלי reinforcement learning ובלי אופטימיזציה לפי העדפות. לדברי הצוות, לפני האימון הוסרו מהנתונים שאלות שחופפות למבחן.

התוצאות

Arete-27B קיבל 2.98 בדיוק עובדתי, ושיעור התעמולה שלו ירד ל-0.9%. השינוי הגדול ביותר נרשם בקטגוריית חופש הביטוי. שם הציון העובדתי עלה מ-0.89 ל-2.44, ושיעור התעמולה ירד מ-60% לאחוז אחד. כשמצב ההסקה (reasoning) מופעל, הציון מגיע ל-3.07, אבל המספר הזה מבוסס עד כה רק על שתיים מתוך חמש הרצות.

במבחן הפנימי Hermes Bench קיבל Arete-27B ‏65.60%, לעומת 65.77% למודל הבסיס. ב-Terminal-Bench 2.1 הציון עלה מ-67% ל-70%, אבל Nous עצמה לא רואה בזה שיפור אמיתי, כי תנאי הבדיקה היו שונים.

"השכבה של ההטיה במודל שמיושר לסין היא רדודה", כותבת החברה. "היא מוחלת מאוחר, היא מוחלת דק, וחמישים מיליון טוקנים של פיקוח שנבחר בקפידה מסירים אותה בלי להפריע לשום דבר שמתחתיה".

למה זה חשוב

ההטיה הסינית במודלים מתועדת היטב. ב-2025 מצאה NewsGuard שחמישה מודלים מובילים, ביניהם Qwen, חזרו על דיסאינפורמציה פרו-סינית או לא תיקנו אותה ב-60% מהמקרים. אם הממצאים של Nous יחזיקו, המשמעות ככל הנראה היא שמפתחים שרוצים להשתמש במודלים סיניים חזקים יכולים לתקן את ההטיה בעלות נמוכה יחסית, בלי לוותר על הביצועים.

עם זאת, כדאי לזכור שהמבחן, נתוני האימון וההגדרה של "תעמולה" הם כולם של Nous. גם הבחירה במודל של xAI כשופט עשויה להשפיע על התוצאות. בנוסף, החברה משנה כאן כיוון: Hermes 3 מ-2024 תוכנן להיות ניטרלי ולהתאים את עצמו לכל השקפת עולם שהוגדרה לו, ואילו Arete מבטיח במפורש "ערכים מערביים". נראה שהשאלה איננה רק אם אפשר להסיר הטיה, אלא גם איזו נקודת מבט באה במקומה.