מחקר: מודלי AI סיניים חוזרים על עמדות בייג'ינג או מסרבים לענות בנושאים פוליטיים רגישים
Aleph Alpha בדקה מודלים של עליבאבא, DeepSeek ו-Moonshot AI על 967 נושאים רגישים, כמו טיאננמן, טייוואן ושינג'יאנג. מערכת הדירוג של החברה קבעה שרק 17% עד 41% מהתשובות היו מאוזנות. לפי הדוח, ההטיה עוברת גם למודלים אחרים, ובהם מודל של אנבידיה שאומן בחלקו על נתונים שנוצרו בעזרת מודלים סיניים.
מודלי בינה מלאכותית סיניים נוטים לחזור על הקו הרשמי של בייג'ינג, או פשוט לסרב לענות, כשהם נשאלים על נושאים פוליטיים רגישים. כך עולה ממחקר של חברת ה-AI Aleph Alpha, שעליו דיווח האתר The Decoder. החברה בנתה benchmark (מבחן השוואתי) ובדקה בו מודלים של עליבאבא (Qwen), של DeepSeek ושל Moonshot AI (Kimi). המבחן כלל 967 נושאים "טאבו" שנבחרו ידנית, ובהם טבח כיכר טיאננמן, טייוואן ושינג'יאנג.
מערכת הדירוג האוטומטית של החברה, שמבוססת על AI, קבעה שרק 17% עד 41% מתשובות המודלים הסיניים היו מאוזנות. שאר התשובות חזרו על הדוקטרינה הרשמית, התחמקו מהשאלה או סירבו לענות. DeepSeek V4 Pro בלט בכך שסירב לענות על כשני שלישים מהשאלות. בהשוואה לכך, המודלים המערביים שנבדקו נתנו תשובות מאוזנות בשיעור גבוה בהרבה: Claude Sonnet 5 של אנתרופיק ב-70% מהמקרים, ו-Mistral Small ב-92%.
ניגוד עניינים מובנה
את הממצאים כדאי לקרוא לצד הקשר מסחרי ברור. Aleph Alpha משווקת את עצמה, יחד עם Cohere, כספקית של "sovereign AI", כלומר בינה מלאכותית ריבונית לממשלות. לכן יש לה אינטרס מובהק להבדיל את המודלים שלה מהמתחרים הסיניים. עם זאת, לפי The Decoder, הממצאים תואמים את רגולציית ה-AI בסין, שמחייבת מודלים הפונים לציבור לשקף "ערכי ליבה סוציאליסטיים". הם גם תואמים דיווחים אנקדוטליים שחוזרים על עצמם ובדיקות קודמות.
ההטיה מופיעה גם כשלא שואלים על סין
לפי הדוח, הנטייה הפרו-סינית מופיעה לפעמים גם בתשובות לשאלות שלא מזכירות את סין בכלל. כש-Qwen 3.6 נשאל על צנזורה בארצות הברית, הוא פתח בתשובה שנראתה מאוזנת, אבל סיים בהגנה על עמדת סין בנושא ממשל האינטרנט העולמי: "מדינות רבות, כולל סין, גם מנהלות מידע כדי להבטיח יציבות חברתית וביטחון לאומי".
בשאלות כלליות שאינן פוליטיות במפורש, המודלים הסיניים נתנו ברוב המקרים תשובות מאוזנות. ההטיה כמעט נעלמה, אבל עדיין נראתה במידה פחותה ב-Qwen 3.6 וב-DeepSeek V4 Pro. גם מחקר קודם של המכון המרכז-אירופי ללימודי אסיה (CEIAS) מצא את אותה "זליגה": כשעלו מונחים כמו זכויות אדם, אופוזיציה או מעקב, המודלים ענו פעמים רבות בנקודות המסרים הקבועות של בייג'ינג, כמו "עקרון אי-ההתערבות בעניינים פנימיים" ו"קהילה עם עתיד משותף לאנושות".
איך ערכים עוברים ממודל למודל
Aleph Alpha מכוונת גם למתחרה ישירה. לפי הדוח, ב-17% מהתשובות של מודל Nemotron Cascade 2 של אנבידיה הופיעו דפוסים של הקו המפלגתי. החברה מייחסת זאת לכ-3,500 דוגמאות, מתוך 9.3 מיליון דוגמאות האימון של המודל, שנוצרו בעזרת DeepSeek ו-Qwen. כשהמודל התבקש לנסח נאום בעד הכרה בטייוואן, הוא סירב, ובמקום זאת כתב תשובה פטריוטית שמגנה על עקרון "סין האחת" של בייג'ינג. גם כאן יש רקע מסחרי: אנבידיה מקדמת יותר ויותר מודלים משלה לשוק הממשלתי והארגוני, ובשוק הזה מתחרות גם Aleph Alpha ו-Cohere.
הממצא הזה מעניין אולי יותר מהשאר. מקובל לאמן מודלים על נתונים שנוצרו בידי מודלים אחרים (distillation). המשמעות, ככל הנראה, היא שאפילו כמות קטנה של נתונים כאלה יכולה להעביר הטיות פוליטיות למודלים שפותחו מחוץ לסין.
למה זה חשוב
מודלי שפה נושאים ערכים תרבותיים ופוליטיים, כי נתוני האימון שלהם מייצגים יתר על המידה נקודות מבט מסוימות, או כי בוחרים את הנתונים בכוונה. חוקרים מזהירים שחשיפה חוזרת לתשובות אחידות של AI עלולה להשפיע על הדרך שבה מיליארדי משתמשים חושבים ומתבטאים.
זו לא תופעה סינית בלבד. גם בארצות הברית יש ניסיונות לעצב מודלים לפי קו אידיאולוגי: אילון מאסק שינה שוב ושוב את Grok כדי שייתן תשובות נוטות ימינה. מנגד, מחקרים מצביעים על כך שמודלים נוטים בדרך כלל שמאלה, אולי כי התשובות שלהם נשענות יותר על ראיות מדעיות.
לפי The Decoder, לאיחוד האירופי נשארת בחירה בין שתי מערכות ערכים זרות, אלא אם מודלים אירופיים יצליחו להתחרות בביצועים ולהגיע לאימוץ רחב. ההערכה היא שזה בדיוק הטיעון ש-Aleph Alpha מבקשת לקדם, ולכן חשוב לקרוא את הממצאים שלה בזהירות המתבקשת.