מחקר חדש: טקסט של AI קשה יותר לקריאה, ואולי הסיבה היא אימון למתמטיקה ולקוד

רבים מרגישים לאחרונה שקשה יותר לקרוא טקסטים שנכתבו על ידי AI. מאמר חדש שעלה ל-arXiv מנסה למדוד את התחושה הזו ולהסביר אותה. החוקרים מצאו שמודלי שפה מובילים משתמשים יותר מבני אדם במבנים לשוניים שידוע שמקשים על הקריאה. ההסבר שהם מציעים: המודלים עוברים יותר ויותר אימון למשימות שבהן "צפיפות מידע" חשובה יותר מתקשורת ברורה.

את המאמר כתבו תומאס היקארו קלארק (Thomas Hikaru Clark), מטיאס מרטין (Matias B. Martin) וקייל מהוולד (Kyle Mahowald), והוא הועלה ב-21 באוקטובר 2026. כמו רוב המאמרים ב-arXiv, הוא עדיין לא עבר ביקורת עמיתים.

מה נמדד

החוקרים לא שאלו קוראים אם הטקסט "מרגיש" מסורבל. הם בדקו מאפיינים מתחום הפסיכובלשנות, שמחקרים קודמים כבר קישרו לקושי של בני אדם לעבד טקסט. בין המאפיינים:

• פסוקיות זיקה מושאיות: מבנים כמו "הכתב שהסנאטור תקף", שבהם צריך להחזיק בראש את שם העצם הראשון (הכתב) עד שמגיע הפועל. ובגרסה המקוצרת שלהן, בלי מילת הזיקה, שבאנגלית נפוצה מאוד.
• תלויות תחביריות ארוכות: מרחק גדול בין מילים שקשורות זו לזו במשפט.
• n-grams נדירים: צירופי מילים שלא נתקלים בהם לעיתים קרובות בשפה.
• שמות עצם מוערמים: שרשראות של שמות עצם צמודים.
• נושא דומם עם פועל של יצור חי: למשל "המחקר טוען" או "הנתונים מבקשים".

לצורך המחקר נבנה מאגר חדש של טקסטים שנוצרו על ידי AI במגוון תחומים. הטקסטים הושוו לכתיבה אנושית, וגם לפרפרזות שנוצרו ב-round-trip translation, כלומר תרגום הטקסט לשפה אחרת ובחזרה. ההשוואה השנייה מאפשרת לבדוק אם המודלים סתם מנסחים מחדש, או שהם בוחרים במבנים קשים יותר.

הממצאים

לפי תקציר המאמר, המודלים השתמשו במאפיינים הקשים לעיתים קרובות יותר מאשר הפרפרזות. בהשוואה לכתיבה אנושית, כל תשעת המודלים שנבדקו, מודלים מהשורה הראשונה ומעט מתחתיה, השתמשו יותר בנושאים דוממים עם פעלים של יצורים חיים ויותר ב-n-grams נדירים. רוב המודלים השתמשו גם בתלויות ארוכות יותר, בשמות עצם מוערמים רבים יותר, ובטקסטים שיחתיים גם ביותר פסוקיות זיקה מושאיות מקוצרות. החוקרים מצאו גם הבדלים משמעותיים בין משפחות מודלים שונות. התקציר לא מפרט אילו מודלים נבדקו.

ההסבר: אופטימיזציה למטרה אחרת

ההשערה המרכזית היא שהשפה האנושית התפתחה כדי שיבינו אותנו. מודלי AI, לעומת זאת, מאומנים יותר ויותר למשימות כמו מתמטיקה, קוד והסקה (reasoning), ושם התגמול הוא על דחיסת מידע רב לטקסט קצר, לא על כך שהקורא יבין בקלות.

כדי לבדוק את ההשערה, החוקרים ביצעו fine-tuning, כלומר אימון המשך, למודל שפה עם "קנס אורך" שמעניש תשובות ארוכות. לדבריהם, המודל התרחק בעקבות זאת מהתנהגות לשונית דמוית-אדם. הם מציגים את הניסוי הזה כהוכחת היתכנות בלבד, לא כהוכחה סופית.

למה זה חשוב

המשמעות של הממצאים היא ככל הנראה שהתחושה שטקסטים של AI נעשו "כבדים" יותר אינה רק עניין של טעם. ייתכן שזה תוצר לוואי של האופן שבו המודלים מאומנים היום. החוקרים כותבים שהממצאים מצביעים על הצירים שבהם דרישות העיבוד הלשוני של בני אדם ושל מודלי שפה לא מתיישבות, ועל כיוונים אפשריים לתיקון. אם ההשערה תתאמת, ייתכן שחברות ה-AI יצטרכו לאזן בין שיפור ביכולות טכניות לבין שמירה על בהירות. זו שאלה רלוונטית לכל מי שקורא כל יום סיכומים, מיילים ותשובות שכתבו מודלים.