"עדות לכך ש...": כך מתנדבי ויקיפדיה מנסים לזהות ערכים שנכתבו בידי AI
אליה לבלה, ממייסדות WikiProject AI Cleanup, מספרת בראיון ל-IEEE Spectrum שסימני הכתיבה של AI נעשו עדינים יותר, ושציטוטים שגויים הפכו לבעיה מרכזית. לפי הערכה שמרנית של כלי הזיהוי Pangram, בסוף 2025 כ-20% מהערכים והטיוטות החדשים בוויקיפדיה האנגלית סומנו כתוכן שנוצר בידי AI. בתחילת 2026 השיעור ירד ל-15-16%.
בסוף 2025 סימן כלי לזיהוי טקסט מכונה כ-20% מהערכים והטיוטות החדשים בוויקיפדיה האנגלית כתוכן שנוצר בידי AI. בתחילת 2026 השיעור ירד ל-15 או 16 אחוזים. את הנתונים מסרה אליה לבלה (Ellia Lebleu), ממייסדות WikiProject AI Cleanup, בראיון ל-IEEE Spectrum. זו קבוצת מתנדבים שמאתרת בוויקיפדיה תוכן שנוצר בידי AI ומפר את ההנחיות של האתר, ומסירה אותו.
"עומד כעדות" ו"מורשת תרבותית עשירה"
לבלה, דוקטורנטית ל-AI במרכז Inria של אוניברסיטת רן בצרפת, מספרת שהבעיה התחוורה לה בסביבות דצמבר 2023. היא ועורכים נוספים שוחחו בשרת ה-Discord של ויקיפדיה, וגילו שכולם נתקלו בערכים מוזרים שחוזרים על אותם דפוסים: ביטויים כמו "stands as a testament" ("עומד כעדות") ו-"rich cultural heritage" ("מורשת תרבותית עשירה"), פרקי סיכום, ולפעמים אפילו פרק בשם "למה זה חשוב?". לדבריה, הדפוסים האלה היו אופייניים ל-ChatGPT ב-2023 ובתחילת 2024, זרים לגמרי לסגנון של ויקיפדיה, וקל מאוד היה לזהות אותם. בעקבות זה הקימה פרויקט רשמי באתר, כדי שעורכים נוספים יוכלו להצטרף לטיפול בבעיה.
ב-2025 הסימנים כבר היו עדינים יותר, ונגעו יותר במבנה מאשר בניסוח. לבלה מונה, למשל, את חיבתו של ה-AI ל"כלל השלוש" (מנייה קבועה של שלושה פריטים) ול"הקבלות שליליות" (מבנים כמו "זה לא רק X, אלא Y"). כל סימן כזה לא מוכיח דבר לבדו, אבל כשהם מצטברים הם מתחילים להעיד על משהו. המתנדבים בודקים גם את ההתנהגות של מי שכתב: "אם מישהו כותב חמישה ערכים של אלפי מילים כל אחד בתוך חמש דקות, יש סיבה לחשוד ב-AI".
הציטוטים כבר אמיתיים, התוכן לא
לדברי לבלה, הדאגה הגדולה כיום היא ציטוטים כוזבים או מטעים. מקרים שבהם מודל ממציא מקור שלא קיים נעשו נדירים בזכות retrieval-augmented generation, טכניקה שמאפשרת למודל לחפש מקורות אמיתיים. הבעיה הנפוצה יותר היא שהמודל מוצא מקור אמיתי, אבל מציג את תוכנו באופן שגוי לחלוטין. "ציטוטים של AI שלא באמת תומכים במה שנכתב הם דבר שכיח ביותר", היא אומרת. הבעיה הזאת ככל הנראה קשה יותר לגילוי: כדי לזהות אותה, מישהו צריך לפתוח את המקור ולקרוא אותו.
AI נגד AI
ויקיפדיה האנגלית אסרה לאחרונה על עורכים להשתמש במודלי שפה גדולים (LLM) כדי לייצר ערכים. כדי להעריך כמה תוכן כזה עדיין עובר, לבלה עובדת עם חברת הזיהוי Pangram. היא בדקה את הכלי על תוכן מוויקיפדיה מהתקופה שלפני ChatGPT ולא מצאה אף זיהוי שגוי. לכן, לדבריה, התוצאות שלו הן "חסם תחתון שמרני מאוד", כלומר השיעור האמיתי עשוי להיות גבוה יותר. גם לירידה מ-20% ל-15-16% אין עדיין הסבר ודאי. ייתכן שהמדיניות החדשה משפיעה, וייתכן שהמודלים פשוט השתפרו ו-Pangram עוד לא הספיקה להסתגל אליהם.
במקביל המתנדבים מפתחים כלים משלהם. אחד מעורכי הפרויקט בנה מאמת מקורות מבוסס AI, שעובר על המקורות בדף ובודק אם הם תואמים את הטענות בטקסט. לבלה מודה שמכיוון שגם הוא מודל AI, אין ערובה שיצדק בכל פעם. עם זאת, לדבריה, הוא צעד ראשון טוב לסינון של מקרים ברורים בהיקפים גדולים. קרן ויקימדיה, מצדה, עובדת על כלי בשם Paste Check, שיכול לסמן טקסט שהודבק ישירות מצ'אטבוטים מסוימים.
לבלה מציינת גם ש-Claude של אנתרופיק משיב לעיתים שאינו יכול לכתוב ערך לוויקיפדיה, כי הדבר יפר את מדיניות האתר. לדעתה, גם אם כל חברות ה-AI הגדולות יאמצו סירוב כזה, הבעיה לא תיפתר לגמרי, כי קיימים מודלי open-weight (מודלים שהמשקלות שלהם פתוחים לציבור) שאפשר לשנות כך שיעקפו את המגבלות. ובכל זאת, סירוב כזה יעזור מול משתמשים שעובדים עם מודלים מסחריים ואינם מכירים את הטכנולוגיה לעומק.
האם האיסור עובד?
לדברי לבלה, עוד מוקדם לקבוע. רוב התוכן שנוצר בידי AI מגיע מעורכים מתחילים, ולכן הפרויקט השקיע מאמצים להבליט את הכלל בהודעות הפתיחה, בעזרה לעריכה ובהנחיות לכותבים.
השאלה הפתוחה הגדולה, לדבריה, היא מה יקרה אם AI יוכל יום אחד לכתוב ערכים אמינים באמת. ההנחיה הנוכחית התקבלה מסיבות מעשיות מאוד: האתר הוצף בתוכן AI, ולא היו בידי העורכים כלים טובים להתמודד איתו. המשמעות, ככל הנראה, היא שהוויכוח על מקומו של AI באנציקלופדיה הנפוצה בעולם עוד לא הוכרע. ככל שהמודלים ישתפרו, ההבחנה בין "קשה לזהות" לבין "אין צורך לזהות" עשויה להפוך לשאלה המרכזית.