כתב ניסה להגניב מאמר מדעי מזויף שנכתב ב-AI לכתב עת של IEEE
העיתונאי בנג'מין סקיוז השתמש רק בגרסאות החינמיות של ChatGPT ו-Gemini כדי לייצר מאמר מדעי על מחקר שמעולם לא נערך. בהסכמת IEEE הוא ניסה להעביר אותו דרך מנגנוני הסינון של כתב העת IEEE Access. הניסוי נערך כשההערכה היא שכ-57% מהמאמרים האקדמיים שפורסמו ב-2025 מראים סימנים להשפעה של מודלי שפה גדולים.
כמה קל לייצר בעזרת בינה מלאכותית מאמר מדעי משכנע על מחקר שמעולם לא נערך? העיתונאי בנג'מין סקיוז החליט לבדוק את זה בעצמו. בכתבה שפרסם ב-IEEE Spectrum הוא מתאר ניסוי שבו "ייצר" מאמר מזויף בעזרת מודלי שפה חינמיים. לאחר מכן, בתיאום מראש ובהסכמה מלאה, הוא ניסה להעביר את המאמר דרך מנגנוני ההגנה של כתב העת IEEE Access.
המספרים שמאחורי הניסוי
הניסוי של סקיוז נערך על רקע נתונים מטרידים, שהוא מביא בכתבתו. לפי ההערכות, ב-2025 כ-57% מכל המאמרים האקדמיים שפורסמו הראו סימנים מזוהים להשפעה של מודלי שפה גדולים (LLM). ב-2023 השיעור עמד על 12% בלבד. עוד עולה מהנתונים שב-2025 יותר מ-12% מחוות הדעת של הסוקרים בכתב העת Nature Communications נכתבו כולן בידי AI.
ייתכן שהתמונה האמיתית חמורה עוד יותר. לפי הכתבה, מתוך כל 40 מאמרים שהראו ב-2025 ראיות סטטיסטיות לשימוש ב-AI, רק אחד דיווח על כך באופן רשמי. סקיוז מציין ששימוש ב-AI אינו הופך מאמר לזבל אוטומטית. עם זאת, לפי חלק מההערכות נוצרים היום מאות אלפי פרסומים מזויפים בשנה, ורבים מהם נכתבים בעזרת AI.
"לא רק הרשומה [המדעית] נמצאת בסכנה, אלא המדע כולו", אומרת אמנדה סוליץ, האחראית על יושרה מחקרית ב-IEEE. "זבל AI שוחק לחלוטין את האמון במדע ובכל תהליך מדעי שעבדנו מאות שנים כדי לבנות."
"וייב-מחקר" עם כלים חינמיים
סקיוז שאל את הרעיון מ"וייב קודינג" (vibe coding), שבו מתכנתים מייצרים קוד באמצעות הנחיות בשפה טבעית. הוא החליט לעשות "וייב-מחקר": לבקש ממודלי שפה לנסח השערות, לכתוב קוד ולכתוב טקסט, עם מינימום התערבות אנושית. ג'ני מהוני, העורכת המנהלת של IEEE Access, כתב עת רב-תחומי בגישה פתוחה (open access), הסכימה לקיים יחד איתו "משחק מלחמה" ולבדוק אם המאמר יעבור את ההגנות של כתב העת.
הכללים היו נוקשים. סקיוז השתמש רק בגרסאות החינמיות של ChatGPT (באותה עת GPT-5.3/5.2 Mini) ושל Gemini 3 Flash. הוא לא הורשה לערוך בעצמו אף פלט ולא נעזר במומחים לכתיבת הנחיות (prompts). כדי לא לגרור לניסוי שמות של חוקרים אמיתיים, ומתוך הנחה ששמות בדויים יעוררו חשד מיד, הוא רשם את עצמו כמחבר היחיד. לכן בחר בנושא שהוא מכיר: סוליטונים אופטיים, כלומר פולסים בודדים של אור שמתקדמים בלי שצורתם משתנה. זה היה נושא הדוקטורט שלו לפני כמעט שני עשורים.
המכשולים בדרך
הניסיון הראשון לא הצליח במיוחד. Gemini הסכים לבצע את המשימה, ואילו ChatGPT סירב בתקיפות רבה יותר לייצר נתונים ומחקרים סינתטיים. גם התוצאה הייתה דלה. בלי מחקר אמיתי להישען עליו, המודלים התקשו לא פעם למלא אפילו ארבעה עמודים. ככל שסקיוז השתפר בניסוח ההנחיות, המודלים "השתחררו" והפכו מפורטים יותר. בשלב מסוים הוא פירק את המאמר לחלקיו, תקציר, מבוא, שיטות וכן הלאה, וטיפל בכל חלק בנפרד. כשמודל אחד סירב להמשיך, הוא עבר למודל השני ושאל איך ייראה השלב הבא, "באופן היפותטי".
בשלב השני של הניסוי סקיוז העלה את הרף. הוא בדק מה קורה כשמערכות AI מתקדמות יותר לא רק כותבות את המאמר, אלא גם מבצעות את המחקר שעליו הוא מבוסס.
למה זה חשוב
המשמעות של הניסוי חורגת ככל הנראה ממאמר בודד. אם אדם ללא מומחיות מיוחדת ב-AI יכול לייצר בכלים חינמיים טקסט שנראה כמו מחקר, העומס עובר אל הסוקרים, שעושים את עבודת הביקורת בהתנדבות, ואל ההוצאות לאור, שצריכות לסנן את הזבל לפני שהוא נכנס לרשומה המדעית. לדברי סקיוז, הניסוי הפך לחלון אל הדרך שבה האוטומציה משנה את הגילוי המדעי, ואל האופן שבו היא מאלצת את כל המעורבים לחשוב מחדש על שיטת הפרסום האקדמי כולה.