OpenAI: מפעילים מאיראן ניצלו את ChatGPT כדי להחדיר כמעט 100 מאמרי תעמולה לאתרי חדשות במערב
OpenAI חשפה מבצע השפעה שבו מפעילים מאיראן השתמשו ב-ChatGPT כדי לבנות שבע זהויות של כותבים מערביים בדויים. תחת השמות האלה אותרו כמעט 100 מאמרים שפורסמו או הופצו מחדש ביותר מתריסר אתרים מאז יולי 2025, בהם גם טורים על הפוליטיקה הישראלית.
מפעילים מאיראן נעזרו ב-ChatGPT כדי להכניס כמעט 100 מאמרים לאתרי חדשות ודעות במערב, תחת שמות של עיתונאים שאינם קיימים. כך חשפה OpenAI, והפרשה דווחה גם ב"וושינגטון פוסט". החברה חסמה את החשבונות, שמפעיליהם פעלו מאיראן והסתירו את מיקומם באמצעות VPN.
איך זה עבד
לפי OpenAI, בפרשה הזאת המודל לא פעל על דעת עצמו, אלא ביצע הוראות של בני אדם. המפעילים בנו שבע זהויות של כותבים מערביים, רובם אמריקנים. הם כתבו ל-ChatGPT בפרסית וביקשו ממנו ללטש מאמרים באנגלית על המלחמה בין ארה"ב לאיראן, להתאים אותם לכללי ההגשה של כל אתר ולנסח פנייה לעורך.
"ארווין הוסקינס", למשל, הוצג ככותב עצמאי אמריקני ופעיל נגד מלחמות, והיו לו גם חשבונות ברשתות החברתיות. לזהות אחרת, "מייקל הריסון", ביקשו המפעילים מהמודל לכתוב ביוגרפיה שלמה. תחת השמות האלה ואחרים אותרו כמעט 100 מאמרים שפורסמו או הופצו מחדש ביותר מתריסר אתרים, מיולי 2025 ועד היום.
טורים על ישראל, ולא בהכרח אנטי-ישראליים
חלק מהמאמרים עסקו בפוליטיקה הישראלית, וחלקם מתוחכמים למדי. "נואה למינגטון" ניתח באתר International Policy Digest את משבר גיוס החרדים ואת יציבות ממשלת נתניהו. "הוסקינס" כתב ב-Modern Diplomacy על איסור הכניסה של איתמר בן גביר לצרפת. הוא ביקר שם את בן גביר ואת היעדר הלחץ האמריקני עליו, אבל גם כתב במפורש שהוא תומך בביטחון ישראל ואינו קורא לארה"ב לנטוש אותה. מאמר אחר שלו, ב-LA Progressive, שאל אם קשריו העסקיים של ג'ארד קושנר במפרץ משפיעים על מדיניות ארה"ב כלפי איראן.
ככל הנראה זה העיקר בשיטה: טקסטים מאוזנים לכאורה עוברים את סינון העורכים בקלות רבה יותר, וכך בונים לכותב הבדוי אמינות.
גם אתרים בעלי קהל משמעותי פרסמו את התכנים. האתר הבריטי Middle East Monitor פרסם לפחות 21 מאמרים בארבע חתימות ש-OpenAI זיהתה כבדויות. האתר הודיע שהסיר את המאמרים שזוהו ושהוא בוחן מחדש את הדרך שבה הוא מקבל טורים. תכנים דומים הופיעו גם ב-Daily Kos, שמזוהה עם המפלגה הדמוקרטית, במדור קהילתי שעורכי האתר אינם בודקים לפני הפרסום. לעיתים האתרים אף קידמו את המאמרים בחשבונות הרשמיים שלהם ברשתות החברתיות.
שלב שני: תגובות ברשתות
אחרי הפרסום השתמשו המפעילים ב-ChatGPT גם כדי לייצר תגובות ברשתות החברתיות. לפי OpenAI, המטרה הייתה להציג את ארה"ב כתוקפנית, את ישראל כבעלת ברית לא אמינה ואת איראן כקורבן שעומד על שלו. חלק מהתגובות שיבחו מאמרים שהרשת עצמה החדירה לאתרים.
הרשת פעלה גם נגד Iran International, ערוץ חדשות בפרסית שמבקר את המשטר בטהרן. המפעילים יצרו באמצעות ChatGPT יותר משני תריסרי מקבצים של תגובות עוינות לפוסטים של הערוץ. במאמר שפורסם בשם "סופיה גונזלס" ב-LA Progressive וב-CounterPunch נטען שנתניהו דחף את טראמפ למלחמה, ושהערוץ עזר להפיץ את הרושם שאיראנים מברכים על התקיפות.
למה זה חשוב
הפרשה ממחישה כמה זול נעשה לייצר כותב בדוי ומשכנע: ביוגרפיה, סגנון כתיבה באנגלית, מכתב לעורך ותגובות תמיכה, והכול בלי לשלוט בשפה. נראה שנקודת התורפה המרכזית אינה הטכנולוגיה עצמה אלא תהליכי קבלת הטורים באתרים, בעיקר במדורים פתוחים שאין בהם בדיקה מוקדמת. העובדה ש-Middle East Monitor בוחן מחדש את הנהלים שלו מרמזת שגם גופי תקשורת אחרים יצטרכו לבדוק את זהות הכותבים שפונים אליהם.
החשיפה פורסמה כמעט במקביל לדיווח של אנתרופיק על סוכני AI שחרגו מהמשימות שקיבלו. ממשל טראמפ הגיב בזעם ודרש מהחברות לדווח מיד על אירועים כאלה.