OpenAI חשפה ושיבשה שני מבצעי השפעה שהתחזו לעיתונאים ולמכון מחקר
OpenAI הודיעה ששיבשה שני מבצעי השפעה שנעזרו בבינה מלאכותית ופעלו מאחורי "חזית כוזבת": עיתונאים בדויים ומכון מחקר (think tank), שדרכם הופצו מסרים גיאופוליטיים. החשיפה ממחישה איך כלי AI משמשים לבניית זהויות אמינות למראה, ולא רק לייצור תוכן בכמויות.
OpenAI הודיעה ששיבשה שני מבצעי השפעה שנעזרו בבינה מלאכותית. לפי הודעת החברה, המבצעים הפעילו "חזיתות כוזבות" (false fronts): עיתונאים בדויים ומכון מחקר (think tank), ודרכם הפיצו מסרים גיאופוליטיים.
בתקציר ההודעה החברה לא פירטה מי עומד מאחורי המבצעים, באילו מדינות או פלטפורמות הם פעלו, מה היה היקפם וכמה חשבונות נחסמו. לכן הכתבה הזו מתמקדת במה שידוע: שני מבצעים, שתי שיטות הסוואה, ומטרה גיאופוליטית.
מה זה מבצע "חזית כוזבת"
מבצע השפעה (influence operation) הוא ניסיון מתואם לעצב את דעת הקהל, בדרך כלל בלי שהקהל יודע מי באמת מעביר לו את המסר. בגרסת "החזית הכוזבת" המפעילים לא מסתפקים בהצפת הרשת בפוסטים. הם בונים גוף שנראה לגיטימי, למשל כתב עם שם, ביוגרפיה ומאמרים, או מכון מחקר שמפרסם "ניתוחים" ו"דוחות". המטרה היא לשאול את האמינות שהציבור מייחס לעיתונות ולמחקר ולהשתמש בה כדי להעביר מסר פוליטי, בלי שהמקור האמיתי ייחשף.
לעיתונאי או למכון מחקר יש יתרון ברור על פני חשבון אנונימי: קל יותר לצטט אותם, לשתף אותם ולהתייחס אליהם ברצינות. כשמסר גיאופוליטי מגיע בעטיפה של "פרשנות מומחים", קוראים, ולעיתים גם כלי תקשורת אמיתיים, עלולים להפיץ אותו הלאה.
איפה נכנסת הבינה המלאכותית
ההודעה מתארת את המבצעים כ-AI-enabled, כלומר מבצעים שנשענו על כלי בינה מלאכותית. בתקציר אין פירוט של אופן השימוש, אבל ככל הנראה המשמעות היא שמודלי שפה (LLM) הקלו על החלקים שבעבר דרשו הכי הרבה עבודה: כתיבת מאמרים שוטפים בכמה שפות, בניית פרופילים משכנעים לדמויות בדויות ושמירה על קצב פרסום קבוע. פעולות כאלה דרשו בעבר צוות של כותבים, ועכשיו אפשר לבצע אותן עם הרבה פחות אנשים.
למה זה חשוב
OpenAI מפרסמת מעת לעת דיווחים על שיבוש שימושים לרעה במודלים שלה, ובהם מבצעי השפעה. מהחשיפה הנוכחית אפשר ללמוד שתי מסקנות, ושתיהן בגדר הערכה:
הסיכון עובר מכמות לאמינות. הדיון הציבורי על AI ודיסאינפורמציה עסק עד היום בעיקר ביכולת לייצר כמויות עצומות של תוכן. מבצעים מסוג "חזית כוזבת" מעידים כנראה על כיוון אחר: שימוש ב-AI כדי לבנות דמויות ומוסדות שנראים אמינים, שקשה יותר לזהות ולהפריך.
החברות הן גם קו ההגנה. מי שמפעילות את המודלים יכולות לראות דפוסי שימוש חשודים ולחסום אותם, ולכן הן ממלאות תפקיד הולך וגדל בזיהוי מבצעים כאלה. עם זאת, כשהחברות עצמן הן שמחליטות מה לחשוף ובאיזה פירוט, קשה לבחון באופן עצמאי את היקף התופעה ואת אפקטיביות החסימות.
לקורא הישראלי, שמכיר היטב מבצעי השפעה ברשתות החברתיות, המסקנה המעשית פשוטה: גם "עיתונאי" עם היסטוריית פרסומים ו"מכון מחקר" עם אתר מרשים הם לא בהכרח מה שהם נראים. כדאי לבדוק מי עומד מאחוריהם לפני שמשתפים.