OpenAI בשתי חזיתות של אבטחה: סופוס מקצרת חקירות ב-96%, ומבצעי השפעה של רוסיה ואיראן נחשפו
לפי OpenAI, חברת אבטחת הסייבר סופוס קיצרה ב-96% את זמן החקירה של איומי סייבר בעזרת Daybreak, ומטפלת באופן אוטומטי ב-52% מהמקרים בשירות ה-MDR שלה. במקביל, OpenAI חשפה מבצע השפעה רוסי ומבצע השפעה איראני ששתלו תוכן כוזב בכלי תקשורת לגיטימיים, וחסמה את חשבונות ה-ChatGPT שהיו מעורבים בהם.
OpenAI פרסמה השבוע שני עדכונים בתחום האבטחה. הראשון הוא סיפור לקוח: לפי החברה, ספקית אבטחת הסייבר סופוס (Sophos) קיצרה ב-96% את הזמן שנדרש לה כדי לחקור איומי סייבר, בעזרת Daybreak של OpenAI. השני הוא דוח חקירה: OpenAI חשפה מבצע השפעה רוסי ומבצע השפעה איראני שהשתמשו ב-ChatGPT, וחסמה את החשבונות שהיו מעורבים בהם.
סופוס: פחות זמן חקירה, אדם עדיין בתמונה
לפי עמוד המקרה שפרסמה OpenAI, סופוס משתמשת ב-Daybreak כדי לקצר ב-96% את זמן החקירה של איומי סייבר. בנוסף, 52% מהמקרים בשירות ה-MDR שלה מטופלים באופן אוטומטי. MDR, ובשמו המלא Managed Detection and Response, הוא שירות מנוהל שבו צוות חיצוני מנטר את מערכות הלקוח, מזהה תקיפות ומגיב להן. לפי OpenAI, הקיצור הזה מושג בלי לוותר על פיקוח אנושי.
המשמעות היא ככל הנראה שינוי בחלוקת העבודה במרכזי אבטחה. מרכזים כאלה מקבלים בכל יום כמות גדולה של התראות, ואנליסטים מבזבזים חלק ניכר מזמנם על איסוף הקשר ומיון ראשוני. אם מודל שפה לוקח על עצמו את השלב הזה, אנשי המקצוע יכולים להתרכז בהחלטות עצמן. עם זאת, הנתונים מגיעים מעמוד שיווקי של OpenAI, ולא פורסם לצדם פירוט של שיטת המדידה.
"Dark Clark" ו-"Bogus Bylines": תעמולה שנשתלה בתקשורת
העדכון השני נוגע לאופן שבו גורמים מדינתיים משתמשים בכלים של OpenAI. כפי שדיווח האתר The Decoder, שני המבצעים לא התבססו בעיקר על קמפיינים ברשתות החברתיות. במקום זאת הם השתמשו בזהויות בדויות כדי לשתול תוכן בכלי תקשורת לגיטימיים.
המבצע הרוסי, שכונה "Dark Clark", הפיץ דיסאינפורמציה באמריקה הלטינית במטרה להכפיש את אוקראינה ולערער את הפוליטיקה המקומית. לפי הדוח, המפעילים שלטו במכון מחקר (think tank) באמצעות דמות בדויה, וככל הנראה גייסו עובדים מקומיים שלא ידעו במה הם מעורבים. קובצי שמע ומסמכים מפוברקים הובילו לבדיקות עובדות ולהכחשות רשמיות באקוודור ובפרו. OpenAI דירגה את המבצע בקטגוריה 5 מתוך 6 ב-Breakout Scale, סולם שמודד עד כמה מבצע השפעה חורג מהקהל שאליו כוון. הסיבה לדירוג היא שפוליטיקאים הגיבו לתוכן. זהו המקרה הראשון בקטגוריה 5 בשנתיים וחצי שבהן OpenAI מפרסמת דוחות כאלה.
המבצע האיראני, "Bogus Bylines", הפעיל שבעה עיתונאים בדויים. דרכם הוא הצליח להציב כמעט 100 כתבות על העימות בין ארה"ב לאיראן באתרי חדשות ברחבי העולם. המפעילים יצרו גם תגובות ברשתות החברתיות, אבל אלה כמעט לא זכו לתהודה.
לפי הדוח, בשני המבצעים שימשה הבינה המלאכותית בעיקר לכתיבת דיווחים פנימיים ולהתאמת התעמולה לשפות שונות. קודם לכן חשפה OpenAI קמפיין רוסי אחר, שהתבסס על רשתות חברתיות ועל מכון מחקר מזויף.
למה זה חשוב
שני הסיפורים מציגים את אותה טכנולוגיה משני צדדים. אצל המגינים היא משמשת להאצת חקירות. אצל התוקפים היא משמשת כלי עזר מבצעי לתרגום ולהתאמה של מסרים. מהדוח עולה ככל הנראה שהשפעת המבצעים לא נבעה מהיכולות של המודל. היא נבעה מהיכולת שלהם לחדור לכלי תקשורת אמיתיים ולמכוני מחקר, ואלה הם ערוצים שקוראים נוטים לסמוך עליהם יותר מאשר על פוסט אנונימי. בעבור עורכים ומערכות חדשות, המשמעות היא שבדיקת זהותם של כותבים ומקורות חיצוניים הופכת לחלק מהגנת הסייבר.