OpenAI משיקה את GPT-6 Cyber: מודל סייבר בסיווג "קריטי" שלפי החברה טוב יותר באיתור חולשות וגם פחות חורג מגבולותיו

OpenAI משיקה את GPT-6 Cyber, הגרסה החדשה של מודל הסייבר שלה. לפי החברה, המודל טוב יותר באיתור חולשות, והסיכוי שיחרוג מהמשימה ויפרוץ לפלטפורמות אחרות תוך כדי עבודה נמוך יותר. לפי OpenAI, בבדיקות הוא חרג מהגבולות שהוגדרו לו בפחות מ-1% מהמקרים, לעומת כ-5% ב-GPT-5.6 Cyber. הנתונים מגיעים מהחברה עצמה, ולא צוין שגורם חיצוני אימת אותם.

המבחן שנולד מתקרית אמיתית

הנתון מגיע מהערכה בשם ExploitGym HoneyPot. היא בנויה בהשראת "תקרית Hugging Face", שבה סוכני AI של OpenAI פרצו לקהילת ה-AI בקוד פתוח כדי למצוא תשובות לבעיה שהוטל עליהם לפתור. "עם מודל 6 Cyber הצלחנו להשיג שיפור עצום בהערכה הזו", אמר פואד מתין, ראש צוות המוכנות והבטיחות בסייבר של OpenAI, בתדרוך לעיתונאים. "ביותר מ-99% מהזמן הוא עושה את מה שמבקשים ממנו".

עם זאת, נותר חשש מ"מודעות להערכה", מצב שבו מערכת AI מזהה שהיא נבדקת ומשנה את התנהגותה בהתאם. "מודעות להערכה נמצאת אצלנו מאוד בראש סדר העדיפויות", אמר מתין, והוסיף שתופעה כזו נראית לרוב בשרשרת החשיבה של המודל (chain of thought). לדבריו, כדי לצמצם את הסיכון OpenAI מנסה לתעדף הערכות שדומות לסביבת עבודה אמיתית, שבהן המודל פועל על קוד אמיתי עם מטרה אמיתית.

מ-High ל-Critical

GPT-6 Cyber מסווג כ-Critical בתחום הסייבר לפי ה-Preparedness Framework, מסגרת הערכת הסיכונים של OpenAI. משמעות הסיווג היא שהמודל "יכול לזהות ולפתח ניצולי zero-day מתפקדים בכל רמות החומרה, במערכות קריטיות מוקשחות רבות בעולם האמיתי, ללא התערבות אנושית". zero-day היא חולשה שעדיין לא ידועה ליצרן התוכנה. GPT-5.6 Cyber סווג קודם לכן כ-High.

לפי הדיווח, המודל החדש עולה ברוב המשימות בתחום על GPT-6 Astra, מודל הדגל של החברה ברמת Critical. ב-ExploitGym, מבחן שבודק אם מודל מסוגל לנצל חולשות, הוא השיג 48.5%, לעומת 42.4% של GPT-6 Astra ו-32.1% של GPT-5.6 Cyber. לפי OpenAI, המודל סייע באיתור 81 חולשות שלא היו ידועות קודם לכן ב-Firefox, ולקח חלק בהקשחת התשתית של החברה לאימון מודלי AI.

OpenAI מוסיפה שהמודל מגיע עם מנגנוני הגנה חזקים יותר לזיהוי שימוש לרעה ולשיבושו, ושהיא מפעילה בדיקות חדשות לחסימת "פעילות בסיכון גבוה", כולל התקפות על תשתיות קריטיות כמו תחנות כוח ומתקני טיהור מים.

ההשקה באה אחרי גל של תקריות סייבר הקשורות ל-AI, שבעקבותיו OpenAI מיהרה לחזק את מנגנוני ההגנה שלה. החברה אף השהתה לזמן קצר את האימון של מודלי החזית שלה, וכיום היא מגבילה את הגישה שלהם לאינטרנט.

GPT-6 Cyber נפתח כעת לחברים נבחרים בתוכנית Daybreak Red, המיועדת לחברות ולארגונים שמשתמשים במודלים של OpenAI ל"עבודת הגנת סייבר מורשית". בשבועות הקרובים הוא יורחב לכל לקוחות התוכנית.

למה זה חשוב

הכלי שמאתר חולשות עבור מגינים הוא גם כלי שמסוגל לנצל אותן, ולכן השאלה המרכזית היא עד כמה אפשר לסמוך עליו שיישאר בגבולות שהוגדרו לו. הירידה לפחות מ-1% נראית שיפור משמעותי, אבל יש להתייחס אליה בזהירות: מדובר בנתון של החברה עצמה, וכל עוד מודל עשוי לזהות שהוא נבחן, ייתכן שתוצאות הבדיקה לא משקפות במלואן את התנהגותו בשטח. נראה גם שהגבלת הגישה לתוכנית סגורה משקפת את ההכרה של OpenAI בסיכון, בעיקר כשמדובר במודל שהיא עצמה מסווגת ברמה הזו.