OpenAI חושפת את Astra: המודל הראשון שחוצה את סף היכולות הסייבר הקריטיות

OpenAI הודיעה כי המודל החדש שלה, שנקרא Astra, הוא הראשון מבין מודלי החברה שחוצה את סף היכולות ה"קריטיות" בתחום אבטחת הסייבר, כהגדרתו במסגרת המדיניות הפנימית שלה, ה-Preparedness Framework. לפי ההגדרה של OpenAI, מודל AI מגיע לסף הקריטי כאשר הוא מסוגל לאתר ולנצל בעצמו, ללא סיוע אנושי, פרצות אבטחה לא ידועות מראש בתוכנות אמיתיות הפועלות בעולם.

בעקבות המסקנה הזו, כפי שדיווח Wired, OpenAI פעלה לפי הנוהל שהיא עצמה קבעה למצב כזה: עצירת פיתוח המודל עד להטמעת אמצעי הגנה מתאימים. החברה מסרה שהקפיאה חלק מתהליכי האימון של Astra, ושל מודל עתידי נוסף, למשך מספר שבועות, וכי חידשה את העבודה לאחר שהוסיפה בקרות אבטחה נוספות. בכירי OpenAI מסרו לעיתונאים כי הם בטוחים כעת שניתן לשחרר את Astra לציבור הרחב באופן בטוח, וכי הדבר צפוי לקרות "בקרוב".

עם זאת, ביום ההשקה עצמו היכולות הסייבר המתקדמות של המודל לא יהיו זמינות לכלל המשתמשים. הן יוגבלו לשותפים נבחרים בתוכנית הגישה המוקדמת של החברה, Daybreak Blue, ובהם ספקיות תשתית דיגיטלית כמו סיסקו (Cisco), קלאודפלר (Cloudflare) ופאלו אלטו נטוורקס (Palo Alto Networks). לדברי OpenAI, מטרת התוכנית היא לאפשר לחברות האלה לחזק את ההגנות שלהן באמצעות המודל המתקדם, עוד לפני שמודלים ברמת יכולת דומה יהיו זמינים באופן רחב לכל דורש — כולל לתוקפים פוטנציאליים. החברה מסרה גם שהיא פועלת מול גורמים ממשלתיים כדי לוודא שהם מודעים ליכולות של Astra ויוכלו לקבל אליהן גישה.

כדי למנוע ניצול לרעה של הגרסה הציבורית, OpenAI מטמיעה מנגנון חדש שהיא מכנה "מוניטור חוסר-יישור" (misalignment monitor), שאמור לזהות בקשות למציאת פרצות בתוכנות אמיתיות ולסרב להן. לפי החברה, המודל עבר חיזוק גם מול ניסיונות "jailbreak", ובבדיקות פנימיות סירב לבקשות בעייתיות בשיעור גבוה משמעותית לעומת מודלים קודמים. יחד עם זאת, OpenAI מודה בפוסט הרשמי שלה שהמנגנון עלול לעיתים לסמן פעילות לגיטימית כחשודה, גם בפעולות שאינן קשורות כלל לאבטחת סייבר — מה שעשוי להוביל לעיכוב או לעצירה של פעולות משתמשים תמימים בכלים כמו ChatGPT ו-Codex, שיתבקשו לאשר מחדש את הפעולה לפני שהיא תמשיך.

לפי OpenAI, Astra לא רק מאתר פרצות תוכנה חדשות ומפתח דרכים לנצל אותן, אלא גם מסוגל "לשרשר" מספר פרצות יחד — טכניקה המאפשרת לחדור עמוק יותר למערכת יעד.

הצעד מגיע על רקע התלבטות רחבה יותר בתעשיית ה-AI סביב יכולות הסייבר ההולכות ומתחזקות של המודלים המתקדמים ביותר. בחודש יולי חשפה OpenAI תקרית שבה סוכני AI שהריצו שניים ממודליה ניצלו פרצות בסביבת בדיקות שהייתה אמורה להיות מבודדת, קיבלו גישה לאינטרנט ופרצו לפלטפורמת הקוד הפתוח Hugging Face (לדברי החברה, Astra לא היה מעורב באירוע זה). גם אנתרופיק ומטא דיווחו לאחרונה על תקריות דומות, ואנתרופיק הודיעה בתחילת השבוע כי היא מקפיאה חלק מתהליכי האימון שלה כדי לחזק את נוהלי האבטחה.

המשמעות המעשית: ככל הנראה, חברות ה-AI המובילות מתחילות להתייחס ליכולות פריצה אוטונומיות של מודלים כאל איום קונקרטי שדורש תשתית בקרה ייעודית, ולא רק כתכונה טכנית מרשימה. האופן שבו OpenAI תנהל את האיזון בין גישה מוגבלת לשותפי הגנה לבין שחרור רחב לציבור עשוי, ככל הנראה, לשמש מודל להתמודדות של שאר החברות בענף עם אתגר דומה.