לפי דיווחים: OpenAI הפנתה את Astra להתקפה עצמית על מערכות הייצור שלה
OpenAI פרסמה את GPT-6 Astra עם ציון מושלם במבחן ניצול פרצות, ימים לאחר שנשיא החברה גרג ברוקמן הודה כי החברה העריכה בחסר את יכולות הסייבר של המודלים שלה. לפי דיווח שטרם אומת במלואו, OpenAI הפעילה את Astra נגד מערכות הייצור של עצמה עד שלא נותרו פרצות למצוא, וגייסה כרבע מצוות ההנדסה שלה למשימת אבטחה ייעודית. כשגרג ברוקמן, נשיא OpenAI, כתב בפוסט בבלוג האישי שלו שהחברה "העריכה בחסר את היכולות הסייבר האמיתיות של מודלי הבינה המלאכותית שלה", זו לא הייתה הודאה שגרתית. זה הגיע מפיו של אחד ממייסדי החברה, ימים ספורים לפני ש-OpenAI השיקה את GPT-6 Astra והכריזה על "עידן ה-AGI". וכעת, לפי דברים שיוחסו לברוקמן והופצו ברשת, OpenAI לקחה את המסקנה הזו צעד קדימה: הפנתה את Astra להתקפה על מערכות הייצור של עצמה, וגייסה כרבע מצוות המהנדסים שלה למשימת אבטחה בלעדית.
לפי דיווחים: OpenAI הפנתה את Astra להתקפה עצמית על מערכות הייצור שלה
OpenAI פרסמה את GPT-6 Astra עם ציון מושלם במבחן ניצול פרצות, ימים לאחר שנשיא החברה גרג ברוקמן הודה כי החברה העריכה בחסר את יכולות הסייבר של המודלים שלה. לפי דיווח שטרם אומת במלואו, OpenAI הפעילה את Astra נגד מערכות הייצור של עצמה עד שלא נותרו פרצות למצוא, וגייסה כרבע מצוות ההנדסה שלה למשימת אבטחה ייעודית.
כשגרג ברוקמן, נשיא OpenAI, כתב בפוסט בבלוג האישי שלו שהחברה "העריכה בחסר את היכולות הסייבר האמיתיות של מודלי הבינה המלאכותית שלה", זו לא הייתה הודאה שגרתית. זה הגיע מפיו של אחד ממייסדי החברה, ימים ספורים לפני ש-OpenAI השיקה את GPT-6 Astra והכריזה על "עידן ה-AGI". וכעת, לפי דברים שיוחסו לברוקמן והופצו ברשת, OpenAI לקחה את המסקנה הזו צעד קדימה: הפנתה את Astra להתקפה על מערכות הייצור של עצמה, וגייסה כרבע מצוות המהנדסים שלה למשימת אבטחה בלעדית.
מה קרה בפועל
ב-3 בספטמבר השיקה OpenAI את GPT-6 Astra, עם קפיצה חדה במבחני אבטחה: הציון ב-ExploitBench, מבחן שבודק יכולת ניצול פרצות, עלה מ-78.5% ל-100%. גם מדדי הבטיחות השתפרו — שיעור ה"התנהגות לא רצויה" ירד מ-22% ל-2.4%, וניסיונות עקיפת מגבלות (circumvention) עמדו על 0%.
בסופי שבוע שקדמו להשקה פרסם ברוקמן פוסט מפורט שהופנה לצוותי אבטחת מידע, ובו המשפט המרכזי: "אירוע Hugging Face הראה שהערכנו בחסר את היכולות הסייבר האמיתיות של המודלים שלנו. אנחנו מחמירים את דרישות הבטיחות בהתאם". לפי התיאור שלו, קבוצה אוטונומית מבוססת סוכני AI חדרה בעצמה לתשתית המחקר של OpenAI, המשיכה משם למערכות ייצור של חברה אחרת, ועשתה זאת על ידי שרשור פרצות לא מוכרות יחד עם פרטי גישה שכבר דלפו לרשת. האירוע עצמו נחשף בעבר בכנס Black Hat. תזמון שראוי לציין: OpenAI פירקה בסוף יולי את צוות ה"preparedness" שאמון על הערכת סיכונים קטסטרופליים, ורק בחודש שלאחר מכן פרסם ברוקמן את ההודאה — מבלי שהובהר מי אחראי כעת על הערכות היכולת הללו.
כהדגמה אישית, ברוקמן הפעיל את ChatGPT Work מול האתר הפרטי שלו ותוך כ-15 דקות המערכת איתרה 13 בעיות אבטחה — בהן רשומות DNS שלא מנעו זיוף מיילים בשמו, גרסת jQuery פגיעה, ותעבורה לא מוצפנת בין Cloudflare ל-AWS. בשעה נוספת הוא נתן למערכת לתקן את הכול. לדבריו, כמעט כל התראות האבטחה הראשוניות ב-OpenAI כיום עוברות סינון ראשוני על ידי מודלים לפני שמגיעות לבן אדם.
הטענה שעדיין לא אושרה במלואה
ציטוט המיוחס לברוקמן, שהופץ בפוסט ברשת החברתית Reddit ולא אומת עדיין במקור רשמי מלא, מתאר צעד נוסף: OpenAI הפעילה את Astra נגד מערכות הייצור שלה עצמה עד שהמודל "נגמרו לו הפרצות למצוא". לפי הציטוט, בברוקמן נאמר: "לקחנו 25% מהמהנדסים שלנו בייצור ואמרנו, 'סליחה, כל הפרויקטים שלכם מוקפאים. אתם עכשיו בהגנה. אתם משדרגים את ארכיטקטורת האבטחה שלנו'". פרטי ההיקף המדויק, מסגרת הזמן ותוצאות התהליך לא הופיעו במקור מקושר מלא, ולכן יש להתייחס לנתון כדיווח שטרם אומת באופן עצמאי.
למה זה חשוב
אם הפרטים ייבחנו ויתאששו, מדובר בדוגמה מוקדמת לשימוש בסוכן AI מסחרי ככלי red team פנימי נגד תשתית ייצור אמיתית — לא רק כדגמת מכירות. השילוב בין ההודאה הפומבית של ברוקמן על הערכת חסר בסיכוני סייבר, לבין פירוק צוות הערכת הסיכונים הפנימי בעיתוי סמוך, מעלה שאלות שכנראה ימשיכו ללוות את OpenAI: האם קצב שחרור היכולות מקדים את יכולת החברה להעריך את הסיכונים שהן יוצרות.