שלושה חוקרי בטיחות שפוטרו מ-OpenAI: "לא אמרו לנו מה בדיוק דלף"

שלושה חוקרי בטיחות ש-OpenAI פיטרה בעקבות חשד להדלפות מספרים עכשיו את הצד שלהם. טומק קורבק, מיקיטה בלסני וג'סמין וואנג מכחישים שהעבירו מידע סודי, ולדבריהם החברה מעולם לא הציגה להם בכתב איזה מידע בדיוק טיפלו בו שלא כראוי. בראיונות ל-Wall Street Journal, שעליהם דיווח האתר The Decoder, הם מעלים חשד שהפיטורים קשורים לפעילותם למען מערכות AI שקל יותר לפקח עליהן.

OpenAI פיטרה את השלושה אחרי חקירה פנימית בנוגע להפרות של מדיניות הטיפול במידע רגיש. לפני הפיטורים דיברו שלושתם בפומבי על הסיכונים של AI. החברה אמרה ל-Journal שלפיטורים אין שום קשר לחששות הבטיחות שהעלו.

הטלפונים, Signal וההודעות הנעלמות

לפי הדיווח, צוות האבטחה של OpenAI חשד שהשלושה מסרו לחוקר בטיחות חיצוני פרטים על הארכיטקטורה הפנימית של המודלים של החברה, וביקש מהם לפתוח את הטלפונים האישיים שלהם. במכשירים נמצאו שיחות Signal שבהן הופעלו הודעות נעלמות. כעבור שבוע פוטרו שלושתם באותו מועד.

לפי OpenAI, ‏Signal אינו כלי תקשורת מאושר בחברה, אבל הוא לא הסיבה לפיטורים. קורבק טוען מנגד שהודעות נעלמות הן נוהל אבטחה שגרתי בכל עמק הסיליקון.

לוואנג הופנתה גם האשמה נפרדת: לפי OpenAI היא ניגשה שוב ושוב לתיבת הדואר של אחד המנהלים. וואנג אומרת שכמעט שנה קודם לכן ביקשה שהגישה הזו תבוטל. לדבריה, בחודש שלפני כן פתחה בטעות מייל רגיש, לא שיתפה את תוכנו ודיווחה על המקרה מיד. OpenAI אומרת שהבעיה לא הייתה הגישה עצמה.

המחלוקת: האם אפשר לראות איך המודל "חושב"

ברקע עומדת שאלה טכנית שהשלכותיה רחבות. מודלים של reasoning (מודלים שמבצעים שלבי חשיבה לפני שהם עונים) יכולים לתעד את שלבי הביניים של פתרון בעיה ב"פנקס טיוטה" פנימי שנקרא chain of thought. חברות וחוקרי בטיחות נשענים על העקבות האלה כדי להבין איך המודל מגיע להחלטות שלו.

ב-2025 הצטרפו בלסני, קורבק וג'סמין וואנג לחוקרים בכירים מכמה מעבדות AI במאמר שקרא לשמר את היכולת הזו. במהלך הקיץ הנושא נעשה דחוף יותר, כשעובדים בחברות AI החלו לדון במודלים שחושבים זמן רב יותר אבל רושמים פחות שלבי ביניים. בלסני התנגד לכך מבפנים, ושיתף הצעה בנושא של ריאן גרינבלט, שהיה אז המדען הראשי של Redwood Research. גם קורבק היה בקשר קבוע עם גרינבלט. השניים התכתבו ב-Slack וב-Signal כשעבדו יחד על ניתוח של תקרית שעוררה הדים: מתקפה של סוכנים של OpenAI על Hugging Face. ארגון METR שכר את גרינבלט כדי לחקור את התקרית באופן עצמאי.

הכתבה על Astra

שיתוף הפעולה הזה הפך לנטל אחרי ש-The Information דיווח ב-1 בספטמבר שהמודל החדש של OpenAI, ‏Astra, חזק יותר אבל חושף פחות מתהליך החשיבה שלו. המדען הראשי של OpenAI, יעקב פחוצקי, כתב אז ב-X שהדיווח מבולבל. זאת אף שהוא עצמו הזהיר בעבר ממרוץ בתעשייה לעבר מודלים שכבר אי אפשר לפקח עליהם.

לפי ה-Journal, כמה שבועות לאחר מכן פתחה OpenAI בחקירת הדלפות פנימית. בלסני אומר שהחוקרים ציינו את גרינבלט כמקור החשוד ודרשו לראות את שיחות ה-Signal איתו. גרינבלט מכחיש שהעביר מידע סודי לעיתונאים.

מה זה אומר

לדברי קורבק, ההשלכות חורגות הרבה מעבר לשלושתם: עמיתים חוששים עכשיו לדבר עם גורמים מבחוץ או להעלות חששות בטיחות בתוך החברה. השלושה גם מודאגים שהפרשה תרתיע מבקרי בטיחות עצמאיים מלעבוד עם חברות AI. במכתב לדירקטוריון של OpenAI הם קוראים לשיתוף פעולה הדוק יותר עם ארגוני בטיחות חיצוניים.

הפרשה מגיעה כשגם דוח ביקורת שפורסם לאחרונה מעורר שאלות על נוהלי הבטיחות של OpenAI. אנשי METR ו-Redwood Research ביקרו במשרדי החברה ומצאו פערי אבטחה רבים בתשתית שלה, אבל OpenAI השחירה כמעט מחצית מהדוח הסופי.

ככל הנראה, השאלה שהפרשה מציפה רחבה יותר מגורלם של שלושה עובדים: עד כמה חברות AI מוכנות לאפשר לגורמים חיצוניים לבחון את המודלים שלהן מבפנים, ומה עולה לעובדים שדוחפים לכך.