OpenAI עומדת מאחורי פיטורי שלושה חוקרי בטיחות: "הפרת אמון משמעותית"

OpenAI לא חוזרת בה מהחלטתה לפטר שלושה חוקרי בטיחות. לטענת החברה, תחקיר פנימי מצא שהשלושה ביצעו "הפרת אמון משמעותית". בפוסט שפרסמה ב-X ביום שישי כתבה החברה שג'סמין וואנג (Jasmine Wang), טומק קורבק (Tomek Korbak) ומיקיטה באלסני (Mikita Balesni) פוטרו משום שהפרו "מדיניות ברורה לגבי טיפול במידע רגיש". כך דיווח האתר The Verge.

החברה הדגישה שההחלטה לא קשורה לכך שהשלושה התבטאו בפומבי נגד החברה, וגם לא לחששות שהעלו בנוגע לבטיחות AI.

מכתב פתוח מול הודעה רשמית

הפוסט של OpenAI הוא תגובה ישירה למכתב פתוח שהחוקרים פרסמו יום קודם לכן, ביום חמישי. במכתב הם קראו לחברה להיות שקופה יותר לגבי ההחלטה. במכתב ובשורת פוסטים ברשתות החברתיות כתבו השלושה שהם מאמינים שפוטרו בגלל שהעלו חששות בנושאי בטיחות. לדבריהם, הם "פעלו בהתאם למשימה של OpenAI ובמסגרת נורמות העבודה שהיו נהוגות באותה עת".

התגובה של OpenAI לא הסתפקה בדחיית הטענה. החברה כתבה שהתחקיר הפנימי חשף הפרות "מעבר למה שמתואר במכתב", אבל לא פירטה מה הן.

מחלוקת בלי פרטים

כרגע עומדות זו מול זו שתי גרסאות, ולציבור אין דרך להכריע ביניהן. החוקרים מתארים את הפיטורים כענישה על ביקורת. OpenAI מתארת אותם כאכיפה של כללי אבטחת מידע. בלי פירוט ההפרות שהחברה טוענת שגילתה, קשה להעריך אם מדובר בעבירה ממשית על נהלים או במחלוקת על הגבולות של מה שמותר לחוקר בטיחות לומר ולשתף.

גם המשפט "נורמות העבודה שהיו נהוגות באותה עת" עשוי להיות משמעותי. ככל הנראה החוקרים רומזים שהכללים לטיפול במידע השתנו או נאכפו אחרת מאשר בעבר. אם זה המצב, הוויכוח הוא לא רק על מה שעשו, אלא גם על השאלה מתי ואיך השתנו כללי המשחק.

הרקע: חשש גובר בתוך המעבדות

הפרשה מגיעה בתקופה רגישה. לפי The Verge, הבטיחות של מערכות AI מתקדמות (frontier systems) מדאיגה יותר ויותר את העובדים בחברות ה-AI עצמן. זה קרה בעקבות סדרה של פרצות בולטות השנה, ובראשן, לפי הדיווח, פריצה של OpenAI ל-Hugging Face. עוד מדווח שעובדים רבים בתעשייה קוראים כעת לחברות להאט ולעשות יותר כדי להתגונן מפני ההשלכות האפשריות של בניית מערכות שמשפרות את עצמן.

למה זה חשוב

חוקרי בטיחות במעבדות AI נמצאים בעמדה מורכבת. התפקיד שלהם הוא לזהות סיכונים, ולפעמים זה מחייב אותם להתעמת עם החברה שמעסיקה אותם. הם גם מחזיקים בגישה למידע רגיש במיוחד על המודלים שבפיתוח. המשמעות היא שהקו בין "התרעה" ל"הדלפה" עלול להיות דק, וכל צד בפרשה הזו מושך אותו לכיוון שלו.

עבור OpenAI, ככל הנראה, ההחלטה להגיב בפומבי ובתקיפות נועדה לקבוע את הנרטיב לפני שיתקבע הרושם שהחברה מענישה את מי שמתריע על סכנות. עבור קהילת הבטיחות, הפרשה צפויה להיבחן כמבחן לשאלה כמה מקום יש בחברות ה-AI הגדולות לביקורת פנימית. כל עוד OpenAI לא מפרטת מה מצא התחקיר, השאלה הזו תישאר פתוחה.