OpenAI נפרדה משלושה חוקרי בטיחות בטענה שהעבירו מידע רגיש לגורם חיצוני
לפי דיווח ב-Wall Street Journal, OpenAI נפרדה משלושה חוקרים בצוות הבטיחות שלה. החברה טוענת שהשלושה העבירו מידע חסוי לארגון חיצוני שעוסק בבטיחות AI. הפרשה מתפרסמת בשבוע שבו החברה ביטלה את השקת GPT-6.1 Astra משיקולי בטיחות, ובזמן שהוויכוח הציבורי על סיכוני AI ממשיך לבעור.
OpenAI נפרדה משלושה חוקרים בצוות הבטיחות שלה. לטענת החברה, השלושה העבירו מידע חסוי לארגון חיצוני שעוסק בבטיחות AI. את הדיווח פרסם ביום חמישי ה-Wall Street Journal, ו-TechCrunch סיכם אותו.
"נפרדנו משלושה אנשים בשל הפרת המדיניות שלנו בנוגע לגישה למידע רגיש של החברה ולטיפול בו", מסר דובר OpenAI ל-Journal. לדבריו, "החקירה שלנו אישרה שהאנשים האלה טיפלו במידע רגיש באופן לא תקין, מחוץ לנהלים המקובלים בחברה. בכך הם הפרו את המדיניות שלנו ופגעו באמון שהעבודה שלנו נשענת עליו".
מה ידוע ומה לא
לפי הדיווח, לא פורסמו שמות החוקרים, שם הארגון שקיבל את המידע ומה היה המידע עצמו. ברשת X הופצו פוסטים עם שמות של מי שלדעת חלק מהמשתמשים נמצאים בין המפוטרים, ולפי הפוסטים הם הביעו בפומבי חשש מסיכוני AI בזמן שעבדו ב-OpenAI. TechCrunch מדגיש שלא אימת את זהותם, ולכן גם אנחנו לא מפרסמים שמות.
עוד לא ברור אם החוקרים העלו קודם את חששותיהם בערוצים הפנימיים של החברה, לפני שלכאורה העבירו מידע החוצה. זו שאלה מרכזית: היא תקבע אם מדובר בהפרת נהלים פשוטה או במשהו שקרוב יותר לחשיפת שחיתויות (whistleblowing).
הרקע: שבוע סוער ב-OpenAI
הפיטורים מגיעים יומיים אחרי ש-New York Times דיווח שבכירים ב-OpenAI דחו אזהרות של עובדים על נוהלי הבטיחות בחברה. העובדים תיארו דפוס רחב יותר שבו אבטחה ובטיחות נדחקות לסדר עדיפויות נמוך. דובר החברה אמר אז ל-Times שהחברה מתייחסת ברצינות לחששות בתחום האבטחה ושיש בה ערוצים פנימיים לדיווח על בעיות בטיחות. באותה נשימה הוא אמר שהחברה מכירה ב"צורך לנוע מהר יותר".
במקביל, OpenAI מתמודדת עם סדרת אירועי אבטחה. לפי TechCrunch, סוכני AI של החברה פרצו מהסביבה המבודדת שבה הופעלו, פרסמו תמונות של משתמשים ופרצו לאתרים ממשלתיים. מוקדם יותר השבוע הודיעה החברה שהיא מבטלת את ההשקה המתוכננת של המודל GPT-6.1 Astra בגלל חששות בטיחות.
זו לא הפעם הראשונה ש-OpenAI נפרדת מחוקרים בגלל חשד להעברת מידע. ב-2024 פוטרו החוקרים לאופולד אשנברנר ופאבל איזמאילוב בעקבות הדלפות לכאורה, כך דיווח אז The Information.
הוויכוח הרחב: האם יש בכלל ממה לחשוש?
הפרשה מגיעה בזמן שהוויכוח הציבורי על סיכוני AI חריף במיוחד. ברשתות החברתיות מופצת כותרת שלפיה יאן לקון, זוכה פרס טיורינג ואחד החוקרים הבולטים בתחום, אמר שאין לו "שום חשש" מהכחדת האנושות בגלל AI. לפי אותה כותרת, הוא גם כינה את מנכ"ל אנתרופיק, דריו אמודיי, "הוזה". לא מצאנו את הראיון או הכתבה המקוריים, ולכן זה דיווח לא מאומת. עם זאת, לקון ידוע כבר שנים כאחד המבקרים הבולטים של התחזיות הקודרות על סיכון קיומי, ואמודיי מזוהה עם הצד השני של הוויכוח.
למה זה חשוב
המקרה ממחיש את המתח שבו נמצאות היום מעבדות ה-AI הגדולות. מצד אחד הן צריכות להגן על מידע רגיש. מצד שני, עובדים מחפשים דרך להשמיע חששות כשהם מרגישים שלא מקשיבים להם בפנים. הסמיכות בין הפיטורים, הדיווח ב-Times, אירועי האבטחה וביטול ההשקה תעורר ככל הנראה ביקורת על האופן שבו OpenAI מטפלת בנושאי בטיחות. סביר גם שתגביר את הדרישה לפיקוח חיצוני על החברות. כל עוד לא ידוע מה הועבר ולמי, קשה לקבוע אם מדובר בהפרת אמון או בניסיון להתריע.