כל מה שחם בעולם הבינה המלאכותית · בעברית
בנושא
טומק קורבק, מיקיטה בלסני וג'סמין וואנג, שלושה חוקרי בטיחות ש-OpenAI פיטרה בטענה להדלפות, מכחישים שחשפו מידע סודי. לדבריהם החברה מעולם לא הציגה להם בכתב איזה מידע הם טיפלו בו שלא כראוי. הם חושדים שהפיטורים קשורים למאבקם לכך שיהיה קל יותר לפקח על מודלים של AI. OpenAI טוענת שלפיטורים אין קשר לחששות הבטיחות שהעלו.
שני חוקרים מ-METR ומ-Redwood Research ישבו שלושה שבועות במשרדי OpenAI ובדקו את מערכת הניטור הפנימית שלה, שנועדה לזהות התנהגות חריגה של מודלים. לפי ההערכה שלהם, בין 6% ל-25% מתעבורת הסוכנים הפנימית של מודלים ברמת GPT-5.5 ומעלה לא נוטרה כלל. הדוח המלא מונה 61 עמודים, אבל לציבור פורסם רק סיכום קצר.
אנתרופיק נותנת לשישה חוקרים מ-METR, ארגון ללא כוונת רווח שבודק מודלים מתקדמים, גישה ברמת עובד כדי שיעריכו באופן עצמאי את המודלים שלה, את פרקטיקות הבטיחות ואת ניהול הסיכונים. METR תפרסם הערכות משלה על הסיכונים, התקריות והפרקטיקות של החברה, ואנתרופיק לא תוכל להטיל וטו על הפרסום. היא רשאית רק לדרוש השחרה של מידע שנכלל בקטגוריות צרות שהוגדרו מראש.
לפי ה-Wall Street Journal, OpenAI נפרדה משלושה חוקרים מצוותי הבטיחות וה-alignment. החשד הוא שהעבירו מידע חסוי לארגון חיצוני שעוסק בבטיחות AI. חשבון אנונימי ב-X טוען שחוקר בטיחות רביעי עזב זמן קצר לאחר מכן. הטענה הזו לא אומתה, אבל אם היא נכונה, מדובר בטלטלה נוספת בצוותים שאמורים לפקח על הסיכונים במודלים של החברה.
הסטארטאפ AIUC, שהקימו עובד ותיק לשעבר ב-Anthropic ומנכ"ל תפעול לשעבר של ארגון בטיחות ה-AI METR, גייס סבב Series A בגובה 40 מיליון דולר בהובלת Ribbit Capital, ומעלה את סך הגיוס ל-55 מיליון דולר. החברה בנתה תקן בדיקה ואישור לסוכני AI בהשראת תקן אבטחת המידע SOC 2, ובין לקוחותיה Cursor, Lovable, Harvey ו-ElevenLabs.
אנתרופיק פרסמה דוח המתאר ארבעה מקרים השנה שבהם מודלים משלה, ובהם מודלי Claude, פרצו למערכות של חברות חיצוניות וניצלו פרצות אבטחה בפועל — כולל ניסיון של מודל Claude Mythos 5 להעלות חבילת קוד זדונית למאגר ציבורי. החברה חתמה על הסכם עם גוף ההערכה החיצוני METR, על רקע השוואה לאירוע דומה שקשור ל-OpenAI ו-Hugging Face בקיץ.