כל מה שחם בעולם הבינה המלאכותית · בעברית
המהדורה שלי הפודקאסט הפיד החי בית הספר ל-AI הצטרפו לערוץ הטלגרםAnthropic הכריזה על Enterprise Frontier Safeguards, ארכיטקטורה שמאחסנת את נתוני ניטור השימוש לרעה בחשבון הענן של הלקוח הארגוני עצמו במקום אצל החברה, תוך שמירה על זיהוי אוטומטי חוצה-שיחות. המערכת פותחה עם יותר מ-100 ארגונים ותיפרס בשלבים בסתיו 2026.
Anthropic הכריזה ב-1 בספטמבר 2026 על Enterprise Frontier Safeguards (EFS) — ארכיטקטורת אבטחה חדשה ללקוחות ארגוניים, שמעבירה את אחסון נתוני הניטור מהשרתים של Anthropic לחשבון הענן הפרטי של הלקוח עצמו. המערכת פותחה בשיתוף עם יותר מ-100 ארגונים, ותיפרס בשלבים במהלך הסתיו, כך דיווח MarkTechPost.
עד כה, כשחברות השתמשו במודלים של Anthropic דרך ממשקי API ארגוניים, נתוני הניטור שנועדו לאתר שימוש לרעה — כמו ניסיונות לעקוף מנגנוני בטיחות או פעילות חשודה החוצה מספר שיחות — נשמרו בתשתית של Anthropic עצמה. ב-EFS המודל מתהפך: הזיהוי האוטומטי עצמו ממשיך לרוץ ולהיות מתופעל על ידי Anthropic, אך הנתונים נשמרים בחשבון הענן של הלקוח, ומפתחות ההצפנה ותהליך הבדיקה של דגלי אזהרה (flags) נשארים בשליטת הארגון ולא של Anthropic. בפועל, החברה שומרת על יכולת הזיהוי, בעוד הלקוח שומר על המשמורת (custody) של המידע הרגיש.
הרעיון המרכזי הוא "cross-session misuse detection" — יכולת לזהות דפוסי שימוש לרעה שמתפרשים על פני כמה שיחות נפרדות ולא רק בתוך שיחה בודדת — לצד עיקרון של "אפס שמירה מרכזית" (zero-data-retention), כלומר שהנתונים לא מצטברים במאגר מרכזי של החברה.
ככל הנראה, המהלך מכוון בעיקר לארגונים גדולים בתחומים רגישים — פיננסים, בריאות, ממשל — שעבורם שמירת נתוני שימוש פנימיים אצל ספק חיצוני מהווה חסם רגולטורי או תחרותי. עבור לקוחות כאלה, השאלה "מי מחזיק בנתונים ומי יכול לגשת אליהם" לרוב חשובה לא פחות מאיכות המודל עצמו.
המהלך גם משקף מגמה רחבה יותר בתעשיית ה-AI: ככל שמודלי שפה גדולים (LLM) הופכים לחלק מתשתית עסקית קריטית, ספקים כמו Anthropic, OpenAI ו-Google נדרשים להוכיח לא רק יכולות, אלא גם מודל אמון סביב פרטיות ובטיחות ארגונית. השילוב של ניטור אוטומטי מבוסס-ספק עם שליטת נתונים מלאה אצל הלקוח מנסה לגשר בין שני צרכים שלעיתים נתפסים כסותרים: יכולת אכיפת בטיחות מצד החברה, מול ריבונות נתונים (data sovereignty) מצד הארגון הרוכש.
בשלב זה לא פורסמו פרטים על העלות התפעולית של הפתרון עבור לקוחות, על רשימת ספקי הענן הנתמכים, או על לוח הזמנים המדויק של הפריסה מעבר להגדרה הכללית "בשלבים, בסתיו הקרוב".