דיווח ב-WIRED: קבלן ביטחוני חיבר סוכן Claude אישי למערכת מאובטחת של הפנטגון
לפי דיווח בלעדי של WIRED, קבלן של משרד ההגנה האמריקאי חיבר את Claude Code, כלי הסוכנים של אנתרופיק, למערכת מאובטחת של הפנטגון. ב-WIRED תיארו את המקרה כאחד השימושים התמוהים ביותר ב-AI בממשל האמריקאי שנראו עד כה. הדיווח מתפרסם באותו שבוע שבו אנתרופיק הגישה בקשה להנפקה לציבור.
קבלן ביטחוני של משרד ההגנה האמריקאי חיבר את Claude Code, כלי הסוכנים של אנתרופיק, למערכת מאובטחת של הפנטגון. כך עולה מתחקיר בלעדי של WIRED, שפורסם תחת הכותרת "A Defense Contractor Gave Their Personal AI Agent Access to a Secure Pentagon System". לפי הכותרת, מדובר היה בסוכן AI אישי של הקבלן, ככל הנראה ולא בכלי שהארגון אישר ופרס.
בפרק השבועי של הפודקאסט Uncanny Valley של WIRED תיארה לאה פייגר, מנהלת מחלקת הפוליטיקה והמדע במגזין, את המקרה כ"אחד השימושים התמוהים ביותר ב-AI בממשל שראינו עד כה". בפרק השתתפו גם העורך הבכיר בריאן בארט והעורכת התורמת זואי שיפר.
מה זה סוכן AI, ולמה זה רגיש
Claude Code איננו צ'טבוט שרק עונה על שאלות. זהו סוכן (agent): כלי שיכול להריץ פקודות, לקרוא ולכתוב קבצים ולפעול בתוך סביבת מחשוב בשם המשתמש. כשכלי כזה מקבל גישה למערכת, ככל הנראה הוא יכול לבצע בה כל פעולה שהמשתמש עצמו מורשה לבצע, ובמקרים רבים לשלוח חלק מהמידע שהוא מעבד לשרתים חיצוניים של ספק המודל.
לכן מערכות ממשלתיות מאובטחות מעוררות שאלות כבדות כשמחברים אליהן כלי כזה. חומרי המקור הזמינים לא מפרטים איזו מערכת הייתה מעורבת, איזה מידע נחשף, אם בכלל, ואיך התגלה המקרה. גם תגובות של הפנטגון או של אנתרופיק אינן מופיעות בהם. עם זאת, עצם האפשרות שקבלן חיבר סוכן אישי למערכת מאובטחת מצביעה ככל הנראה על פער בבקרות: בין הכלים שעובדים וקבלנים מאמצים בפועל לבין מה שמנגנוני האבטחה של הארגון מסוגלים לזהות ולחסום.
תזמון רגיש לאנתרופיק
הדיווח מגיע בשבוע עמוס במיוחד עבור אנתרופיק. באותו פרק דנו המגישים בבקשה להנפקה לציבור (S-1) שהחברה הגישה ביום שני. לדברי שיפר, שווי החברה זינק מ-183 מיליארד דולר לפני קצת יותר משנה ל-965 מיליארד דולר בסבב הגיוס האחרון, ויש מי שמעריכים שהיא עשויה להגיע לשווי של קרוב ל-2 טריליון דולר עם תחילת המסחר. לפי המסמך, ההכנסות של החברה הגיעו ל-16.3 מיליארד דולר, לצד הפסדים גדולים עוד יותר והתחייבויות של מאות מיליארדי דולרים לכוח מחשוב.
אנתרופיק אינה צד ישיר לתקרית על פי המידע הזמין: את החיבור ביצע הקבלן, לא החברה. ובכל זאת, המקרה ממחיש סוגיה שתלווה ככל הנראה את החברה כחברה ציבורית, כשהמוצרים שלה מוטמעים עמוק יותר בארגונים ובממשלות: מי אחראי כשסוכן AI מקבל גישה למקום שלא היה אמור להגיע אליו.
למה זה חשוב
עד היום רוב הדיון בסיכוני AI בממשל עסק במודלים עצמם, למשל בדיוק שלהם או בהטיות שלהם. המקרה הזה מסיט את תשומת הלב לבעיה פרוזאית יותר וככל הנראה דחופה יותר: סוכנים שמחוברים למערכות קיימות על ידי משתמשים יחידים, בלי תהליך אישור מסודר. המשמעות לארגונים, ביטחוניים ואזרחיים כאחד, היא שמדיניות שימוש ב-AI כבר לא מספיקה כשהיא כתובה רק על הנייר. ככל שסוכנים כמו Claude Code הופכים לנגישים יותר, הבקרה צריכה לפעול גם ברמת הרשת וההרשאות, ולא רק ברמת הנהלים.