Helsing חושפת את Clarity: מערכת AI שמכינה מטרות למערכות נשק, ומבטיחה שם אנושי על כל החלטה

חברת טכנולוגיית הביטחון הגרמנית Helsing הציגה ביום רביעי בברלין את Clarity, פלטפורמת תוכנה מבוססת סוכני AI שהופכת נתוני חיישנים להמלצות על מטרות. החברה מגדירה אותה "agentic intelligence platform", כלומר מערכת שבה סוכני AI פועלים באופן עצמאי יחסית. לפי הדיווח ב-The Decoder, Helsing מבטיחה שליטה אירופית ופיקוח אנושי. עם זאת, הניסיון שהצטבר עם מערכות דומות מראה שההבטחות האלה לא תמיד עומדות במבחן השטח.

איך המערכת עובדת

לפי הודעת החברה, Clarity מעבדת את כל המידע שעומד לרשות יחידה צבאית: הזנות חיישנים, מודיעין ממקורות גלויים (OSINT), דיווחים כתובים ומערכות שכבר נמצאות בשימוש. מאות סוכני AI ייעודיים מקשרים בין המקורות, מזהים כוחות, מתקנים ועמדות של האויב ומכינים את המידע לבדיקה אנושית. לאחר מכן המערכת "אורזת" את הנתונים בשביל מערכת הנשק המתאימה.

הסוכנים אומנו על נתונים מבצעיים אמיתיים, על נתונים סינתטיים שנוצרו ב-AI ועל סביבות מדומות. הם פועלים במקביל על בסיס אונטולוגיה צבאית משותפת, כלומר מילון מושגים מוסכם שמאפשר להם "לדבר באותה שפה".

Helsing שמה דגש על ריבונות. המערכת רצה על התשתית של הלקוח, המודלים והממשקים פותחו באירופה, והנתונים נשארים בשליטה הבלעדית של הכוחות המזוינים. היא מיישמת תקני NATO ויכולה להתחבר למערכות נשק של כל יצרן.

לפי החברה, ההחלטה לתקוף נשארת בידי אדם, שבוחר את המטרות וחייב לאשר כל העברה למערכת נשק. מטרה מומלצת רק כשמקורות בלתי תלויים מסכימים וההערכה נעשית ברמת ודאות גבוהה, וכל החלטה מתועדת עם שם האדם האחראי לה.

תחרות מול פלנטיר

Clarity נכנסת לשוק שבו מובילה פלנטיר, שמערכת Maven שלה משולבת בתהליכי העבודה של הפנטגון ושל NATO. ל-Helsing יש ניסיון מהמלחמה באוקראינה, שם היא מספקת רחפנים, אך החברה לא מסרה אם Clarity כבר פועלת אצל לקוח כלשהו. הבונדסווהר, צבא גרמניה, מתכנן להתחיל להכניס מערכות מבוססות AI בשנה הבאה.

מה מלמד הניסיון בשטח

במלחמה באיראן הצבא האמריקאי משתמש ככל הנראה ב-Maven של פלנטיר יחד עם Claude של אנתרופיק כדי להציע מאות מטרות, לתעדף אותן ולהמליץ על חימוש. לפי ה-Wall Street Journal, ב-24 השעות הראשונות תקפה ארה"ב כ-1,000 מטרות, ותוך ימים המספר עבר את 3,000. בכירים צבאיים הזהירו מפני גישה שזכתה לכינוי פנימי: "המחשב אמר לעשות את זה".

בעזה, לפי תחקירים של מגזין +972 ושל "שיחה מקומית", מערכת Lavender הישראלית סימנה בשלב מסוים עד 37,000 פלסטינים כמטרות אפשריות. הבדיקה האנושית נמשכה לעיתים קרובות רק כ-"20 שניות" למטרה, ובעיקר נועדה לוודא שמדובר בגבר. מערכת נפרדת בשם "Where's Daddy?" עקבה אחרי המסומנים עד לבתי המשפחה שלהם, שהותקפו פעמים רבות בלילה.

גם איחוד של כמה מקורות מידע אינו ערובה מפני "הזיות" של מודלים. לפי CNN, באביב 2026 הצבא האמריקאי כמעט עלה על ספינה סינית, משום שצ'טבוט טען בטעות בדוח מודיעין שהיא נושאת רכיבים לתוכנית נשק גרעיני. הצ'טבוט שילב מידע גלוי ומסווג וזיהה את המטען באופן שגוי. חיילים חמושים כבר התכוננו לעלות על הספינה ומטוסים היו באוויר כשהטעות התגלתה, זמן קצר לפני המבצע. לא היו סטנדרטים אחידים לאימות מידע שמפיק AI, ובעיקר אנליסטים צעירים נתנו בכלים אמון לא ביקורתי. "AI מאפשר להגיע לרעיון רע מהר יותר", אמר אחד המקורות.

למה זה חשוב

ההבטחה של Helsing, שם אנושי על כל החלטה, עונה על אחת השאלות המרכזיות בוויכוח על AI בשדה הקרב. אבל המקרים מאיראן, מעזה ומהים מצביעים על פער בין פיקוח אנושי על הנייר לבין פיקוח אנושי בפועל. כשהמערכת מייצרת מאות המלצות במהירות ונראית אמינה משום שהיא מצליבה מקורות, הבודק האנושי עלול להפוך לחותמת גומי. המשמעות היא שהשאלה החשובה כנראה אינה אם יש אדם בתהליך, אלא כמה זמן, מידע וסמכות יש לו כדי לומר "לא".