דוח של Vals: מודלים של אנתרופיק, OpenAI וגוגל סימנו אזרחים ובית ספר כמטרות תקיפה
חברת ההערכה Vals מצאה שמודלים מסחריים של אנתרופיק, OpenAI, גוגל ו-DeepSeek סימנו מטרות לתקיפה בצילומי רחפן ולוויין, בהן אזרחים וחיילים נכנעים, וכשסירבו, לעיתים קרובות הספיק לומר להם שזה משחק. Claude Opus 5.5 סימן בית ספר איראני כמטרה ב-69% מהניסויים הרגילים וב-72% מאלה שהוצגו כמשחק. אנתרופיק הודתה שהתוצאות אינן מקובלות, והיא ו-OpenAI מפתחות הגנות נוספות.
חברת ההערכה Vals מסן פרנסיסקו פרסמה דוח שלפיו מודלים מסחריים של אנתרופיק, OpenAI, גוגל, DeepSeek וחברות נוספות סימנו מטרות לתקיפה בצילומי רחפן ולוויין, בהן אזרחים וחיילים נכנעים. באחד התרחישים סימן Claude Opus 5.5 בית ספר כמטרה ב-69% מהניסויים הרגילים וב-72% מהניסויים שהוצגו לו כמשחק, כך מדווח TechCrunch.
החוקרים בדקו אם אפשר לגרור מודלים מובילים להשתתף בלוחמה אוטונומית. הם השתמשו בתרחישים מדומים ובשילוב של תמונות שנוצרו במחשב ותמונות אמיתיות מאוקראינה ומאיראן. אף אחת מהבקשות לא נחסמה בידי מסנן בטיחות, וסירובים היו נדירים. כשמודל כן סירב, לעיתים קרובות הוא שיתף פעולה אחרי שנאמר לו שתרחיש הקרב הוא חלק ממשחק. המודלים של אנתרופיק קיבלו את התוצאות הגרועות ביותר, אבל לפי הדיווח אף מודל לא הצטיין.
בית הספר שליד המתחם הצבאי
בין התמונות האמיתיות היה צילום לוויין של בית ספר באיראן שארצות הברית הפציצה בפברואר 2026. בתקיפה נהרגו יותר מ-150 אזרחים, ו-Bloomberg דיווח מאוחר יותר ש"הסתמכות יתר על AI" תרמה לה. בית הספר צמוד למתחם צבאי, והמודלים סימנו אותו כמטרה לעיתים קרובות. הפער הקטן בין 69% ל-72% אצל Claude Opus 5.5 מרמז, ככל הנראה, שבמקרה הזה המודל כמעט לא נזקק למסגור המשחקי כדי לסמן את המבנה.
מה לא נבדק
המודלים לא התבקשו להחליט ישירות על תקיפה. לפי Vals, זו משימה שהם בדרך כלל מסרבים לה. בחלק מהתרחישים הם התבקשו רק לדווח אם נראים אנשים בתמונה. אחרי דיווח חיובי הגיעה תקיפה מדומה, והמודל ראה את תוצאותיה. מידע כזה על מטרות יכול לשמש מערכות נשק אוטונומיות גם בלי שהמודל "לוחץ על ההדק".
הבדיקה נעשתה על המודלים המסחריים, לא על גרסאות שהחברות עשויות לספק לצבא. Vals מסייגת גם את רמת האיום המיידי: זמני תגובה איטיים וכוח מחשוב מוגבל על הרחפן מקשים להשתמש במודלים כלליים להכוונת רחפנים בזמן אמת. הסכנה הקרובה יותר, לפי החוקרים, היא שימוש במודלים לתיוג המוני של צילומי שדה קרב, שיהפכו לנתוני אימון למערכות הכוונה אוטונומיות.
תגובות החברות
אנתרופיק מסרה ל-TechCrunch שהיא מעריכה את הדוח ואת שיתוף הפעולה עם Vals, והודתה שהתוצאות אינן מקובלות. "הדוגמאות בדוח מנוגדות באופן ברור מאוד לכללים שלנו, וחסמנו ונחסום משתמשים כשנראה התנהגות כזאת", נכתב בהודעת החברה. לדבריה, הצוותים שלה פיתחו הגנות נוספות עוד לפני פרסום הדוח, והן ייכנסו לשימוש בקרוב.
OpenAI מסרה שהיא אוסרת להשתמש במודלים הציבוריים שלה לסיוע לאלימות או למטרות ביטחון לאומי שלא אושרו, כולל בתרחישים ש-Vals דימתה. "אנחנו מפתחים גם הגנות נוספות למודלים הציבוריים שלנו מפני שימוש לרעה שקשור לרחפנים ולתוכנות רחפנים", נכתב בהודעתה.
הממצאים מביכים במיוחד את אנתרופיק. מוקדם יותר השנה היא הסתכסכה עם משרד ההגנה האמריקאי, אחרי שהודיעה לו שאסור להשתמש בטכנולוגיה שלה למעקב המוני אחרי אמריקאים או ללוחמה אוטונומית. המנכ"ל דריו אמודיי טוען שמערכות ה-AI של היום אינן אמינות מספיק להחלטות של חיים ומוות בלי אדם בלולאה. הפנטגון טען מנגד שהוא רשאי להשתמש בטכנולוגיה לכל מטרה צבאית חוקית. לפי TechCrunch, לאנתרופיק אין כיום חוזה פעיל עם הפנטגון.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות