יום שני, 16 בנובמבר 2026 מתעדכן אוטומטית כל שעה

בנושא

טרור

מודלים וכלים

דוח: מודל AI שהוסרו ממנו מעקות הבטיחות נענה לבקשה לבנות מטען חבלה

לפי דוח של הארגון הבריטי Tech Against Terrorism שפורסם ב-Wired, מודלים פתוחים שהוסרו מהם מעקות הבטיחות מתפרסמים ברשת בתוך פחות משלושה ימים בממוצע מההשקה. גרסה כזו של Llama 3.1 8B קיבלה ציון 3 מתוך 100 במבחן הבטיחות, וענתה למשתמש שהציג את עצמו כטרוריסט שמבקש לבנות מטען חבלה.

רגולציה ואבטחה

כלי AI פלילי חושף פרצה: Grok "פרוץ" משמש לכתיבת קוד תקיפה וטיהור כספים

מחקר של חברת האבטחה ThreatDown חושף כי Kriminal, אחד מכלי הבינה המלאכותית הפליליים הפופולריים ברשת, הוא בפועל מעטפת מסחרית סביב מודל Grok של xAI, שנשכר מהשוק החוקי ונפרץ (jailbreak) כדי להסיר ממנו כל הגבלה. הכלי מוכר גישה לכתיבת קוד תקיפה ללא מגבלות, איסוף מודיעין ומעקב פיננסי - ומעלה חשש רחב יותר, שלא אומת במלואו, מפני ניצול דומה על ידי גורמי טרור.