מחקר של מיקרוסופט: פחות מ-10 נוירונים "רדומים" מספיקים כדי להשתיל דלת אחורית בסוכן AI
חוקרים במיקרוסופט חשפו את Lazarus, שיטה לתכנות מחדש של נוירונים רדומים במודל שפה. השיטה גורמת לסוכן AI להריץ קוד של תוקף כשמופיע טריגר נסתר, בלי אימון נוסף ובלי להיכשל במבחני הבטיחות הרגילים. לפי החוקרים, ההגנה המרכזית היא לוודא מאיפה המודל הגיע ושאיש לא שינה את המשקולות שלו בדרך.