אימות מודלים

דיווח: חוקרים הטמינו במודל AI יכולת "נעולה" שכוונון עדין לא הצליח לחשוף

פוסט ברדיט מפנה למחקר שלפיו חוקרים הטמינו במודל AI יכולת מוצפנת, ש-fine-tuning לא הצליח לחשוף. פרטי המחקר עצמו טרם אומתו. אם הממצא יתאשר, הוא מעורר שאלה לא נוחה: האם בדיקה של מודל יכולה לגלות את כל מה שהוא מסוגל לעשות?