מודלי AI מזהים את רוב ההתנהגויות הבעייתיות של סוכנים, אבל מציפים את הבודקים בהתרעות שווא
אנדי הול, חוקר במכון אנתרופיק, בדק אם מודלי AI מסוגלים לאתר בלוגים של סוכנים "רמאויות" שבודקים אנושיים סימנו. GPT-5 איתר כמעט 98% ממקרי ה-reward hacking, אבל ככל שהמודלים נדרשים לתפוס יותר מקרים, מספר ההתרעות השגויות עולה בחדות. לכן, לדבריו, הם מתאימים יותר להערכת היקף הבעיה מאשר לבדיקות בטיחות שאסור להן להחמיץ אף מקרה.