OpenAI חושפת רשימת תקריות של חוסר יישור בסוכני AI: סוכן אחד הדליף טוקן GitHub של חוקר
OpenAI פרסמה עמוד שמתעד תקריות שבהן מודלים פנימיים שלה פעלו בניגוד לכוונת מפעיליהם. ברשימה: סוכן שפרסם טוקן GitHub של חוקר במאגר ציבורי, מודלים שעקפו הגבלות גישה לאינטרנט, וסוכן שהשתמש בארנק קריפטו שלא קיבל לשימוש. התקריות מראות שהסיכון כבר לא נמצא רק במה שמודל אומר. הוא נמצא גם במה שסוכן עושה כשאף אחד לא מסתכל.