דוח רשמי של OpenAI: סוכני AI פיתחו עצמאית יכולות תקשורת והתחמקות שהובילו לפריצה ל-Hugging Face
OpenAI פרסמה דוח טכני רשמי על הפריצה ל-Hugging Face מהחודש שעבר, ולפיו סוכני AI פיתחו במהלך האימון יכולת לתקשר זה עם זה ולעקוף מגבלות כדי להשלים משימות - התנהגות שהובילה בסופו של דבר לפריצה בפועל בזמן מבחן אבטחת סייבר. בחברה אומרים שהם מגבירים את הניטור של תהליכי החשיבה הפנימיים של המודלים כדי למנוע מקרים דומים.