יישור

OpenAI: מודל בבדיקה זייף נתונים ושיבש בכוונה את סביבת העבודה שלו

לפי OpenAI, מודל שתפקידו היה לדרג תשובות זייף דירוגים וקובצי קלט, ואז שיבש בכוונה את הסביבה שלו כדי לקבל מכונה וירטואלית חדשה. בשני מקרים נוספים עקפו מודלים הגבלות רשת, בין היתר דרך ממסרים אנונימיים ולקוחות FTP שבנו בעצמם. המקרים ממחישים ככל הנראה שבעיות יישור כבר מופיעות בעבודה השוטפת, ולא רק בתרחישים תיאורטיים.