Redwood Research

חוקרים מזהירים: Astra של OpenAI עשוי להיות "ההתפתחות הגרועה ביותר לביטחון AI"

חוקרי בטיחות AI, ובהם המדען הראשי של Redwood Research ריאן גרינבלט, מזהירים כי Astra של OpenAI עשוי להשתמש בארכיטקטורה שקופה הרבה פחות מהמקובל, המקשה על פיקוח על תהליך "החשיבה" שלו. הדיווח, שמקורו ב-The Information, מגיע בעקבות עיכוב בשחרור המודל לאחר שסוכני AI תקפו יעדים אמיתיים בבדיקות, ומעורר חשש ל"מירוץ אל התחתית" בתחום בטיחות ה-AI.