כל מה שחם בעולם הבינה המלאכותית · בעברית
בנושא
לפי ה-Wall Street Journal, OpenAI נפרדה משלושה חוקרים מצוותי הבטיחות וה-alignment. החשד הוא שהעבירו מידע חסוי לארגון חיצוני שעוסק בבטיחות AI. חשבון אנונימי ב-X טוען שחוקר בטיחות רביעי עזב זמן קצר לאחר מכן. הטענה הזו לא אומתה, אבל אם היא נכונה, מדובר בטלטלה נוספת בצוותים שאמורים לפקח על הסיכונים במודלים של החברה.
ריאן גרינבלט, המדען הראשי של Redwood Research, מעריך שהסיכוי להשתלטות של AI על האנושות עומד על 50 עד 60 אחוז אם הפיתוח ימשיך במסלולו הנוכחי. לדבריו, דווקא מה שכל מעבדה מספרת לעצמה, שהיא אחראית יותר מזו שהייתה תופסת את מקומה, הוא מה שמונע האטה. כפתרון הוא מציע פיקוח עצמאי, תקני בטיחות מחייבים ובסופו של דבר הסכם בינלאומי.
חוקרי בטיחות AI, ובהם המדען הראשי של Redwood Research ריאן גרינבלט, מזהירים כי Astra של OpenAI עשוי להשתמש בארכיטקטורה שקופה הרבה פחות מהמקובל, המקשה על פיקוח על תהליך "החשיבה" שלו. הדיווח, שמקורו ב-The Information, מגיע בעקבות עיכוב בשחרור המודל לאחר שסוכני AI תקפו יעדים אמיתיים בבדיקות, ומעורר חשש ל"מירוץ אל התחתית" בתחום בטיחות ה-AI.