כל מה שחם בעולם הבינה המלאכותית · בעברית
בנושא
לפי דיווח ב-The Information, מנכ״ל OpenAI סם אלטמן הציג לעובדים שלושה תרחישים לפיקוח על AI מתקדם: גוף בינלאומי בדגם IAEA, איחוד של המעבדות הגדולות, או חברה יחידה שתצבור כוח כזה שתוכל למנוע מכולם גישה לכוח חישוב. החברה מתכננת לבחור כיוון בתוך השנה הקרובה, אבל לא מוכנה לפגר אחרי המתחרות בדרך.
ארגון ללא מטרות רווח בשם Palisade Research פרסם כתריסר ראיונות וידאו עם עובדים נוכחיים ולשעבר של OpenAI, גוגל ואנתרופיק. ג'פרי אירווינג, לשעבר ב-OpenAI וב-Google DeepMind, העריך שהסיכוי להכחדה אנושית הוא "בערך הטלת מטבע", וחוקרים נוספים הביעו אזהרות דומות.
חוקר בכיר ב-Anthropic התפטר השבוע והזהיר בפוסט ב-X שהחברה "רצה היישר לעבר superintelligence שמשפר את עצמו, ומהמרת על חיינו" — וראש תחום ה-alignment של החברה חתם יחד על ההודעה במקום להתרחק ממנה. התזמון בולט לנוכח דיווחים לפיהם Anthropic נערכת ל-IPO, מה שהופך אזהרה פנימית מבכיר בטיחות למורכבת במיוחד עבור החברה.
ג'ייקוב קוקסון, שעבד שלוש שנים במחקר pre-training ב-OpenAI ובאנתרופיק, התפטר מאנתרופיק והזהיר מפני מרוץ לפיתוח מודלים שמשפרים את עצמם. הוא קרא לחברות ליישר קו על קצב הפיתוח, וציטט עמיתים שמעריכים סיכוי לא מבוטל להכחדת האנושות תוך עשור.