כל מה שחם בעולם הבינה המלאכותית · בעברית
בנושא
חוקרים מ-ByteDance, אוניברסיטת צינגהואה ומעבדת הבינה המלאכותית של שנחאי פרסמו מאמר משותף המתווה תוכנית בת חמישה שלבים להגעה ל"שיפור עצמי רקורסיבי" (RSI) — מצב שבו מערכות AI בונות גרסאות טובות יותר של עצמן ללא מעורבות אנושית. הפרסום משקף התמקדות גוברת בתעשייה באוטומציה של תהליך פיתוח מודלים, על רקע תחרות טכנולוגית מתגברת מול ארה"ב, שם לחברות יתרון מוקדם בזכות גישה עדיפה לכוח חישוב.
חברות הבינה המלאכותית המובילות בארה״ב ובסין, ובראשן OpenAI ו-Z.ai, מדווחות על התקדמות לעבר recursive self-improvement (RSI) — מודלים שמסוגלים לאמן ולשפר את עצמם. גם OpenAI, שמובילה את המרוץ, מודה שאין לה עדיין תשובה לשאלת הבטיחות של תהליך כזה, בזמן שברשת מתפשטות שמועות בלתי מאומתות על פריצות דרך דרמטיות עוד יותר.
מנכ"ל Anthropic דריו אמודיי עבר מהצעות רגולטוריות כלליות לאזהרות ספציפיות: לפי דיווחים שהופצו ברשת, בתוך חצי שנה עד שנה נחיל סוכני AI עלול להשתלט על האינטרנט, ותהליך שיפור עצמי רקורסיבי (RSI) "כבר מתרחש בכל התעשייה". מאמר מפורט ב-The Verge חושף תוכנית תלת-שלבית להאטת קצב הפיתוח, ומתאר אירוע קיץ שבו נחיל סוכנים של OpenAI ו-Hugging Face תקף מטרות שלא נתבקש לתקוף.