המרוץ ל-RSI: ארה״ב וסין בתחרות להשגת AI שמשפר את עצמו
חברות הבינה המלאכותית המובילות בארה״ב ובסין, ובראשן OpenAI ו-Z.ai, מדווחות על התקדמות לעבר recursive self-improvement (RSI) — מודלים שמסוגלים לאמן ולשפר את עצמם. גם OpenAI, שמובילה את המרוץ, מודה שאין לה עדיין תשובה לשאלת הבטיחות של תהליך כזה, בזמן שברשת מתפשטות שמועות בלתי מאומתות על פריצות דרך דרמטיות עוד יותר.
חברות הבינה המלאכותית המובילות בארצות הברית ובסין מתחרות כעת לא רק על בניית מודלים חזקים יותר, אלא על שימוש במודלים קיימים כדי לבנות את הדור הבא של עצמם. לפי דיווח ב-South China Morning Post, OpenAI האמריקאית ו-Z.ai הסינית מדווחות על התקדמות לעבר מה שבתעשייה מכונה recursive self-improvement (RSI) — יכולת של מערכות AI לאמן ולשפר את עצמן, כמעט ללא תלות בהתערבות אנושית.
מה זה בעצם RSI
הרעיון מאחורי RSI פשוט לתיאור: מודל AI מתקדם מספיק יכול לכתוב קוד, לתכנן ניסויים ולפתח שיטות אימון חדשות שישמשו לבניית מודל חזק ממנו. אם התהליך חוזר על עצמו — כל דור מסייע לבנות דור טוב ממנו — נוצרת לולאת משוב מאיצה שעלולה, כך מעריכים בתעשייה, לשנות את קצב ההתקדמות של תחום ה-AI באופן משמעותי.
OpenAI כתבה בפוסט בבלוג בשבוע שעבר כי היא שואפת לבנות "חוקר AI אוטומטי" שיוכל לקדם מחקר בלמידה עמוקה, אך הודתה כי היא "עדיין לא יודעת איך להגיע בבטחה ל-RSI מלא ומיושר" (aligned). החברה תיארה את המודל GPT-6 Astra, שיצא לאור בתחילת ספטמבר, כ"המודל החכם והמיושר ביותר בעולם".
בסין, טאנג ג'יה (Tang Jie), מייסד חברת Z.ai הפועלת מבייג'ינג, אמר בתדריך דוחות כספיים ב-31 באוגוסט כי המודל הבא של החברה, GLM-6, מתקדם לכיוון של "אבולוציה עצמית".
למה זה חשוב
המרוץ הזה מסמן, ככל הנראה, שינוי בהגדרת ההצלחה בתעשייה: לא רק מודל טוב יותר, אלא מודל שיודע לבנות בעצמו את הבא אחריו. אם RSI אכן יתממש, המשמעות עשויה להיות קפיצה בקצב הפיתוח שקשה יהיה לפקח עליה מבחוץ — וזו כנראה הסיבה שגם OpenAI, המובילה בתחום, מודה בפומבי שאין לה עדיין תשובה לשאלת הבטיחות של תהליך כזה.
במקביל, ברשת מתפשטות בשבועות האחרונים שמועות בלתי מאומתות על פריצות דרך דרמטיות עוד יותר. בדיון בפורום r/singularity נטען, בין היתר, שגוגל "השיגה RSI", ש-OpenAI "פתרה כמה מבעיות המילניום" של מכון קליי למתמטיקה, ואף שחברות מסוימות כבר השיגו AGI באופן פנימי — וקוראות להאטת קצב הפיתוח דווקא בגלל זה. חשוב להדגיש: אלה טענות שמסתובבות בפורומים ולא אושרו על ידי אף מקור רשמי. עצם ההצפה של שמועות בלתי מבוססות, כפי שמצוין באותו דיון, מקשה כשלעצמה על הערכה מפוכחת של המרחק האמיתי בין התעשייה לבין RSI מלא.
מה שכן ידוע בוודאות: שתי החברות הבולטות במרוץ — אחת אמריקאית ואחת סינית — מצהירות בפומבי, כל אחת במילים שלה, שהיעד הבא הוא AI שיודע לשפר את עצמו. אם וכאשר יגיע רגע כזה, הוא צפוי להעמיד את שאלת הבטיחות והפיקוח האנושי במרכז השיח — הרבה לפני שיהיה ברור מי, אם בכלל, הגיע לשם ראשון.