מחברי AI 2027 מעדכנים: לפי התחזית, "התפוצצות האינטליגנציה" עשויה להגיע כבר ב-2027

מכון AI Futures, שכתב את התרחיש העתידני AI 2027, פרסם היום (10 בנובמבר) עדכון חריג לתחזיותיו. הכותרת שלו היא "נראה שהתפוצצות האינטליגנציה תקרה ב-2027 בכל זאת". לפי העדכון, ההאצה במחקר הבינה המלאכותית שנגרמת על ידי ה-AI עצמו מקדימה ככל הנראה את התרחיש המקורי בכחמישה חודשים. חשוב להדגיש: זו תחזית שמבוססת על מודלים, אקסטרפולציות והערכות, ולא עובדה. הכותבים עצמם מציינים שפרסמו את הפוסט בחיפזון בגלל "דחיפות הנושא", ושייתכנו בו טעויות במידול, אך לדבריהם סביר מאוד שהן לא משנות את המסקנות הכלליות.

מה השתנה

על העדכון חתומים אלי ליפלנד (Eli Lifland), ברנדן הלסטד (Brendan Halstead), דניאל קוקוטאילו (Daniel Kokotajlo) ושלושה חוקרים נוספים. לדבריהם, הגורם המשמעותי ביותר לשינוי הוא דוח של METR, ארגון שמעריך את יכולות מודלי ה-AI. METR העריך לאחרונה שאנתרופיק מתקדמת כיום במחקר ה-AI בקצב כפול בערך מהקצב ההיסטורי שלה. לפי הארגון, גם האצה של פי 1.3 או של פי 3 לא הייתה מפתיעה אותו. עוד העריך METR ש"אולי כ-80%" מההאצה נובעים מהשימוש ב-AI עצמו.

מהנתונים האלה גוזרים חוקרי המכון האצה של פי 1.7 בקצב ההתקדמות שאפשר לייחס ל-AI. מבחינתם זו הפתעה של ממש. את התחזית הקודמת שלהם פרסמו לפני פחות משלושה חודשים, ואפילו ההתפלגות האגרסיבית ביותר בה, זו של קוקוטאילו, נתנה פחות מ-4% לכך שקצב ההתקדמות יואץ פי 1.7 לפחות כבר בנובמבר 2026. הכותבים מדגישים שהאצה כזו משמעותית בהרבה מהעלאה של פריון העובדים פי 1.7.

"חוקר AI על-אנושי" ב-2027

התחזית מתמקדת באבן דרך שהמכון מכנה Superhuman AI Researcher (SAR), כלומר חוקר AI על-אנושי. לפי ההגדרה שלהם, זו הנקודה שבה חברה תעדיף לפטר את כל החוקרים האנושיים שלה ולהסתמך רק על חוקרי AI אוטומטיים, במקום להעסיק את צוות החוקרים הטוב בעולם בלי AI.

בעבר, קוקוטאילו, האופטימי מבין חברי הצוות, נתן סיכוי של 50% להופעת SAR לפני 2029. עכשיו כל החוקרים במכון צופים ש-SAR יגיע ככל הנראה במהלך 2027, בהנחה שלא תהיה האטה מכוונת ומשמעותית בפיתוח. בנוסף הם מעריכים בסיכוי של 35% עד 65% שעד סוף 2027 תופיע מערכת שהם מכנים TED-AI: מערכת שעולה על המומחים האנושיים המובילים כמעט בכל משימה, ומסוגלת להפוך לאוטומטית את כל עבודת הצווארון הלבן.

החוקרים הגיעו להערכות באמצעות כמה שיטות, ותוצאותיהן שונות:

• אקסטרפולציה ליניארית של קצב ההתקדמות האחרון: SAR כנראה עד סוף 2027.
• אקסטרפולציה מעריכית של שיפור הפריון שעליו מדווחים העובדים עצמם: SAR באמצע 2028. לדברי הכותבים, ייתכן שהדיווחים העצמיים אופטימיים מדי.
• הרחבת גרף שפרסמה אנתרופיק על רמות האוטומציה של משימות המחקר והפיתוח: SAR בסוף 2027.
• המודל של טום דייווידסון (Tom Davidson): SAR מתישהו ב-2027.

למה זה חשוב

המשמעות המעשית של העדכון היא קודם כל עמדה מדיניות. לדברי הכותבים, אם SAR אכן יגיע ב-2027, "דחוף ביותר" לעצור את פיתוח מודלי החזית או להאט אותו משמעותית. האפשרות המועדפת עליהם היא עצירה כלל-ענפית ואחריה הסכם בינלאומי. לטענתם, החברות לא נמצאות בדרך להבטיח ש-SAR יפעל בהתאם לכוונות המפתחים (alignment), ושימוש במערכת כזו שאינה מיושרת לשיפור עצמי רקורסיבי, כלומר AI שמשפר את עצמו, יציב את העולם "בעמדה גרועה מאוד". הם מוסיפים שאם SAR יאומן בעתיד הקרוב, סין תוכל ככל הנראה לגנוב את מתכון האימון, ואולי אפילו את משקלי המודל.

כדאי לקרוא את העדכון בזהירות. הוא נשען במידה רבה על דוח אחד ועל הערכות שהטווח שלהן רחב (פי 1.3 עד פי 3). תוצאות שיטות החיזוי השונות נפרשות מ-2027 ועד אמצע 2028, והכותבים עצמם מודים שהפוסט פורסם בחופזה. מצד שני, העובדה שגוף שעוסק בחיזוי שינה את הערכותיו בצורה כה חדה תוך פחות משלושה חודשים מלמדת ככל הנראה עד כמה המדדים מהשטח מפתיעים גם את מי שכבר צפו קצב התקדמות מהיר.