גוגל: בינה מלאכותית שמשפרת את עצמה עדיין רחוקה מאוד

בגוגל DeepMind לא נמדדה עד כה האצה של מחקר בינה מלאכותית שמקורה ב-AI עצמה. כך טוען היידן בלפילד, מהנדס בגוגל, בממצאים שסוקרו באתר The Decoder. לדבריו, הרעיון של מערכת AI שמשפרת את עצמה בקצב הולך וגובר עדיין רחוק מהמציאות, אף שהאוטומציה בחברה כבר נרחבת.

הרבה קוד, מעט עצמאות

המספרים שבלפילד מציג מראים שהתמונה מורכבת. לדבריו, AI כותבת היום יותר מ-75% מקוד הייצור (production code, הקוד שרץ במוצרים בפועל). עם זאת, כ-88% משינויי הקוד עדיין דורשים פיקוח או בדיקה של אדם, ואדם בודק כל שינוי לפני שהוא מוגש. שיעור שינויי הקוד שהועברו לטיפול מלא של AI עלה מ-7.5% ל-11.9%.

המשמעות היא שכמות הקוד ש-AI מייצרת אינה מעידה בהכרח על עצמאות. ככל שמשימה מורכבת יותר ונמשכת זמן רב יותר, כך יורד הסיכוי שה-AI תשלים אותה לבד. ב-1,389 הרצות פנימיות של סוכן ה-AI של החברה, Argon, שיעור ההצלחה ללא התערבות אנושית ירד בחדות ככל שהמורכבות עלתה.

לפי בלפילד, בני אדם עדיין חיוניים למחקר יצירתי, לתכנון ניסויים חדשים, לאבחון של אי-יציבויות עדינות בתהליך האימון ולתכנון ארוך טווח. סקר שנערך בקרב 12 חוקרים בכירים ב-DeepMind הראה דפוס דומה: רמת האוטומציה הגבוהה ביותר היא במשימות מוגדרות היטב שאפשר לאמת את תוצאותיהן, והנמוכה ביותר היא בגיבוש רעיונות מדעיים פתוחים.

במבחן הפנימי של DeepMind, ‏RE-Bench, שכולל 74 משימות מציאותיות בהנדסת למידת מכונה, Argon פותר כמחצית מהמשימות. זו קפיצה גדולה לעומת 27% של Gemini 3.7 Flash, אבל אוטומציה מלאה תדרוש ביצועים כמעט מושלמים.

מדד יכולות בלי האצה

כדי לעקוב אחרי ההתקדמות באופן שיטתי, הצוות בנה מדד בשם General Capability Index ‏(GCI), שמכסה 123 מודלים ו-92 מבחני ביצועים (benchmarks). לפי המדד, יכולות מודלי Gemini גדלות בקצב קבוע של כ-0.1 נקודות GCI בחודש, ללא שינוי מובהק בקצב. Gemini 4 Argon נמצא מעט מעל קו המגמה, והצוות מייחס זאת לכוח מחשוב נוסף ולהשקעה ארגונית, ולא להאצה שמקורה ב-AI.

בשלב זה הצוות מעריך שהסיכון מאוטומציה של מחקר AI נמוך, אבל הוא בונה תשתית מדידה שתאפשר לזהות סימני האצה בעתיד.

הוויכוח הרחב

לפי The Decoder, הממצאים של בלפילד תואמים מחקרים עדכניים, אבל לא כולם בתחום מסכימים איתם. לאחרונה פרסמו יותר מ-20 חוקרי AI, ובהם ג'פרי הינטון, יהושע בנג'יו ויאקוב פחוצקי מ-OpenAI, מאמר מחקר שמזהיר מפני "התפוצצות אינטליגנציה" אפשרית. לטענתם, מערכות AI עשויות להפוך את כל המחקר והפיתוח של AI לאוטומטי בתוך שנים ספורות, ולדחוס התקדמות של שנים לחודשים ספורים.

למה זה חשוב

שני הצדדים לא בהכרח סותרים זה את זה ישירות. האזהרה של החוקרים עוסקת במה שעלול לקרות בשנים הקרובות, ואילו הנתונים של DeepMind מתארים את המצב כפי שהוא נמדד היום, בתוך חברה אחת. ככל הנראה, החידוש העיקרי בדיווח הוא דווקא תשתית המדידה: אם האצה כזו אכן תתחיל, מדד כמו GCI אמור לזהות אותה כשינוי בשיפוע של קו המגמה. עד אז, הפער בין 75% קוד שנכתב על ידי AI לבין 11.9% שינויים שהועברו אליה במלואם מראה כמה רחוקה עדיין עצמאות אמיתית.