זוכה פרס טיורינג יוצא נגד הטרנד: 'דאטה סינתטי היא טעות גדולה' באימון בינה מלאכותית

החוקר ריצ'רד סאטון, זוכה פרס טיורינג ומאבות תחום הלמידה המחזקת (reinforcement learning), יוצא בביקורת חריפה נגד אחת האסטרטגיות המרכזיות של מעבדות ה-AI המובילות: שימוש בדאטה סינתטי (נתונים מלאכותיים) כדי להתגבר על מחסור בנתוני אימון איכותיים. בראיון שנחשף השבוע, כפי שדיווח האתר The Decoder, אמר סאטון שהגישה "פשוט טעות גדולה", בטענה שהעולם מורכב מכדי שניתן יהיה לדמות אותו בסימולציה.

סאטון, שכתב את ספר הלימוד המכונן של תחום הלמידה המחזקת ושימש מנטור לחוקרים כמו דיוויד סילבר (שהיה מאחורי AlphaGo), פרסם ב-2019 את המאמר המשפיע "The Bitter Lesson" ("הלקח המר"). לפי המאמר, בטווח הארוך רק שיטות AI שמתבססות על סקאלה של כוח חישוב - כמו חיפוש ולמידה - מנצחות, ולא שיטות שנשענות על ידע אנושי מובנה מראש.

כעת, לצד השקת חברת הסטארטאפ החדשה שלו, Oak Lab, שהקים יחד עם תלמידו לשעבר חראם ג'אביד, מרחיב סאטון את הביקורת גם למודלי שפה גדולים (LLM). לדבריו, המודלים הם דוגמה טובה ורעה כאחד ל"לקח המר": טובה, כי הם הצליחו להתרחב בעזרת כוח חישוב עצום ו"לשתות את האינטרנט" כולו; רעה, כי הם נתקעו בדיוק בנקודה הזו - האינטרנט הוא משאב סופי, ואילו העולם האמיתי, לפי סאטון, "גדול משמעותית מכל מה שאחסנו באינטרנט".

כשנשאל אם דאטה סינתטי יכול לפרוץ את צוואר הבקבוק הזה, השיב סאטון בחדות: "לא, זו פשוט טעות גדולה". הטענה מבוססת על מה שכינה הצוות "השערת העולם הגדול" (Big World Hypothesis), שגובשה על ידי חראם ג'אביד וקבוצת המחקר באלברטה. לפי הטענה, העולם מורכב באופן אינסופי - "גדול משמעותית מכל סוכן (agent) בודד" - וכל סימולציה שלו היא בהכרח זעירה ולא מדויקת, למשל עם ערכי חיכוך שגויים או מודל לא מדויק של תנועת מנוע ברובוט.

סאטון מציין גם קושי נוסף: את הפעילות הפנימית של סוכנים אחרים, כלומר בני אדם, אי אפשר לייצר כדאטה סינתטי - "אין דרך שיהיה לנו דאטה סינתטי על המוח של אנשים אחרים", לדבריו. חראם ג'אביד מוסיף טענה שנייה, על "צוואר בקבוק אנושי": כדי להחליט אילו נתונים סינתטיים טובים ואילו לא, נדרשים מומחי תחום אנושיים, ולכן הגישה אינה ניתנת להרחבה (scale) אמיתית. כדוגמה מביאים השניים אימון רחפן שנע כמו עטלף באמצעות אקולוקציה - משימה שמצריכה מומחים ייעודיים. גם ברכבים אוטונומיים המאומנים בסימולציה, בני אדם עדיין נדרשים לתקן את הפער בין הסימולציה למציאות.

החלופה שמציע סאטון היא אימון סוכני AI שלומדים מהניסיון שלהם עצמם, בונים מודל עולם משלהם ומתקנים אותו באופן שוטף, במקום להסתמך על סימולציה קפואה שבני אדם בנו. הוא מותח ביקורת גם על כך שמודלי שפה מפסיקים ללמוד ברגע שהאימון מסתיים: "המשקלים שלהם לעולם לא משתנים". לדבריו, נדרשת "למידה מתמשכת" (continual learning) אמיתית, שכן "כל למידה היא מתמשכת", מבלי לאבד ידע קודם - תופעה המכונה "שכחה קטסטרופלית". סאטון טוען שניתן לפתור את הבעיה, בין היתר בעזרת שיטה שכינה "Continual Backprop", שצוותו פרסם בכתב העת Nature. את מודלי השפה עצמם הוא מכנה "פריצת דרך מדעית מדהימה", אך מעריך שהם מהווים "רק כ-20% או רבע מהאינטליגנציה".

אם הערכתו של סאטון נכונה, המשמעות היא שמעבדות ה-AI המובילות - שהשקיעו משאבים ניכרים בדאטה סינתטי כדי לפצות על מחסור בנתוני אימון איכותיים - עשויות להיתקל בתקרת זכוכית שלא תיפתר בכוח חישוב נוסף בלבד, אלא ככל הנראה תדרוש מעבר ארכיטקטוני לכיוון סוכנים שלומדים באופן מתמשך מהניסיון שלהם.