טרנס טאו: ה-AI הופך מתמטיקה יפה ל"פסולת רעילה"
המתמטיקאי טרנס טאו, זוכה מדליית פילדס, תוקף את המרוץ בין OpenAI לאנתרופיק לפתרון בעיות מתמטיות פתוחות. לטענתו, הפרסום של OpenAI, שכלל תשובות ל-722 בעיות שלא נפתרו, השאיר את הקהילה המתמטית עם הוכחות מסורבלות וקשות להבנה. OpenAI דוחה חלק מהטענות.
טרנס טאו, שנחשב בעיני רבים למתמטיקאי המוביל בעולם, יוצא נגד האופן שבו חברות ה-AI עוסקות במתמטיקה. בראיון ל-Observer הוא מתאר את פרסום התשובות של OpenAI ל-722 בעיות מתמטיות פתוחות כהשלכה של "פסולת רעילה". לדבריו, מדובר בהוכחות שמגיעות לתוצאה הנכונה, אבל אף אחד לא דאג שיהיו אלגנטיות או מובנות.
בעיות מתמטיות כחומר אימון
טאו, בן 51, יליד אוסטרליה ופרופסור למתמטיקה ב-UCLA, הוא מהזוכים הצעירים ביותר במדליית פילדס, הפרס היוקרתי ביותר במתמטיקה. הוא עבד בעבר עם OpenAI ולדבריו עדיין יש לו אנשי קשר בחברה. בימים אלה יוצא ספרו "Six Maths Essentials: How to Model the World".
לפי טאו, החברות "דוהרות לעבר המודל החזק ביותר", ולכן הן צריכות כל הזמן מבחנים חדשים שיראו אם היכולות של המודלים משתפרות. הבעיה היא שהמודלים החדשים כבר עוברים כמעט כל מבחן קיים. "בעיות מתמטיות הן כמעט הדבר היחיד שנשאר להן להתאמן עליו, אז פתאום כל הפרסים והיעדים הגדולים במקצוע שלנו הפכו ל-benchmarks (מדדי ביצועים) עבורן", הוא אומר. "ובתור תוצר לוואי הן מייצרות הוכחות איומות. תוצאות מעולות, אבל לא אכפת להן כמה הפתרונות אלגנטיים, מי מבין אותם או מה עושים הלאה".
"קוד אדום" סביב נאוויה-סטוקס
לפי הגרסה של טאו, הכול התחיל כשהופיעו ברשת שמועות שחוקרים באנתרופיק קרובים לפתור את אחת משבע "בעיות המילניום" של מכון קליי למתמטיקה, שעל כל אחת מהן מוצע פרס של מיליון דולר. "אנשי הקשר שלי ב-OpenAI סיפרו שזה הפך לעדיפות קוד אדום מספר אחת", הוא אומר. "הם שפכו עשרות מיליוני דולרים והקימו נחיל של 10,000 סוכני AI כדי לתקוף את הבעיות האלה".
המאמץ התמקד במשוואות נאוויה-סטוקס, שמתארות תנועה של נוזלים אך ייתכן שהן קורסות בתנאים מסוימים. טאו מוסיף שהחברה אף הקפיאה לכמה ימים את ההרשמה לשירות הפרימיום שלה כדי להפנות את כוח המחשוב לבעיה הזו. "הם מאוד מאוד רצו לנצח את אנתרופיק. זה מטורף". ב-OpenAI דחו את האנלוגיה של "קוד אדום" ומסרו שלא הקפיאו הרשמות ושלא הוציאו סכומים בהיקף שטאו מתאר.
ב-8 בספטמבר פרסמה OpenAI הוכחה שלכאורה מראה שמשוואות נאוויה-סטוקס אכן קורסות, אך לפי סקירות ייתכן שיש בה שגיאות. לדברי טאו, הביקורת מצד הקהילה המתמטית הותירה את OpenAI עם מאגר גדול של פתרונות "מלוטשים גרוע מאוד" שצברה בזמן שבחנה את המודלים שלה, בלי לדעת מה לעשות בהם. "כשמייצרים פסולת רעילה אין אפשרויות טובות", הוא אומר. "אפשר לשבת עליה לנצח, לשפוך את כולה בבת אחת, לחלק אותה בטפטופים, או לשלם לאנשים שיעבדו אותה". ב-OpenAI אומרים שהחברה לא עיכבה תוצאות וגם לא מיהרה לפרסם אותן.
מי יכתוב את המאמר
לדברי טאו, אנתרופיק בוחרת בדרך אחרת ומשלמת למתמטיקאים שיכתבו מאמרים על בסיס "אוצר השאלות" שלה. בעיניו גם זה בעייתי. במשך שנים נהנתה המתמטיקה משוויון הזדמנויות: בניגוד לפיזיקאים שתלויים במתקנים כמו CERN או טלסקופ החלל האבל, למתמטיקאי הספיקו גיר ולוח. היום מחקר בחזית התחום מחייב גישה למודל AI מתקדם, ו"הם אלה שבוחרים מי יכתוב את המאמר".
למה זה חשוב
הביקורת של טאו נוגעת בשאלה רחבה יותר: מה הערך של הוכחה שאף אדם לא מבין. במתמטיקה הוכחה היא לא רק אישור לכך שטענה נכונה. היא גם הסבר, והיא נקודת מוצא למחקר הבא. אם בעיות שחוקרים הקדישו להן קריירות שלמות הופכות לחומר אימון ולמדדי ביצועים במרוץ בין חברות, נראה שהסכנה, כפי שטאו מציג אותה, היא שהתחום יקבל תשובות בלי ההבנה שהייתה אמורה לבוא איתן. כמו כן, ייתכן שהשליטה במחקר המתקדם תעבור בהדרגה מהאוניברסיטאות לחברות שמחזיקות במודלים.