AI במתמטיקה: פריצות דרך מרשימות, וקהילה מתמטית שאינה ממהרת לחגוג

בשנה האחרונה הכריזו OpenAI, אנתרופיק ומעבדות AI נוספות על פריצות דרך בשורה של בעיות מתמטיות שנותרו פתוחות זמן רב. לפי The Verge, בחלק מהמקרים ההישגים חרגו בהרבה ממה שחוקרים ציפו שהמערכות הנוכחיות מסוגלות לעשות. הבולט שבהם הוא הטענה של OpenAI שפתרה את אחת מבעיות הפרס של המילניום, רשימה קצרה של הבעיות הפתוחות המפורסמות ביותר במתמטיקה. בנסיבות רגילות תוצאה כזו הייתה נחגגת כאירוע היסטורי. בפועל, היא עוררה בעיקר ביקורת.

"OpenAI רוצה לנצח"

רוברט הארט, שמסקר את הנושא ב-The Verge, מתאר דפוס חוזר: OpenAI מציגה הישגים מתמטיים מרשימים, ואז מנהלת את ההכרזה עליהם בצורה שמרחיקה ממנה את הקהילה המקצועית. לפי הכתבה, מתמטיקאים רבים רואים בחברה גורם חיצוני עתיר משאבים, שנכנס לבעיות שהם הקדישו להן את חייהם בלי להתחשב בנורמות הוותיקות של התחום. בכתבה הדבר מנוסח כך: מתמטיקאים רוצים לקדם את התחום, ו-OpenAI רוצה לנצח.

המשמעות היא שהוויכוח איננו רק על נכונות ההוכחות. הוא גם על השאלה מי מקבל קרדיט, איך מוצגת תוצאה מדעית ומה קורה לחוקרים שעבדו על הבעיות האלה שנים.

מאיפה הגיעו התוצאות?

אחת המחלוקות החריפות נוגעת לנתונים שעליהם נשענים המודלים. לפי The Verge, מספר ימים אחרי שפרץ ויכוח מר בשאלה אם המודלים של OpenAI נעזרו בעבודות שעוד לא פורסמו, מתמטיקאי נוסף, אנדראס תום (Andreas Thom), האשים את החברה בהתנהלות לא אתית ו"לא ישרה" ובחוסר שקיפות לגבי מקורות נתוני האימון. תום העלה את האפשרות ששיחות שהוא ועמיתיו ניהלו עם ChatGPT לפני ההכרזה של OpenAI תרמו להצלחתה.

אחת מעשר התוצאות שהכריזה עליהן OpenAI באוגוסט עסקה בתחום ההתמחות של תום, חבורות שאינן סופיק (non-sofic groups). לפי הדיווח, OpenAI עצמה הודתה שהתוצאה נשענה במידה רבה על עבודה קודמת של תום ועמיתיו. השאלה העקרונית כאן היא כנראה איך מבדילים בין "גילוי" של מודל AI לבין עיבוד של ידע שמתמטיקאים הזינו לתוכו, ביודעין או שלא ביודעין.

ועדה מייעצת, ושוב בלגן

כדי לתקן את היחסים עם הקהילה הודיעה OpenAI בספטמבר על פאנל עצמאי של מתמטיקאים. תפקידו לייעץ לה ולחברות AI אחרות בכל הנוגע לעבודה מול המחקר המתמטי והקהילה, ובכלל זה לאופן שבו תוצאות חדשות מוצגות ומפורסמות. ההודעה הפתיעה מתמטיקאים רבים. חוקרים שדיברו עם The Verge אמרו שמדובר בצעד ראשון טוב, אבל שאלו מה הקבוצה תעשה בפועל, כמה השפעה תהיה לה והאם OpenAI באמת תקשיב לה. היו שתהו גם אם קבוצה קטנה של חוקרים בולטים יכולה לייצג את הקהילה המתמטית כולה.

כעבור כמה ימים, מתמטיקאים, ובהם אחד מחברי הקבוצה, תיארו ל-The Verge תהליך מבולגן ומבלבל שמזכיר את המהלכים הנמהרים הקודמים של החברה. המשימה הראשונה של הפאנל מעוררת דאגה נוספת: לעזור לתאם את פרסומן של עשרות תוצאות נוספות, שלפי OpenAI הופקו על ידי מודל שהיא עוד לא שחררה. לפי הדיווח, הציפייה ל"גל" כזה של פריצות דרך כבר מעוררת חשש בקרב חוקרים בשאלה מה הוא יעשה לתחום.

למה זה חשוב

המתמטיקה הייתה במשך שנים מבחן מובהק ליכולת "חשיבה" של מודלי שפה: הוכחה נכונה או שגויה, וקשה להסתיר מאחורי ניסוח מרשים. ההישגים שתוארו מצביעים ככל הנראה על קפיצה ממשית ביכולות. אבל הסיפור הזה מראה שבמדע, הדרך שבה מגיעים לתוצאה ומפרסמים אותה חשובה כמעט כמו התוצאה עצמה: מי מקבל קרדיט, מה נכנס לנתוני האימון ומי מחליט מתי ואיך התוצאות יוצגו. המעבדות אומרות שהן לומדות מטעויות העבר. כפי שמציין The Verge, עוד לא ברור אם ההבטחות האלה יתממשו.