סערה בקהילת המתמטיקאים: OpenAI מתכוונת לשחרר מאות פתרונות בלי לעבור דרך הקהילה המדעית

OpenAI עומדת לפרסם מאות פתרונות לבעיות מתמטיות פתוחות, ותיקות, שהפיק מודל AI פנימי שלה. מתמטיקאים בכירים טוענים שהחברה מתעלמת שוב מהבקשות שלהם. לפי דיווח ב-WIRED, החברה אמרה לגורמים שונים שהיא מתכננת להעלות את התוצאות ל-GitHub ביום שלישי. ב-OpenAI אומרים שעדיין לא נקבע מועד.

הבטחה שנשכחה?

באוגוסט כינסה OpenAI כ-40 מתמטיקאים כדי לדון במה שיקרה אם ה-AI יעקוף את היכולות האנושיות בתחום. לפי משתתפים בפגישה, נציגי החברה רמזו שהמודלים שלה פתרו מאות בעיות ותיקות, והבטיחו שהפתרונות לא ישוחררו בבת אחת. דוברת OpenAI, לינדזי מקאלום, אמרה ל-WIRED שהחברה "אינה מודעת" להבטחה כזו.

המתמטיקאית ברינה קרה מאוניברסיטת נורת'ווסטרן סיפרה שהמשתתפים הגיבו ב"שילוב של התרגשות ואימה". לדבריה, הם ביקשו מהחברה לא להסתפק בפוסט בבלוג או בציוץ, כמו שעשתה עם עשר בעיות מוקדם יותר באותו חודש, אלא לפרסם מאמרים שיסבירו את העבודה. כך מתמטיקאים יוכלו לעכל את התוצאות ולהשתמש בהן. "ככל הנראה, ההערות האלה זכו להתעלמות", היא אומרת.

ב-OpenAI מציגים תמונה אחרת. "ב-28 באוגוסט התחלנו לאמן מודל פנימי חדש. מלבד פתרון בעיית נאוויה-סטוקס מבעיות פרס המילניום, המודל הזה פתר עד היום יותר מ-100 בעיות פתוחות ותיקות ברוב תחומי המתמטיקה", אמרה מקאלום. לדבריה, החברה פועלת לשחרר את התוצאות באופן אחראי, בהסתמך על המלצות של הקבוצה המייעצת למתמטיקה ובינה מלאכותית במכון למחקר מתקדם (IAS).

"התנהגות מאפיונרית"

לפי המתמטיקאים, הבעיה לא מתחילה ונגמרת בפרסום הנוכחי. הם אומרים ל-WIRED שהתחום הפך למגרש משחקים שבו OpenAI ואנתרופיק מציגות את יכולות המודלים שלהן, בזמן ששתיהן מתכוננות להנפקות ענק. לטענתם, בתחרות הזו נדחקים הצידה הנהלים המדעיים המקובלים לפרסום תוצאות ולמתן קרדיט.

המקרה הבולט ביותר קרה בספטמבר. OpenAI הפעילה אלפי סוכני AI על אחת מבעיות פרס המילניום, שבצידן פרס של מיליון דולר, אחרי ששמעה "שמועות" שאחרים מתקרבים לפתרון. טריסטן באקמאסטר, פרופסור למתמטיקה באוניברסיטת ניו יורק, האשים את החברה בכך שהקדימה את העבודה שלו על רכיב בבעיה. הוא עבד עליה בשיתוף פעולה אישי עם לבנט אלפוגה, עובד אנתרופיק. השניים עוד לא פרסמו את עבודתם, אבל השתמשו בכלים של OpenAI.

לטענת באקמאסטר, במשא ומתן על הקרדיט רמז חוקר OpenAI סבסטיאן בובק שעדיף להשאיר את אלפוגה מחוץ למאמר, כי צירופו יסבך את העניינים. בובק הפנה להצהרה פומבית קודמת שבה הכחיש שביקש זאת. לפי סיכומי פגישה ש-WIRED ראה, בובק הביע דאגה ממה שאנתרופיק עשויה לעשות, ושאל מה ימנע ממנה להקדיש את כל כוח המחשוב שלה לבעיית מילניום. לפי אותם סיכומים, כשבאקמאסטר איים לפנות לתקשורת, בובק רמז שהוא עלול להרוס את הקריירה שלו, ואמר: "אם אתה לא רוצה שאהיה נחמד, אני לא חייב להיות נחמד".

נסטור גיין, פרופסור אורח למתמטיקה באוניברסיטת ניו יורק, אומר שבקרב מתמטיקאים "יש תחושה של התנהגות מאפיונרית" מצד חברות ה-AI. "אני מרגיש הרבה חרדה, ואני רואה את זה יותר ויותר אצל עמיתיי, לא בגלל ה-AI אלא בגלל חברות ה-AI", הוא אומר. לדבריו, "חלק גדול מהחרדה נוגע לריכוז הכוח במקום אחד". ב-OpenAI מגיבים: "אנחנו לא מסכימים לאפיון הזה".

למה זה חשוב

באמצע ספטמבר הקימה OpenAI קבוצה מייעצת שאמורה לעזור לה לקבוע איך היא בודקת ומציגה תוצאות חדשות ואיך היא שומרת על סטנדרטים אקדמיים. לדברי מתמטיקאים, ההתקדמות בה מועטה. רבים מהם מתוסכלים מכך ש-OpenAI ואנתרופיק ממשיכות לפרסם תוצאות בפוסטים בבלוג ולא במאמרים מדעיים. לטענתם, כך קשה יותר לאמת את התוצאות, ולעיתים קרובות לא מוזכרת העבודה הקודמת של חוקרים אחרים.

המשמעות ככל הנראה רחבה יותר מוויכוח על נימוסים אקדמיים. אם מאות פתרונות יעלו בבת אחת למאגר קוד, בלי הסברים ובלי ביקורת עמיתים, הקהילה תצטרך לבדוק אותם בקצב שהיא לא בנויה לו. זה גם יכול להשפיע על השאלה מי יקבל קרדיט על הישגים מתמטיים בעידן ה-AI.