מתמטיקאים תוקפים את OpenAI: שימוש בעבודתם ללא קרדיט

מתמטיקאי נוסף מאשים את OpenAI בהתנהלות לא הוגנת סביב מקורות נתוני האימון של המודלים שלה, ימים ספורים בלבד אחרי שפולמוס דומה התעורר סביב חברת המחקר. לפי דיווח ב-The Verge, אנדראס תום (Andreas Thom) כתב בסדרת פוסטים ברשת Mastodon כי הוא חושש שהאינטראקציות שלו ושל עמיתיו עם הצ'אטבוט ChatGPT, עוד לפני שOpenAI הכריזה בחודש שעבר על סדרת פריצות דרך מתמטיות, תרמו בפועל להישג של החברה.

אחת מעשר התוצאות שבהן התהדרה OpenAI עסקה בתחום ההתמחות של תום: מה שמכונה "קבוצות non-sofic" — מבנים מתמטיים אינסופיים שלא ניתן לקרב אותם באמצעות מבנים סופיים. החברה עצמה הכירה בכך שהתוצאה נשענה במידה רבה על עבודה קודמת של תום ושל המתמטיקאי גאבור קון (Gábor Kun). לפי הדיווח, לאחר ההכרזה ספגה OpenAI ביקורת בקהילה המתמטית על כך שלא ייחסה קרדיט מספק לתרומתם העדכנית של השניים, ובעקבות זאת עדכנה החברה בשקט את הפרסום.

תום ציין כי הופתע במיוחד מ"השליטה המפורטת" שהפגין המודל בטכניקות שפיתח, טכניקות שלדבריו לא היו הדרך המובנת מאליה או המבטיחה ביותר לפתרון באותה עת. לפי דבריו, לאחר שפרופסור טריסטן בקמסטר (Tristan Buckmaster) מאוניברסיטת ניו יורק שאל בפומבי אם מודלי OpenAI נעזרו בשימוש שלו בכלי Codex של החברה, החל תום לבחון מחדש גם את האינטראקציות שלו עצמו.

לדברי הדיווח, תום פנה במייל לחוקרי OpenAI סבסטיאן בובק (Sébastien Bubeck) ומארק סלקה (Mark Sellke, סטטיסטיקאי מאוניברסיטת הרווארד), ושאל האם השיחות שלו עם ChatGPT היו "חלק מנתוני האימון או נגישות לתהליך ההיסק" ולכן יכלו לתרום לתוצאה. אלא שהתשובה שקיבל, כך לפי תום, התייחסה רק לשאלה אם ניתן לגשת ישירות לשיחותיו — ולא לשאלה אם הן נכנסו למאגרי הנתונים העצומים שמשמשים את החברה לשיפור המודלים. "לא ניתן הסבר, הבהרה או ראיה כאלה," כתב תום. "אני מתייחס לכך כאי-כנות, בלשון המעטה."

תום הוסיף כי חוקרים חיצוניים אינם מצוידים ביכולת להנדס לאחור את צינור האימון (training pipeline) של OpenAI כדי לברר אם נעשה שימוש בעבודתם. "רק ל-OpenAI יש את הנתונים הרלוונטיים לכך," כתב, וטען כי אם החברה מכחישה שימוש כזה, האחריות עליה להוכיח זאת — באמצעות חשיפת מערכי הנתונים הנדרשים והבהרת התנאים וההגדרות לפיהם היא משתמשת בנתוני משתמשים.

למה זה חשוב: לפי הדיווח, ההיסוס של OpenAI לשלול באופן חד-משמעי שימוש בנתוני משתמשים מזכיר את האופן שבו הגנה החברה על הישג נוסף שהכריזה עליו, פתרון בעיית ניבייה-סטוקס (Navier-Stokes) במסגרת פרסי המילניום. בפוסט שהכריז על אותה תוצאה כתבה OpenAI כי "לא ראינו (החוקרים והסוכנים) דבר מעבודתם בשום אמצעי עד שפרסמו אותה בפומבי — ובפרט, לא ניגשנו לשום נתוני משתמש ספציפיים כדי לפתור את הבעיה הזו". ניסוח כזה, כך עולה מהדיווח, אינו שולל השפעה עקיפה — ונראה שהוא חוזר על עצמו ככל שהחברה ממשיכה לצבור הישגים מתמטיים בלי לפרט במלואה מהיכן מגיעים נתוני האימון שלה.