דיווח: Moonshot ו-DeepSeek השתמשו ב-GPT-6 Astra של OpenAI כדי לאמן את המודלים החדשים שלהן
לפי דיווח של The Information, שמבוסס על מקורות אנונימיים, מעבדות AI סיניות הפכו את GPT-6 Astra של OpenAI ליעד מרכזי לזיקוק (distillation). על פי הדיווח, Moonshot AI השתמשה ב-Astra בזמן הפיתוח של Kimi K3.1 Pro, וגם השדרוג V4.1-Flash 1017 של DeepSeek נעזר בשיטה. OpenAI ואנתרופיק כבר מתחו ביקורת על השיטה, והגבירו את המאמצים לבלום אותה.
מעבדות AI סיניות משתמשות במודל GPT-6 Astra של OpenAI כדי לשפר את המודלים שלהן. כך דיווח ביום חמישי האתר The Information, בהסתמך על אנשים שמכירים את המאמצים. לפי סיכום הדיווח שפרסמה סוכנות MT Newswires, יש שתי חברות סיניות שאימנו את המודלים האחרונים שלהן על תשובות שהפיק Astra: Moonshot AI ו-DeepSeek.
מה נטען בדיווח
לפי הדיווח, Moonshot השתמשה ב-Astra בזמן הפיתוח של Kimi K3.1 Pro, המודל החדש שלה. גם DeepSeek נהנתה מהשיטה: על פי הדיווח, היא נעזרה בה בשדרוג V4.1-Flash 1017, גרסה משופרת של המודל V4.1-Flash.
חשוב לסייג: כל המקורות בדיווח אנונימיים. ציטוטים מהכתבה המקורית שהופצו ברשת מייחסים את הטענות לגבי כל אחת מהחברות לקבוצה אחרת של אנשים שמכירים את הנושא ישירות. הפרטים האלה לא אומתו באופן עצמאי. MT Newswires עצמה מציינת שמידע במדור הזה "עשוי לכלול שמועות והשערות". לפי הסוכנות, OpenAI לא השיבה מיד לבקשת תגובה. בחומרים שבידינו אין תגובה גם מ-Moonshot או מ-DeepSeek.
מה זה זיקוק ולמה הוא מעורר מחלוקת
זיקוק (distillation) היא טכניקה מוכרת בעולם ה-LLM. שולחים למודל חזק מספר עצום של שאלות ומשימות, ובתשובות שהוא מחזיר משתמשים כחומר אימון למודל אחר. כך המודל ה"תלמיד" לומד לחקות את היכולות של המודל ה"מורה", בעלות נמוכה בהרבה מאימון מאפס.
כשחברה מזקקת מודלים שלה עצמה, זה נוהג מקובל. המחלוקת מתחילה כשמזקקים מודל של מתחרה בלי רשות. לפי הדיווח, OpenAI ואנתרופיק כבר מתחו ביקורת על הנוהג הזה, והן מגבירות את המאמצים למנוע "חילוץ לא מורשה" של היכולות של המודלים שלהן.
למה זה חשוב
המשמעות הראשונה היא כלכלית. OpenAI, שמיקרוסופט היא מהמשקיעות בה, משקיעה סכומים עצומים באימון מודלי חזית כמו GPT-6. אם מתחרים יכולים לצמצם את הפער באמצעות התשובות של המודל עצמו, היתרון שנקנה בכסף הזה נשחק ככל הנראה מהר יותר.
המשמעות השנייה נוגעת לאופן שבו מעריכים את המודלים הסיניים. Moonshot ו-DeepSeek נחשבות למעבדות מובילות בסין, והשיפורים במודלים שלהן נתפסים לעיתים קרובות כעדות לכך שהן מדביקות את הפער מול המעבדות האמריקאיות. אם הדיווח מדויק, לפחות חלק מהשיפור האחרון נשען על המודל של OpenAI, ולא רק על פיתוח עצמאי. אין בכך כדי לבטל את ההישגים ההנדסיים של החברות האלה, אבל זה מסבך את ההשוואה.
ולבסוף, ההגנה. מבחינה טכנית קשה מאוד למנוע זיקוק: כל מי שיש לו גישה ל-API יכול לאסוף תשובות בהיקף גדול. המשמעות היא שהמאבק עובר ככל הנראה לזיהוי דפוסי שימוש חשודים, לחסימת חשבונות ולהגבלת גישה. סביר שהדיווח הזה יגביר את הלחץ על OpenAI ואנתרופיק להדק את האמצעים האלה עוד יותר.