חברת AntLing שחררה את מלוא מטריצת קבצי הבסיס (checkpoints) של מודל השפה Ling-3.0 - שישה קבצים המכסים שני גדלים של המודל, בשלושה שלבי אימון נפרדים לכל אחד. הפרסום, שדווח בפורום r/LocalLLaMA, חושף לא רק את הגרסה הסופית של המודל אלא גם את שלבי הביניים באימון.
חברת AntLing שחררה את קבצי הבסיס (base checkpoints) המלאים של משפחת מודלי השפה Ling-3.0 - שישה קבצים בסך הכול, המכסים שני גדלים שונים של המודל, כשלכל אחד מהם שלושה שלבי אימון נפרדים. הפרסום דווח בפוסט בפורום r/LocalLLaMA ברשת Reddit, קהילה המתמקדת במודלי שפה שניתן להריץ באופן עצמאי ("מקומי") ולא רק דרך שירות ענן סגור.
לפי הפרסום, לכל אחד מהגדלים יש שלוש נקודות שמירה (checkpoints) נפרדות הזמינות להורדה: שלב ה-pretrained, שהוא האימון הבסיסי הראשוני על נתונים גולמיים; שלב ה-mid-trained, המייצג נקודת ביניים בתהליך האימון; ושלב שמכונה בפרסום WSM-merged, המהווה את השלב השלישי והאחרון שפורסם עבור כל אחד מהגדלים.
פרסום מלוא מטריצת נקודות השמירה - ולא רק גרסת המודל המוגמרת - מאפשר לחוקרים ולמפתחים לבחון כיצד יכולות המודל משתנות בין שלבי האימון השונים, ולא רק לבדוק את התוצר הסופי. זהו סוג מידע שבדרך כלל אינו נגיש כאשר חברות משחררות אך ורק את הגרסה המוגמרת של מודל. ככל הנראה, הצעד נועד לפנות בעיקר לקהילת הקוד הפתוח שעוקבת אחר פיתוח והרצה עצמאית של מודלי שפה, קהל שמיוצג באופן בולט בפורום שבו פורסמה ההודעה.
מספור הגרסה, 3.0, מרמז ככל הנראה על כך שמדובר בדור נוסף במשפחת מודלי Ling, בהמשך לגרסאות קודמות של אותה סדרה - אם כי פרטים על ההבדלים לעומת גרסאות קודמות לא פורטו במקור. בשלב זה גם לא פורסמו נתונים על גודל הפרמטרים המדויק של כל אחת מהגרסאות, סוג הרישיון שתחתיו משוחררים הקבצים, או תוצאות מבחני ביצועים (benchmarks) המשווים את Ling-3.0 למודלים מתחרים.
המשמעות הרחבה יותר של המהלך, ככל הנראה, נוגעת למגמה כללית של חברות טכנולוגיה סיניות המרחיבות את נוכחותן בזירת הבינה המלאכותית הפתוחה (open source), תוך שהן מציעות לקהילת המפתחים גישה מעמיקה יותר לתהליך האימון עצמו ולא רק לתוצר הסופי. עד כמה שיתוף כזה יתורגם לאימוץ בפועל של המודל על ידי מפתחים וחוקרים - עדיין לא ברור בשלב זה.