פוסט שעורר עניין בפורום r/LocalLLaMA מדבר על מודל שפה חדש מבית הסטארטאפ Liquid AI, שלפי הדיווח יגיע בקרוב ויכלול כ-100 מיליארד פרמטרים - קפיצה משמעותית בגודל עבור חברה שהתמחדה עד כה במודלים קטנים ויעילים. החברה עצמה טרם פרסמה הודעה רשמית, וההיקף המדויק של הפרויקט אינו ידוע.
בקהילת r/LocalLLaMA, אחד הפורומים הפעילים ביותר סביב מודלים בקוד פתוח, עלה דיווח המצביע על כך שהסטארטאפ Liquid AI מכין מודל שפה חדש בגודל של כ-100 מיליארד פרמטרים. הדיווח מבוסס על פוסט שכותרתו "New 100B Liquid AI model coming soon", ונשען על ציפייה של חברי הקהילה ולא על הודעה רשמית מטעם החברה.
בפוסט המקורי כתב אחד המשתמשים כי Liquid AI "מחזיקה כיום בכמה מהארכיטקטורות המהירות ביותר ל-LLM, ובחלק מהמודלים הקטנים הטובים ביותר (SLM) מבחינת שימושיות", והוסיף שהוא נרגש לראות מה יכלול מודל LFM חדש - קיצור של Liquid Foundation Model, שם סדרת המוצרים של החברה - שעשוי להגיע בגודל של 100 מיליארד פרמטרים. יש לציין שגם מספור הגרסה מובא בפוסט כשאלה פתוחה ("LFM (3?)"), כך שגם פרט זה אינו מאושר.
Liquid AI, שהוקמה על ידי חוקרים לשעבר ממכון MIT, ידועה בעיקר בזכות ארכיטקטורת "Liquid Foundation Models" - גישה חלופית למבנה ה-Transformer הנפוץ, המיועדת להניב מודלים יעילים יותר בהיסק (inference) ובניצול זיכרון ביחס לגודלם. עד כה החברה התמקדה בעיקר במודלים קטנים יחסית (SLM - Small Language Models), המיועדים להרצה על מכשירי קצה ובסביבות עם משאבי חישוב מוגבלים.
מודל בגודל 100 מיליארד פרמטרים, אם וכאשר יושק בפועל, יהיה קפיצה משמעותית בהיקף עבור Liquid AI - קטגוריה שבה מתחרים כיום מודלים כמו GPT-OSS, Llama ו-Mixtral. גודל כזה ממקם את המודל בטווח של מודלי "דגל" (flagship), בניגוד למודלים הקומפקטיים שבהם התמחתה החברה עד כה. ככל הנראה, ההתרגשות סביב הדיווח בקהילה נובעת מהמוניטין שצברה Liquid AI כמפתחת ארכיטקטורות יעילות - כלומר יש ציפייה שגם מודל גדול מטעמה ישמור על יתרון של מהירות וחיסכון במשאבי חישוב ביחס למתחרות בגודל דומה.
בשלב זה מדובר בציפייה שעלתה מתוך קהילת הגולשים ולא בפרטים רשמיים מטעם Liquid AI. לא פורסם מועד השקה, אין אישור אם המודל יהיה בקוד פתוח (open source) כפי שנהוג אצל החברה בחלק מהמודלים הקודמים שלה, ואין מידע על ביצועים, תמחור או דרישות חומרה. אם הדיווח יתאמת, הוא עשוי לשקף מגמה רחבה יותר בשוק: סטארטאפים שהתמקדו במודלים קטנים ומותאמים למכשירי קצה מנסים כעת להתחרות גם בקטגוריית המודלים הגדולים, מול שחקניות כמו OpenAI, Meta ו-Mistral.