Sarvam ההודית פותחת לכולם את Token Factory, שמריץ שמונה מודלים פתוחים משרתים בהודו
חברת ה-AI ההודית Sarvam פתחה לקהל הרחב את Token Factory, שירות שמריץ שמונה מודלים פתוחים על אשכולות GPU בהודו דרך API אחד תואם OpenAI. בין המודלים: Sarvam 105B, GLM 5.3, DeepSeek V4.1 Flash, Kimi K3.1 Pro ו-Gemma 4 31B. השירות פונה לארגונים שרוצים שהנתונים שלהם יעובדו בתוך הודו, אך מחירים ותנאי שימוש לא פורסמו בדיווח.
חברת ה-AI ההודית Sarvam פתחה לכל המעוניין את Token Factory, שירות שמריץ שמונה מודלים פתוחים על אשכולות GPU שנמצאים בהודו ומגיש אותם דרך API אחד תואם OpenAI. כך דיווח האתר MarkTechPost ב-17 בנובמבר.
מה יש בשירות
הדיווח מונה חמישה מתוך שמונת המודלים: Sarvam 105B, המודל של החברה עצמה, ולצדו GLM 5.3, DeepSeek V4.1 Flash, Kimi K3.1 Pro ו-Gemma 4 31B של גוגל. שלושת המודלים הנותרים לא נזכרים בשמם בחומר שעמד לרשותנו.
שני פרטים טכניים מגדירים את המוצר. הראשון הוא המיקום: ההסקה (inference, כלומר השלב שבו המודל מקבל שאלה ומחזיר תשובה) מתבצעת על חומרה שיושבת פיזית בהודו. השני הוא התאימות ל-API של OpenAI: מפתח שכבר כתב קוד מול OpenAI יכול בדרך כלל לעבור לשירות כזה בשינוי של כתובת השרת ושם המודל, בלי לכתוב מחדש את האפליקציה.
השם Token Factory מתייחס ל-tokens, יחידות הטקסט שלפיהן מודלי שפה מודדים קלט ופלט, ולפיהן ספקי API גובים בדרך כלל תשלום. המחירים עצמם, מגבלות השימוש, היקף החומרה וזהות ספק ה-GPU אינם מופיעים בדיווח.
למה מיקום השרתים חשוב
מודל פתוח אפשר להוריד ולהריץ בכל מקום, אבל רוב הארגונים אינם מחזיקים חומרה משלהם ופונים לספק ענן. כשהספק מריץ את המודל במדינה אחרת, הנתונים שנשלחים אליו יוצאים מהמדינה, וזה מקשה על בנקים, גופי בריאות וגופי ממשל שכפופים לדרישות על מיקום המידע. שירות שמריץ את אותם מודלים בתוך הודו עונה ככל הנראה על הצורך הזה עבור לקוחות הודיים.
ברשימה שפורסמה יש גם מודלים שפותחו בסין, ובהם DeepSeek ו-Kimi. המשמעות היא שלקוח יכול להשתמש בהם בלי שהמידע שלו יעבור דרך שרתים בסין, משום שהמשקלים הפתוחים רצים על תשתית מקומית. זו אחת הסיבות שמודלים פתוחים מושכים ארגונים שחוששים לשלוח מידע לספק זר.
Sarvam אינה הראשונה שמציעה הסקה של מודלים פתוחים דרך API תואם OpenAI. זו קטגוריה מוכרת, והחידוש כאן הוא גיאוגרפי ולא טכנולוגי. לפי הדיווח, השירות פתוח עכשיו לכולם, ניסוח שמרמז שקודם לכן הגישה אליו הייתה מוגבלת.
מה חסר
הדיווח קצר ואינו כולל ציטוטים של מנהלי החברה, נתוני ביצועים או התחייבויות חוזיות בנוגע לשמירת הנתונים. מיקום השרתים הוא רק חלק מהתמונה: ארגון ששוקל שירות כזה צריך לבדוק גם אם הבקשות נשמרות אצל הספק, לכמה זמן ולמי יש גישה אליהן. על השאלות האלה החומר שפורסם אינו עונה.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות