אנבידיה משקיעה ב-Simplismart, סטארטאפ הודי שעוזר לחברות להריץ מודלי AI עם פחות GPU

אנבידיה, ספקית שבבי ה-AI הגדולה בעולם, השקיעה בסטארטאפ שהתוכנה שלו עשויה לאפשר ללקוחות לקנות פחות מהשבבים שלה. לפי TechCrunch, אנבידיה השתתפה בסבב Series B של 14 מיליון דולר בחברה ההודית Simplismart. כל הכסף בסבב הוא השקעה ישירה בחברה, ללא מכירת מניות קיימות. את הסבב הובילה Dallas Venture Capital, ולצד אנבידיה השתתפו בו גם Accel, ‏Shastra VC ו-Micromax. החברה, שנוסדה לפני ארבע שנים, מוערכת כעת בכ-100 מיליון דולר, כולל הכסף החדש.

פי 14 בחצי שנה

הנתון שבולט יותר מגובה ההשקעה הוא קצב הצמיחה. לפי המנכ"ל והמייסד-השותף אמריטנשו ג'יין, ההכנסות השנתיות המשוערות של Simplismart (מה שמכונה annualized revenue run rate) גדלו פי 14 בחצי השנה האחרונה, והגיעו לסכום של שמונה ספרות, כלומר בין 10 ל-100 מיליון דולר. את הסכום המדויק הוא לא חשף. החברה מסבירה שהנתון מחושב לפי השימוש של הלקוחות בתקופה האחרונה, ולא לפי חוזים חוזרים חתומים. הוא גם לא כולל כסף שעובר הלאה לספקי התשתית. המשמעות היא שמדובר בתמונת מצב של הביקוש הנוכחי, ולא בהכנסה מובטחת.

נתון מעניין נוסף: למרות שלחברה יש יותר לקוחות בהודו, לדברי ג'יין יותר ממחצית ההכנסות מגיעות מארה"ב. לכן לא מפתיע שהחברה מתכננת להשתמש בכסף החדש כדי להרחיב את הפעילות בארה"ב, וגם כדי להגדיל את הצוות ולהמשיך לפתח את המוצר.

מה החברה עושה בפועל

הרצת מודל AI אצל לקוחות אמיתיים, שלב שמכונה inference, דורשת לבחור בין מהירות, עלות וביצועים, וכל אפליקציה צריכה איזון אחר. התוכנה של Simplismart יושבת בין המודלים לבין מערך המחשוב שעליו הם רצים, ומתאימה באופן אוטומטי את אופן ההרצה לדרישות של כל לקוח. היא שולטת למשל בזמן התגובה של המודל, בכמות הבקשות שהוא מטפל בהן ובכמות כוח המחשוב שהוא צורך.

"אף אחד לא באמת צריך את ה-inference המהיר ביותר או הזול ביותר", אמר ג'יין. לדבריו, חברות צריכות להריץ מודלים במהירות ובעלות שמתאימות לאפליקציה הספציפית שלהן.

החברה מבנגלור טוענת שעזרה לפלטפורמת יצירת הווידאו InVideo לקצץ ב-56% את עלויות ה-GPU שלה. בין הלקוחות נמנות גם חברות הווידאו HeyGen ו-Higgsfield וחברת ה-AI הארגונית Ema. ספקית הענן ההודית Yotta משתמשת בטכנולוגיה של Simplismart בשירות ה-inference מסוג serverless שבפלטפורמת Shakti Studio שלה.

הפרדוקס של אנבידיה

נראה מוזר שאנבידיה, שמרוויחה ממכירת GPU, משקיעה בתוכנה שמאפשרת להסתפק בפחות GPU. ג'יין טוען שאין כאן סתירה: אם הרצת AI תהיה יעילה יותר, החומרה של אנבידיה תהיה אטרקטיבית יותר ויותר חברות יאמצו אפליקציות AI. ככל הנראה זה ההיגיון של אנבידיה: אם הרצת מודלים תהיה זולה יותר, הביקוש הכולל ל-AI צפוי לגדול, ואיתו גם הביקוש לשבבים.

הקשר בין החברות הוא לא רק כספי. לדברי ג'יין, מהנדסי Simplismart עובדים עם ארכיטקטי הפתרונות של אנבידיה על שילוב טכני, בין היתר עם תוכנת ה-inference של אנבידיה, Dynamo. אנבידיה גם מפגישה את הסטארטאפ עם לקוחות ושותפים פוטנציאליים.

שוק צפוף

Simplismart פועלת בשוק עמוס. מתחרות בה אנבידיה עצמה וספקיות הענן הגדולות AWS של אמזון, ‏Google Cloud של גוגל ו-Azure של מיקרוסופט, וגם מספר הולך וגדל של סטארטאפים. "אנחנו נוטים לנצח במקומות שבהם הדרישות ל-SLA ול-TCO מחמירות יותר", אמר ג'יין. כוונתו ללקוחות עם התחייבויות ביצועים קשוחות (SLA, הסכם רמת שירות) ומגבלות עלות הדוקות (TCO, העלות הכוללת של החזקת המערכת).

את החברה הקימו ב-2022 ג'יין, מהנדס לשעבר באורקל, ודבנש גהטק, מהנדס לשעבר בגוגל. השניים הכירו בזמן הלימודים ב-BITS Pilani, וכיום מועסקים בחברה 58 עובדים.

המשמעות הרחבה: בשנים האחרונות רוב תשומת הלב בעולם ה-AI הופנתה לאימון מודלים, אבל ככל שיותר חברות מכניסות AI למוצרים שלהן, העלות של הרצת המודלים בכל יום הופכת לשיקול כלכלי מרכזי. ההשקעה של אנבידיה ב-Simplismart מעידה ככל הנראה שגם יצרנית השבבים רואה בשכבת התוכנה הזו חלק חשוב מהשוק.