אנבידיה משחררת את Run:ai בקוד פתוח מלא תחת רישיון Apache 2.0

אנבידיה שחררה כקוד פתוח את פלטפורמת Run:ai כולה. זו פלטפורמה לתזמור (orchestration) של מעבדי GPU בסביבות Kubernetes, והיא מופצת תחת רישיון Apache 2.0. לפי הדיווח, השחרור כולל את KAI Scheduler, יכולת לפצל GPU שמבוססת על CUDA 13.4, כלים לניהול מכסות (quota management) וסביבת פיתוח מקומית שמבוססת על Kind.

מה בעצם שוחרר

Run:ai פותחה במקור בחברה הישראלית בעלת אותו שם, שנרכשה בידי אנבידיה. הפלטפורמה נועדה לפתור בעיה מוכרת בארגונים שמריצים עומסי AI: מעבדי GPU יקרים ומבוקשים, ובכל זאת חלק ניכר מהם עומד לא מנוצל. Kubernetes, מערכת הקוד הפתוח הנפוצה לניהול אפליקציות בקונטיינרים, לא תוכננה במקור לחלק משאבי GPU בצורה גמישה בין צוותים ומשימות. Run:ai נבנתה כשכבה מעליה שמטפלת בדיוק בזה.

לפי הדיווח ב-MarkTechPost, החבילה כוללת ארבעה רכיבים עיקריים:

• KAI Scheduler: רכיב התזמון, שמחליט איזו משימה רצה על איזה GPU ומתי.
• פיצול GPU (GPU fractioning) מבוסס CUDA 13.4: מאפשר לחלק GPU פיזי אחד בין כמה משימות, במקום להקצות כרטיס שלם למשימה שצריכה רק חלק ממנו.
• ניהול מכסות: הגדרה של כמה משאבי GPU כל צוות או פרויקט רשאי לצרוך.
• סביבת פיתוח מקומית מבוססת Kind: Kind (קיצור של Kubernetes in Docker) הוא כלי שמריץ אשכול Kubernetes קטן על מחשב בודד, כך שמפתחים יכולים לנסות את הפלטפורמה בלי להקים תשתית מלאה.

למה הרישיון חשוב

Apache 2.0 הוא אחד מרישיונות הקוד הפתוח המתירניים. הוא מאפשר שימוש מסחרי, שינוי והפצה מחדש של הקוד, וגם שילוב שלו במוצרים סגורים. בפועל, המשמעות היא שכל ארגון יכול ככל הנראה להריץ את Run:ai על התשתית שלו, להתאים אותה לצרכיו ולתרום שינויים חזרה לפרויקט.

המשמעות

נראה שהמהלך משתלב באסטרטגיה רחבה יותר של אנבידיה: להפוך את שכבת התוכנה שמסביב לחומרה שלה לנגישה ככל האפשר. מבחינת החברה, ארגון שמנצל טוב יותר את כרטיסי ה-GPU שלו ומרחיב בעקבות זאת את השימוש בהם הוא עדיין לקוח של החומרה. כשכלי הניהול זמינים בחינם, הם עשויים לחזק את המעמד של כרטיסי אנבידיה בעולם ה-Kubernetes.

לארגונים, ובמיוחד לחברות קטנות ובינוניות ולמוסדות מחקר, המשמעות המעשית עשויה להיות משמעותית. יכולות כמו פיצול GPU ותזמון שמבין עומסי AI הן בדיוק הכלים שמאפשרים להוציא יותר מכל כרטיס, והן זמינות עכשיו בלי תלות ברישיון מסחרי. השילוב עם CUDA 13.4 מרמז שהפיצול נשען על התמיכה הרשמית של סביבת הפיתוח של אנבידיה, ולא על פתרון עוקף.

מצד שני, מתחרים בתחום ניהול משאבי GPU ב-Kubernetes עלולים למצוא את עצמם מול חלופה חינמית ומלאה שמגובה ביצרנית החומרה הגדולה בשוק. להערכתי, זה עשוי להאיץ איחוד סביב תקן אחד.

לסצנת הטכנולוגיה הישראלית יש כאן גם נקודה סמלית: טכנולוגיה שנולדה בסטארט-אפ ישראלי הופכת לתשתית פתוחה שזמינה לכל מפתח בעולם. השאלה שנותרה פתוחה היא אם סביב הפרויקט תצמח קהילת תורמים עצמאית, או שהפיתוח יישאר בעיקר בידי אנבידיה.