כשנה וחצי לאחר שפתחה את מנוע התזמון KAI Scheduler, החברה מפרסמת גם את קוד הפלטפורמה לניהול עומסי AI ומשאבי GPU. ארגונים יכולים להתקין את המערכת בשלמותה או לשלב רכיבים ממנה בתשתיות Kubernetes קיימות.
NVIDIA הודיעה ב־13 באוקטובר כי פלטפורמת Run:ai המלאה זמינה כעת בקוד פתוח. המהלך מרחיב את פתיחת KAI Scheduler, מנוע התזמון שפותח בידי Run:ai הישראלית ופורסם בקוד פתוח באפריל 2025. כעת פורסם גם קוד שירותי הניהול, הרכיבים הפועלים בתוך אשכולות Kubernetes וכלי ההתקנה של הפלטפורמה. הקוד זמין במאגר ציבורי של NVIDIA ב־GitHub.
Run:ai נועדה לנהל את השימוש במשאבי GPU המשותפים לצוותים ולעומסי עבודה שונים, ובהם פיתוח מודלים, אימון והסקה. באשכול מחשוב משותף, משימות אינן זקוקות בהכרח לאותו מספר מעבדים או לאותה כמות זיכרון, ולעיתים כמה משימות יכולות לחלוק GPU אחד. הפלטפורמה מטפלת בהקצאת המשאבים, בתזמון המשימות ובמדיניות השימוש בין צוותים ופרויקטים.
לצד המערכת המשולבת, NVIDIA מאפשרת לאמץ ארבעה רכיבים בנפרד. KAI Scheduler מתזמן משימות GPU תוך התחשבות במכסות, בעדיפויות ובמיקומן של המשימות באשכול. KAI Resource Management מוסיף שכבת ניהול להקצאת משאבים בין מחלקות ופרויקטים. GPU Fractioning Operator מחבר ל־Kubernetes יכולת לחלוקת משאבי GPU בין כמה עומסי עבודה, תוך הגבלת הזיכרון המוקצה לכל אחד מהם. Workload Map מספק דרך אחידה לתאר ולעקוב אחר סוגים שונים של משימות AI הפועלות על גבי Kubernetes.
אחד השינויים הטכניים במהלך נוגע לחלוקת GPU: לפי NVIDIA, המימוש הקנייני שבו השתמשה Run:ai בעבר הוחלף ביכולת המובנית ב־CUDA 13.4, ואילו הרכיב החדש מספק את שכבת השילוב שלה ב־Kubernetes. החברה מציעה את הפלטפורמה גם כמוצר קהילה להתקנה באמצעות Helm. השימוש במוצר הקהילה אינו מחייב מנוי Run:ai בתשלום, אך אינו כולל תמיכה ארגונית של NVIDIA; גרסאות מסחריות נתמכות ממשיכות להיות זמינות בנפרד.
עבור Run:ai, שנרכשה בידי NVIDIA, זו הרחבה משמעותית של הגישה לטכנולוגיה שפיתחה: ממנוע תזמון פתוח אחד לפלטפורמה שניתן לבחון, להתאים ולשלב במוצרי תשתית אחרים. NVIDIA מציינת כי ספקיות ענן ותשתית, בהן Crusoe, Nebius ו־Mirantis, משלבות את Run:ai בהיצע שלהן. היכולת לשפר את ניצולת המעבדים ואת תפוקת המשימות היא הערך שהחברה מייחסת למהלך; בהכרזה זו לא פורסמה מדידה השוואתית חדשה של השיפור.
