המערכת משלבת את מודלי Nemotron של NVIDIA עם פלטפורמות Foundry ו-AIP וה-Ontology של Palantir. הפריסה הראשונה מתבצעת בשרשרת האספקה של NVIDIA, הכוללת אלפי ספקים וכ-1.3 מיליון חלקים בכל מערכת Vera Rubin בקנה מידה של ארון
NVIDIA ו-Palantir הודיעו על שיתוף פעולה לפיתוח ולהטמעת מערך בינה מלאכותית לניהול שרשראות אספקה מורכבות. הפריסה הראשונה מתבצעת בתוך פעילות שרשרת האספקה של NVIDIA, במטרה לזהות צווארי בקבוק, לתמוך בהחלטות הקצאת חומרים ולתאם את מעבר הרכיבים משלבי ייצור השבבים ועד להפעלת מערכות AI.
המערכת משלבת את המודלים הפתוחים ממשפחת NVIDIA Nemotron בתוך פלטפורמות Foundry ו-Artificial Intelligence Platform, או AIP, של Palantir. המודלים מחוברים ל-Palantir Ontology, שכבת תוכנה המייצגת את הישויות, הקשרים והתהליכים התפעוליים בארגון. השילוב נועד לחבר בין מידע המגיע מספקים, מפעלי ייצור, מלאי, רכיבים ותוכניות אספקה, ולהפוך אותו לבסיס משותף לניתוח ולקבלת החלטות.
לפי החברות, המערכת נועדה לאפשר לארגונים לשמור את הנתונים, המודלים וסביבת ההפעלה בשליטתם. זהו הבסיס להגדרת הפתרון כ-Sovereign AI, או בינה מלאכותית ריבונית. בהקשר זה, המונח מתייחס בעיקר ליכולת להפעיל את המערכת בענן, באתר הארגון או בסביבת colocation, תוך שמירה על שליטה במידע התפעולי הקנייני.
מייצור פרוסת הסיליקון ועד להפעלת המודל
שרשרת האספקה של מערכות AI בקנה מידה גדול אינה מסתיימת בזמינותם של מעבדים גרפיים. הקמת מערכת מלאה דורשת תיאום בין מעבדים, זיכרונות, רכיבי תקשורת, ספקי כוח, מערכות קירור, מכלולים מכניים ורכיבים נוספים.
לפי NVIDIA, שרשרת האספקה שלה כוללת מיליוני חלקים, אלפי ספקים ורשת עולמית של שותפי ייצור. החברה מציינת כי כל מערכת NVIDIA Vera Rubin בקנה מידה של ארון כוללת כ-1.3 מיליון חלקים. עיכוב או מחסור בקבוצת רכיבים אחת עלולים להשפיע על לוחות הזמנים של המערכת כולה, גם כאשר המעבדים עצמם זמינים.
היישום המשותף נועד לקודד את הידע התפעולי שנצבר בארגון ולסייע לצוותי שרשרת האספקה לזהות מגבלות מוקדם יותר, לבחון חלופות ולהעריך כיצד החלטות הקצאה ישפיעו על הייצור מקצה לקצה. השלב הראשון מתמקד בהחלטות הנוגעות להקצאת חומרים ולתנועת חלקים לאורך שרשרת האספקה.
החברות מתארות את התהליך כקיצור הדרך מ-wafer to first token, כלומר משלב ייצור פרוסת הסיליקון ועד לרגע שבו מערכת ה-AI המלאה מורכבת, מותקנת ומסוגלת להריץ מודל בפועל.
התאמת המודלים לנתונים התפעוליים
ארגונים שיאמצו את הארכיטקטורה יוכלו לבצע אימון המשך למודלי Nemotron באמצעות הנתונים שלהם בתוך Foundry ו-AIP. הכנת הנתונים והרחבתם יתבצעו באמצעות ספריות NVIDIA NeMo Data Libraries.
בתוך Palantir AIP משולבת גם תוכנת NVIDIA cuOpt, המיועדת לפתרון בעיות אופטימיזציה ותכנון. השילוב אמור לאפשר לצוותים לבנות תרחישים, לבחון מגבלות אספקה ולהעריך את ההשפעה התפעולית של החלטות שונות בנוגע להקצאת רכיבים ומשאבים.
מודלי Nemotron שהותאמו לנתוני הארגון יכולים להמליץ על פעולות, להסביר את הפשרות בין חלופות ולהתריע על סיכונים מתפתחים. עם זאת, החברות מדגישות כי המומחים האחראים על שרשרת האספקה ממשיכים לשלוט בהחלטות הסופיות.
המערכת כוללת גם מנגנון משוב המבוסס על Palantir Autopilot ועל ספריות NVIDIA NeMo AutoModel ו-NeMo RL. תוצאות ההחלטות בפועל מוחזרות למערכת כדי למדוד אותן מול התוצאות התפעוליות ולשפר לאורך זמן את המודלים המתמחים.
פריסה בענן או בתשתית מקומית
הפריסה ב-NVIDIA מבוססת על ארכיטקטורות הייחוס של החברה ועל Palantir Sovereign AI Operating System Reference Architecture, או SAIOS, שפותחה במשותף על ידי שתי החברות. הארכיטקטורה נתמכת גם על ידי Dell Technologies ו-Cisco.
לפי החברות, ניתן יהיה להפעיל את המערכת בתשתית מקומית המבוססת על מערכות של Cisco או Dell, וכן בסביבות colocation ובענן באמצעות Rackspace ו-Nebius. אפשרויות הפריסה נועדו לאפשר לארגונים להתאים את מיקום המערכת לדרישות הנוגעות לנתונים, אבטחה, רגולציה ותפעול.
NVIDIA ו-Palantir מתכננות להשתמש בידע שייצבר בפריסה הפנימית כדי להציע את הארכיטקטורה לארגונים בתחומי הייצור, האנרגיה, הבריאות, הרכב והתעופה והחלל. בשלב זה לא פורסמו נתונים כמותיים על השפעת המערכת על זמני האספקה, היקפי המלאי, עלויות התפעול או קצב הייצור.
ג'נסן הואנג, מייסד ומנכ"ל NVIDIA, מסר כי שרשראות האספקה הן מערכת ההפעלה של הכלכלה הפיזית, וכי מפעלי AI הם מהמערכות המורכבות ביותר שנבנו. לדבריו, השילוב בין מודלי Nemotron לבין ה-Ontology של Palantir נועד לאפשר ניתוח, תכנון ותזמור של הדרך מפרוסת הסיליקון ועד להפעלת המודל.
קרדיט: NVIDIA ו-Palantir Technologies
- ההודעה והפירוט הטכנולוגי של NVIDIA
- NVIDIA Nemotron
- Palantir Sovereign AI Operating System
- NVIDIA Vera Rubin
