FMS 2026 סיפקה השנה הרבה יותר מרשימה של כוננים מהירים ושבבי זיכרון חדשים. HBF, כונני PCIe 6.0, NAND בצפיפות הולכת וגדלה ופתרונות חדשים ל־KV Cache מצביעים על שינוי רחב יותר: האחסון מתקרב אל נתיב החישוב, והגבול המוכר בין Memory ל־Storage נעשה הרבה פחות ברור.
בתחילת אוגוסט התכנסה בסנטה קלרה FMS – Future of Memory and Storage, אחת מזירות המפגש המרכזיות של תעשיית הזיכרון והאחסון. מגיעים אליה יצרני זיכרונות ושבבים, חברות אחסון ובקרים, מפתחי מערכות ומומחי ארכיטקטורה, ובאופן טבעי היא מרכזת לא מעט הכרזות שמספקות תמונת מצב טובה של הכיוונים שבהם התעשייה משקיעה.
מי שמכיר את האירוע עוד כ־Flash Memory Summit כבר יכול להבין מהשינוי בשם מה קרה לו. ה־Flash לא נעלם, כמובן, אבל התערוכה כבר מזמן אינה עוסקת רק בו. HBM ו־DRAM, CXL, אחסון חישובי, AI ו־HPC וטכנולוגיות שמקרבות את החישוב לזיכרון ולאחסון נמצאים היום כולם תחת אותה קורת גג.
ב־FMS 2026 ה־AI היה כמעט בכל מקום, אבל דווקא משום כך היה מעניין להסתכל מעבר לכותרות. אפשר היה למצוא עוד SSD מהיר ועוד NAND עם מספר מרשים של שכבות, אבל כאשר מחברים כמה מההכרזות הבולטות מתקבלת תמונה מעניינת יותר. ככל שמערכות AI עוברות מאימון להפעלה מסיבית של מודלים, היכולת להזיז נתונים מתחילה לקבל משקל כמעט כמו היכולת לחשב אותם.
GPU מהיר במיוחד לא עוזר הרבה כשהוא ממתין למידע. ובמערכות inference מודרניות יש הרבה מאוד מידע להזיז: משקלי המודל, חלונות context שמתארכים, מספר גדול של משתמשים במקביל, מערכות RAG שמושכות מידע ממאגרים חיצוניים ו־KV Cache שיכול לצמוח מעבר לקיבולת הזיכרון שנמצא ליד המאיץ. מבחינת מתכנן המערכת, השאלה כבר אינה רק כמה זיכרון להתקין, אלא איזה מידע כדאי להחזיק בכל שכבה, באיזו מהירות צריך להגיע אליו ומה המחיר של כל זה בהספק ובעלות.
חלק מההכרזות המעניינות ב־FMS השנה נגעו בדיוק באזור הזה.
HBF: ה־Flash מחפש מקום חדש בהיררכיה
Sandisk ו־SK hynix חשפו במסגרת FMS את המפרט הטכני הפתוח הראשון ל־HBF – High Bandwidth Flash – במסגרת Open Compute Project. הרעיון הוא לקחת את יתרונות הקיבולת והעלות של NAND Flash, אבל לארוז ולחבר אותו באופן שמאפשר רוחב פס גבוה בהרבה מזה שאנחנו רגילים לקבל מאחסון.
לפי המפרט הראשוני, HBF מכוון לקיבולת של עד 512GB ולרוחב פס של עד 3TB/s, עם תמיכה ב־UCIe. החיבור של 3TB/s ו־Flash באותו מפרט בהחלט מושך תשומת לב, אם כי בשלב הזה חשוב לזכור שמדובר בטכנולוגיה שנמצאת בתחילת הדרך ולא בתחליף ל־HBM שאפשר להכניס מחר למערכת.
גם לא בטוח שצריך לחפש כאן תחליף. HBM מצטיין ב־latency וברוחב הפס הדרושים לעבודה הצמודה ל־GPU, אבל הוא יקר והקיבולת שאפשר להציב ליד המאיץ מוגבלת. HBF מנסה להשתחל למקום אחר: שכבה גדולה וזולה יותר מ־HBM, אך מהירה משמעותית מאחסון Flash מסורתי.
אם זה יעבוד כפי שמציעות שתי החברות, היררכיית הזיכרון של מערכות AI פשוט תקבל מדרגה נוספת. לא מהפכה שמוחקת את השכבות הקיימות, אלא עוד אפשרות למתכנני מערכות שלא רוצים לשמור כל בייט ב־HBM.
העובדה ש־Sandisk ו־SK hynix מקדמות מפרט פתוח חשובה כאן. שכבת זיכרון חדשה אינה מעניינת במיוחד אם היא נשארת פתרון קנייני שמתקשה להשתלב לצד מאיצים, מארזים וממשקים של יצרנים אחרים.
SK hynix הציגה בתערוכה גם 375-layer 4D NAND לצד פתרונות HBM ו־CXL. כל אחד מהמוצרים האלה ראוי לכותרת משלו, אבל יחד הם ממחישים היטב את הכיוון: יצרנית זיכרון גדולה כבר אינה יכולה להסתפק בפתרון אחד ולצפות שהוא יתאים לכל עומסי ה־AI.
PCIe 6.0 מתחיל לקבל חומרה
המעבר ל־PCIe 6.0 היה הרבה פחות ספקולטיבי. כאן כבר היו כוננים ובקרים שאפשר לדבר עליהם במונחים של מוצרים ולא רק של roadmap.
Kioxia הציגה את סדרת CM10, כונני ה־enterprise הראשונים שלה ל־PCIe 6.0. הם מבוססים על BiCS FLASH דור 10 עם 332 שכבות ומגיעים לקיבולת של עד 61.44TB. החברה מדווחת על שיפור של עד 92% בקריאה סדרתית לעומת הדור הקודם ועל כ־85% בקריאה אקראית.
דווקא פרט פחות זוהר בדף המפרט שווה תשומת לב: גרסאות E1.S ו־E3.S מאפשרות קירור נוזלי ישיר באמצעות cold plate. לפני כמה שנים קירור נוזלי לא היה הדבר הראשון שחיפשנו במפרט של SSD. כשהכוננים מתקרבים לעשרות גיגה־בייט לשנייה ונכנסים עמוק יותר למסלול הנתונים של שרתי AI, גם האחסון מתחיל להשתתף בדיון על הספק ופינוי חום.
Micron כבר נמצאת באותו אזור עם 9650, כונן Data Center מבוסס PCIe 6.0 שנמצא בייצור סדרתי ומגיע לעד 28GB/s בקריאה סדרתית ול־5.5 מיליון IOPS בקריאה אקראית. אלה נתוני יצרן כמובן, ולא benchmark של מערכת אמיתית, אבל הם ממחישים עד כמה מהר התקרה של האחסון המקומי זזה.
גם שוק הבקרים מתחיל להתיישר בהתאם. ScaleFlux הציגה בקר PCIe Gen6 שמגיע עד 28GB/s ותומך ב־TLC, QLC ו־pSLC, ו־FADU מקדמת דור חדש של בקרי Gen6 עם יעד דומה. בשלב הזה כבר מדובר ביותר מיצרן אחד שמנסה להיות ראשון עם SSD מהיר; נבנה אקו־סיסטם שלם סביב Gen6.
KV Cache מכניס את האחסון למקום לא צפוי
KV Cache היה אחד המונחים שחזרו בתערוכה, ולא במקרה. במהלך inference, מודלי Transformer שומרים את ה־Key וה־Value tensors שכבר חושבו עבור הטוקנים הקודמים, וכך נמנע חישוב חוזר בכל טוקן חדש. הבעיה מתחילה כשחלונות ההקשר מתארכים וכאשר מספר גדול של משתמשים עובד במקביל. נפח ה־cache מצטבר מהר.
HBM הוא המקום הטבעי ביותר להחזיק אותו מבחינת ביצועים, אבל קשה להצדיק מבחינת עלות וקיבולת שמירה של כל המידע שם. לכן יותר חברות מדברות על tiering: החלקים הפעילים נשארים קרוב ל־GPU, ואילו מידע שנדרש בתדירות נמוכה יותר יורד לשכבות זולות וגדולות יותר.
NVIDIA הקדישה ב־FMS תשומת לב רבה לתרחיש הזה. בארכיטקטורות שהיא מתארת, האחסון אינו משמש רק לטעינת המודל או ה־dataset בתחילת העבודה. GPU יכול ליזום אלפי פעולות אחסון מקבילות, ו־SSD מתחיל להשתתף בהרחבת הקיבולת הזמינה ל־context.
גם יצרני האחסון כבר מדברים בשפה הזאת. Kioxia מייעדת את CM10 גם ל־AI inference ול־context caching, ו־Sandisk הציגה פתרונות SSD בעלי endurance גבוה לעומסי KV Cache. ScaleFlux ו־NVIDIA הקדישו keynote משותף לתכנון משולב של SSD ו־KV Cache.
יש כאן כמובן גם אינטרס מסחרי ברור: יצרני SSD ישמחו מאוד אם תעשיית ה־AI תחליט ש־Flash הוא חלק מהיררכיית הזיכרון ולא רק שכבת האחסון. אבל מאחורי השיווק נמצאת בעיה הנדסית אמיתית. קיבולת ה־HBM אינה יכולה לגדול ללא גבול, ו־context windows דווקא כן ממשיכים לגדול. מישהו יצטרך לאחסן את המידע שנשפך החוצה.
כמעט רבע פטה־בייט בכונן אחד
לצד רוחב הפס, FMS ממשיכה להיות גם המקום שבו המספרים של צפיפות האחסון נעשים מעט קשים לעיכול. QLC, שמאחסן ארבעה ביטים בכל תא, מאפשר להגדיל את הקיבולת ולהוריד את העלות לביט, במחיר של דרישות גבוהות יותר מהבקר, מתיקון השגיאות ומניהול ה־endurance והביצועים.
עבור חלק מעומסי ה־AI זו פשרה הגיונית. מאגרי מודלים, embeddings, datasets וכמויות גדולות של מידע שנקרא בתדירות גבוהה אך אינו משתנה באותו קצב לא בהכרח זקוקים ל־TLC.
Micron מספקת כאן מספר שקשה להתעלם ממנו: 245.76TB בכונן 6600 ION המבוסס על G9 QLC NAND. כמעט רבע פטה־בייט ב־SSD אחד, אם כי כמובן שהמספר המרשים בפני עצמו אינו הסיפור כולו.
עבור מפעיל Data Center, קיבולת גבוהה יותר בכל כונן יכולה לתרגם לפחות כוננים, פחות שרתים, פחות חיבורים ופחות שטח. החיסכון בפועל תלוי מאוד בעומס העבודה ובתכנון המערכת, אבל בתקופה שבה חשמל וקירור הם מגבלות תכנון אמיתיות, density כבר אינו רק מספר שאנשי השיווק אוהבים להדפיס בגדול.
Samsung רוצה להזיז את הזיכרון – פיזית
Samsung בחרה ב־FMS להציג משהו שונה מעט: מודלים קונספטואליים של zHBM ו־zNAND-O, שתי ארכיטקטורות זיכרון תלת־ממדיות שמנסות לשנות את המיקום הפיזי של הזיכרון ביחס לחישוב.
ב־HBM המקובל ערימות הזיכרון נמצאות לצד מאיץ ה־AI בתוך המארז. ב־zHBM מציעה Samsung להציב את הזיכרון מעל המאיץ ולערום אותו אנכית, במטרה לקצר את נתיבי הנתונים ולהגדיל את צפיפות החיבורים. zNAND-O לוקח כיוון דומה לעולם ה־NAND ומשלב NAND ומעגלי logic בארכיטקטורה אנכית.
כאן כדאי לשמור על מידה של ספקנות. אלה קונספטים שהוצגו בתערוכה, לא מוצרים עם תאריך אספקה, מחיר ולקוחות. המרחק בין שקף מרשים ב־FMS לבין רכיב שמיוצר בכמויות יכול להיות גדול מאוד.
מצד שני, חברות כמו Samsung לא משקיעות בארכיטקטורות כאלה במקרה. אם תנועת הנתונים והאנרגיה הדרושה לה הופכות לבעיה, קיצור המרחק הפיזי בין הזיכרון לחישוב הוא כיוון הנדסי מתבקש. השאלה היא פחות אם הרעיון הגיוני ויותר אם אפשר לייצר אותו במחיר ובתפוקה שיהפכו אותו למעשי.
CXL מחבר את החלקים
בתוך כל זה נמצא גם CXL. ScaleFlux הציגה לצד בקר ה־SSD שלה את MC600, בקר CXL 3.2 Type 3 על גבי PCIe 6.0, המאפשר הרחבת זיכרון DDR5 עד 2TB. SK hynix הציגה תפיסה רחבה יותר של CXL כבסיס ל־tiered memory ול־memory pooling.
עבור מתכנני מערכות, זה אולי פחות פוטוגני מ־SSD של 245TB או מערך HBF של 3TB/s, אבל לא פחות חשוב. במקום שכל מעבד או מאיץ יהיה מוגבל לזיכרון המקומי המחובר אליו, CXL מאפשר לחשוב על מאגרי זיכרון שניתן להרחיב, לשתף ולהקצות בצורה גמישה יותר.
והנקודה הזו מחברת היטב את רוב מה שהוצג השנה בסנטה קלרה. HBM ממשיך להיות השכבה המהירה ליד המאיץ; CXL מרחיב את אפשרויות הזיכרון; HBF מנסה לפתוח שכבת ביניים חדשה; PCIe 6.0 מעלה משמעותית את קצב האחסון המקומי; ו־QLC ממשיך לדחוף את הקיבולת.
התוצאה אינה ארכיטקטורה אחת שכבר נסגרה. להפך, כרגע יש לא מעט רעיונות מתחרים, מוצרים בשלבים שונים והרבה שאלות לגבי עלות, latency, צריכת חשמל ותמיכת תוכנה. חלק מהקונספטים שהוצגו ב־FMS 2026 אולי כלל לא יגיעו לייצור המוני.
אבל הכיוון הכללי כבר קשה לפספס. מערכות AI מאלצות את התעשייה לחשוב מחדש על החלוקה הנוחה בין Compute, Memory ו־Storage. ככל שכמות הנתונים גדלה, פחות סביר שכל מה שה־GPU עשוי להזדקק לו יישב בזיכרון המהיר והיקר ביותר. לכן העבודה עוברת עכשיו גם אל מה שנמצא מסביבו: עוד שכבות זיכרון, Flash מהיר יותר, ממשקים רחבים יותר ותוכנה שיודעת להחליט איפה הנתונים צריכים להיות בכל רגע.
FMS 2026 לא סיפקה תשובה אחת לשאלה איך תיראה ההיררכיה הזאת. היא כן הראתה שכמעט כל יצרנית גדולה כבר עובדת על חתיכה אחרת שלה.
תמונת שער: המאיץ הוא רק חלק מהמשוואה: ככל שמערכות AI גדלות, תנועת הנתונים בין ה־ GPU לבין שכבות הזיכרון והאחסון הופכת לחלק מרכזי בתכנון המערכת
