ההנפקה, פריצת הדרך בהיסק (Inference), והשותפויות עם OpenAI ו־AWS מסמנות שינוי עומק בשוק תשתיות הבינה המלאכותית
בשנים האחרונות התחרות בשוק הבינה המלאכותית התרכזה בעיקר ביכולת לאמן מודלים גדולים יותר, אך כעת מרכז הכובד עובר לשלב שבו הערך הכלכלי וזה שקורה בפועל הוא סביב ההיסק (Inference). על רקע זה, Cerebras מציגה תפיסה טכנולוגית שונה מהמקובל בשוק, וממנפת אותה להישגים עסקיים בולטים – מהנפקה מרשימה ועד שיתופי פעולה עם שחקנים מרכזיים בתעשייה. המאמר שלפניכם בוחן כיצד התעצבה עמדתה של החברה, מדוע ביצועי inference הפכו לזירת התחרות האמיתית, ומה המשמעות של המגמה הזו עבור ספקי תשתית, ארגונים ומשתמשי קצה.
חלפה שנה מאז פרסמנו את המאמר האחרון שלנו על Cerebras Systems וכעת זהו זמן מתאים לעידכונים. גולת הכותרת, כמובן, היא ההנפקה הראשונית של החברה, שהתקיימה ב־14 במאי 2026. ההנפקה שיקפה ל־ Cerebras שווי של כ־56 מיליארד דולר — הישג יוצא דופן עבור חברת חומרה שגילה רק עשר שנים. השאלה המתבקשת היא: מה עומד מאחורי ההצלחה הזו?
כדאי לחזור לרגע לסקירה שפרסמנו בשנה שעברה. אז התמקדנו ביכולות הכלליות של המעבד שפיתחה החברה, Wafer-Scale Engine-3 (WSE-3), וכן במחשבים ובארכיטקטורת האשכולות שלה. הנושא המרכזי שלנו היה השימוש ב־WSE לאימון מודלי שפה גדולים ולמודלים מדעיים. לפני 18–20 חודשים, אימון LLM היה המוקד המרכזי של השוק וזכה לרוב תשומת הלב.
כיום, אף שאימון המודלים נותר פעילות מרכזית, יותר ויותר משאבים מושקעים ברחבי העולם בבניית קיבולת inference – שלב ההיסק. זהו השלב שבו משתמשים במודל שאומן במקום אחר, והוא גם השלב שבאמצעותו כל תחום ה־AI ובכלל זה Generative AI , צפוי לייצר ערך כלכלי ממשי. כאשר משתמש מפעיל את ChatGPT או את Claude , המודלים הבסיסיים מייצרים את התשובה מתוך שילוב של בקשת המשתמש, ההקשר שסופק והנחיות המערכת. צמיחת תחום ההיסק מואצת עוד יותר עם הופעתם של מודלי חשיבה, שבהם מבוצעים כמה שלבי היסק כדי להשיב לשאלת המשתמש או הסוכן. מודל החשיבה הראשון היה o1 של OpenAI , שהושק בסתיו 2024.
AI scaling laws drive exponential compute demand
איור 1: העלייה בדרישות המחשוב לטובת פעולות היסק מתקרבת לדרישות פעולות האימון.
מבחינה טכנית, תהליך ההיסק ב־ GenAI כולל שני שלבים: prefill ו־decode . מדובר בתהליך היסק אוטורגרסיבי, שבו יחידת הפלט הבאה תלויה הן בקלט הראשוני והן בפלטים הקודמים.
איור 2: שני שלבי ההיסק האוטורגרסיבית Prefill ו־Decode והקשר ביניהם ביצירת התשובה. (מקור: https://arxiv.org/abs/2601.05047v3)
שלב ה־prefill , בו המודל קורא את כל הפרומפט בבת אחת (דומה לשלב קריאת שאלה לפני מתו מענה) תלוי בעיקר ביכולת החישוב ומאופיין בהרבה עבודה מקבילית, ולכן GPU יכולים להיות בו יעילים מאוד. לעומת זאת, שלב ה־ decode , בו מתחילים לייצר את התשובה, שלב סדרתי שקשה מאוד להקביל, תלוי בזיכרון וברוחב הפס של הזיכרון — כלומר, במהירות שבה הזיכרון מתקשר עם יחידת העיבוד שעל המעבד. כאן בדיוק בא לידי ביטוי היתרון של WSE-3 : זיכרון SRAM מהיר, הממוקם מעל ליבות החישוב, ומספק רוחב פס זיכרון אפקטיבי הגבוה בשלושה סדרי גודל מזה של ה־GPU המתקדמים ביותר. בשל אופייו האוטורגרסיבי של ההיסק ב־GenAI , עבור כל יחידת פלט (טוקן) יש להעביר את כלל המודל הלוך ושוב בין זיכרוןDRAM איטי יותר המכונה ב־ GPU בשם HBM לבין יחידת העיבוד עצמה. אף שה־HBM ויחידת החישוב ממוקמים על אותו כרטיס GPU ועל אותו מצע סיליקון, הם עדיין מחוברים באמצעות מוליכים פיזיים, המייצרים צווארי בקבוק.
איור 3: מסלול העברת הנתונים בזיכרון של GPU . (מקור: https://en.wikipedia.org/wiki/High_Bandwidth_Memory).
המשמעות היא ש־Cerebras יכולה לאחסן את מודל ה־ LLM בזיכרון המהיר של המעבד באופן רציף, ובכך לאפשר יצירת טוקנים במהירות גבוהה במיוחד.
איור 4: אירוח רציף של המודל בזיכרון המהיר של המעבד כמפתח להאצת יצירת טוקנים. (מקור: Cerebras)
המגבלות של כרטיסי עיבוד בארכיטקטורות בתחום ההיסק עבור Generative AI ניכרות היטב בגרפי הביצועים שמפרסמים חוקרי תעשייה עצמאיים.
איור 5: מגבלות הביצועים של כרטיסי עיבוד שונים בהיסק אינטראקטיבי תפוקה גבוהה מול מהירות נמוכה למשתמש בודד. (מקור: https://inferencex.semianalysis.com/inference)
בתרשים זה ניתן לראות כי את מודלGPT-OSS-120B אפשר לארח על שלושה GPU במערכת GB200 , כאשר כל מעבד מספק תפוקה של יותר מ־52,000 טוקנים בשנייה. אולם מהירות השירות למשתמש בודד – הציר האופקי – נותרת סביב 40 טוקנים לשנייה בלבד, קצב שאינו מתאים לרוב היישומים האינטראקטיביים. אם ספק ההיסק מבקש להציע אינטראקטיביות גבוהה יותר למשתמשים, כלומר לנוע ימינה בתרשים, הוא יידרש כבר לחמישה GPU, כאשר התפוקה הכוללת נשחקת באופן לא פרופורציונלי ביחס לגידול של פי 13 במהירות למשתמש. "עותק" זה של המודל על חמישהGPU יעבוד בתפוקה משולבת של מעט יותר מ־1,000 טוקנים בשנייה בלבד וברמת מקבילות משתמשים של 1. לכן, אם ספק ירצה לשרת משתמשים ארגוניים בהיקף של 60,000 טוקנים לשנייה, הוא יזדקק לכ־60 עותקים כאלה — כלומר לכ־300 GPU ועדיין כל משתמש יקבל מעט יותר מ־540 טוקנים לשנייה בלבד.
מנגד, Cerebras מספקת יותר מ־2,000 טוקנים לשנייה למשתמש עבור המודל GPT-OSS-120B , תוך שמירה על תפוקה עקבית ובתצורה חסכונית יותר עבור היקף ביצועים זה. החברה השיקה את שירות הענן שלה להיסק כבר בסוף 2024, על בסיס הטכנולוגיה שלה עצמה, וכך הדגימה מהו "מצב האפשרי" בפועל. להלן דוגמה נוספת, עבור מודל גדול אף יותר, כאשר כל יתר הספקים פועלים על בסיס GPU:
איור 6: השוואת מהירות למשתמש ותפוקה כוללת בין Cerebras לבין ספקי היסק מבוססי GPU. (מקור: https://artificalanalysis.ai/models/glm-4-7/providers)
אם דרישה של 60,000 טוקנים לשנייה נשמעת גבוהה, חשוב להבין את מימד האינטראקטיביות הסמויה שמוטמע אפילו בשיחת צ'אט פשוטה. נניח שלקוח בנק שואל: "כמה כסף הוצאתי על מסעדות בחודש שעבר?" זו בקשה קצרה מאוד, שניתן לייצג בכמה עשרות טוקנים בלבד. גם התשובה הסופית תהיה קצרה — למשל: "הוצאת 500 ש"ח על מסעדות בחודש האחרון" — אך בין השאלה לבין התשובה המערכת עשויה לייצר בזמן אמת קודSQL לשאילתה על מערכת הליבה הבנקאית, וכן קוד Python לניתוח התוצאה. כל זאת תוך שילוב הקשר נוסף והנחיות מערכת שמבטיחות עמידה ברגולציה פיננסית ואחרת. המשמעות היא שבפועל יש לעבד במהירות אלפי טוקנים, ולעיתים אף עשרות אלפים, כדי שחוויית השיחה בין המשתמש לבין ה־AI תישאר מהירה, רציפה וטבעית.
במבט זה, ברור כיצד מחיר תשתית היסק המבוססת על GPU עלולה להתרחב במהירות רבה, ובכל זאת להציע למשתמש קצה מהירות נמוכה מזו של Cerebras. את עליונותה של Cerebras בתחום ניתן לראות באיור ההשוואתי הבא :
איור 7: השוואת ביצועי פרוססורים שונים בהיסק מבוסס GPT-OSS-120B (מקור: https://artificalanalysis)
אישור משמעותי נוסף למעמדה שלCerebras הגיע בתחילת 2026, כאשר החברה הודיעה על חתימת Master Relationship Agreement עםOpenAI לרכישת קיבולת היסק בהיקף של 750 מגה־ואט, בפריסה מדורגת לאורך שלוש שנים. בהודעה הרשמית התייחס נציג OpenAI בדיוק לאותו צורך באינטראקטיביות: "Cerebras מוסיפה לפלטפורמה שלנו פתרון היסק ייעודי בעל השהיה נמוכה. המשמעות היא תגובות מהירות יותר, אינטראקציות טבעיות יותר ותשתית חזקה יותר להרחבת AI בזמן אמת למספר גדול בהרבה של משתמשים". מאז, OpenAI השיקה על גבי טכנולוגיית Cerebras את המודל GPT‑5.3‑Codex‑Spark לכתיבת קוד – תחום שמסתמן כאחד ממקרי השימוש המרכזיים ביותר ב־Generative AI , הן באופן ישיר והן בעקיפין, כפי שהודגם בדוגמת הבנקאות לעיל.
האירוע המשמעותי האחרון במסעה של Cerebras אל עבר ההנפקה היה ההכרזה על שיתוף פעולה עם AWS סביב מה שמכונהdisaggregated inference . בגישה זו, שלב ה־prefill מתבצע על גבי מעבד ממוטב־חישוב כגון AWS Trainium, ואילו שלב ה־decode מבוצע על גבי WSE , שנהנה מיתרון מובהק בביצועי זיכרון. כאשר גישה זו תסופק באמצעות AWS Bedrock, היא צפויה לאפשר היסק מהיר ויעיל אף יותר עבור משתמשי הקצה.
ולבסוף, יש להביא בחשבון גם את הלך הרוח הרחב יותר בתעשייה: משאבי מחשוב ל־AI נמצאים כיום בביקוש גבוה, ולעיתים אספקת הזמנות גדולות מתבצעת רק כעבור 10–12 חודשים ממועד ההזמנה. במקביל, ניכרות גם עליות מחירים אצל ספקי GPU-as-a-Service, המשקפות את הזינוק בביקוש.
סיפורה של Cerebras עדיין נמשך, אך ממנו עולה גם לקח חשוב עבור ספקי ומפעילי AI בישראל. נקודת המוצא צריכה להיות צורכי משתמש הקצה והבנה מדויקת של רמות האינטראקטיביות – הן הגלויות והן הסמויות. ראוי ומומלץ לשקול חלוקה כפולה של התשתית: מחיצת GPU לצורך היסק איט יחסית או למודלים שאינם GenAI ולמודלי LLM קטנים — למשל לצורכי המרת דיבור לטקסט או טקסט לדיבור, ולצידה מחיצת Cerebras לצורך היסק מהיר ואינטראקטיבי בקנה מידה גדול. בנוסף, מומלץ לחשוב קדימה, להביא בחשבון את מציאות מגבלות שרשרת האספקה, ולפעול באגרסיביות רבה יותר ברכש ובהזמנת קיבולת – עוד לפני שהביקוש העתידי יתממש בפועל.
ניסקו פרוייקטים היא נציגתה הרשמית של Cerebras בישראל.
לפרטים נוספים ניתן לפנות למיקי קליין, miki@nisko.co.il, 054-5550750
