חדשות היום

Hailo משיקה את -10Hailo, מאיץ בינה מלאכותית שמביא GenAI למכשירי קצה

עד כה גייסה חברת היוניקורן הישראלית למעלה מ-340 מיליון דולר. מאיץ הבינה המלאכותית החדש מיועד לעיבוד מודלי שפה גדולים (LLMs) בצריכת הספק נמוכה המאפשרת שימוש בבינה מלאכותית יוצרת (Generative AI) במכשירי קצה בתעשיות המחשוב האישי והרכב

חברת היוניקורן היילו (Hailo) מתל-אביב, יצרנית מובילה של מעבדי AI למכשירי קצה, גייסה 120 מיליון דולר שמתווספים לסבב הגיוס השלישי שלה (סבב C). במקביל, החברה השיקה את מאיצי ה-GenAI עתירי הביצועים שלה מדגם Hailo-10 שמבשרים על עידן חדש שבו משתמשים יכולים להיות הבעלים של יישומי GenAI (בינה מלאכותית יוצרת) ולהריץ אותם באופן מקומי על גבי המכשירים שלהם ללא צורך בהרשמה לשירותים מבוססי ענן של בינה מלאכותית יוצרת.

את מהלך המימון החדש הובילו משקיעים קיימים וחדשים, ביניהם: משפחת זיסאפל, גיל אגמון, דלק מוטורס, אלפרד אקירוב, חברת ההשקעות DCLBA, Vasuki, OurCrowd, Talcar, קומסקו, Automotive Equipment (AEV) ופועלים אקוויטי. בסך הכל גייסה החברה יותר מ-340 מיליון דולר מהקמתה.

“סגירת מהלך המימון החדש שלנו מאפשרת לנו למנף את כל ההזדמנויות המרגשות שיש לנו בקנה וסוללת את הדרך לצמיחה ארוכת הטווח שלנו”, אמר אור דנון, מנכ”ל ומייסד משותף של היילו. “יחד עם השקת מאיץ ה-GenAI מדגם Hailo-10 שלנו, המהלך מציב אותנו בעמדה אסטרטגית שתאפשר לנו להביא AI קלאסי ו-GenAI למכשירי קצה באופנים שירחיבו משמעותית את הפריסה וההשפעה של טכנולוגיה חשובה זו. תכננו את Hailo-10 כך שישלב באופן רציף יכולות בינה מלאכותית יוצרת בחיי היומיום של משתמשים וישחרר את המשתמשים ממגבלות של רשתות מבוססות ענן. כך המשתמשים הופכים למעשה לבעלים של כלים כגון צ’טבוטים, copilots וכלים אחרים ליצירת תוכן, ויכולים להשתמש בכלים באופן רציף ומיידי, לשיפור התפוקה והעשרת חווית המשתמש “, הדגיש דנון.

היילו הוקמה בפברואר 2017 על ידי בוגרי יחידת עילית טכנולוגית של חיל המודיעין. החברה הפכה ב-2022 ליוניקורן לאחר גיוס הון בהיקף 136 מיליון דולר במסגרת סבב C. להיילו משרדים ביפן, טייוואן, סין, דרום קוריאה, גרמניה, וארה”ב ורשת של מפיצים ברחבי אסיה, צפון אמריקה, דרום אמריקה, אוסטרליה ואירופה ומוצריה משרתים יותר מ-300 לקוחות ברחבי העולם. החברה מעסיקה כיום מעל 250 עובדים בתל-אביב ובחו”ל, ומגייסת עובדים נוספים כדי לתמוך בצמיחה המואצת. המעבדים של היילו הם תוצר של חשיבה מחדש על ארכיטקטורת המחשוב הרגילה והם מאפשרים למכשירים חכמים לבצע משימות למידה עמוקה מתוחכמות דוגמת זיהוי ופילוח של עצמים בזמן אמת, תוך מזעור של צריכת ההספק, גודל ועלות השבב. המעבדים מיועדים להשתלב בסוגים רבים של מכונות חכמות ומכשירים חכמים במגוון מגזרים ובכללם רכב, אבטחה, מחשוב, תעשייה 4.0 וקמעונאות.

המאיץ החדש Hailo-10 מעצים מכשירי קצה כמו מחשבים אישיים, רכבים חכמים ורובוטים מסחריים באמצעות GenAI ומאפשר בכך למשתמשים להיות הבעלים המלאים של חוויות הבינה המלאכותית היוצרת שלהם ולהפוך חוויות אלה לחלק אינטגרלי משגרת היומיום שלהם. היילו משיגה את חוויית ה-GenAI העוטפת הזו באמצעות ארכיטקטורת ה-Hailo-10 שתומכת בביצועים מקסימליים של הבינה המלאכותית היוצרת תוך צריכה מזערית של הספק.

יישומים מוקדמים של מאיצי ה-GenAI מדגם Hailo-10 ייועדו למחשבים אישיים ולמערכות של בידור ומידע בכלי רכב ויעצימו מעבדי CPU בעלי ביצועים נמוכים שאין להם יכולת משל עצמם להפעיל את הצ’טבוטים, ה-copilots, העוזרים האישיים ומערכות ההפעלה המופעלות בדיבור שהפכו לסטנדרטיים בימינו. היילו תתחיל למכור יחידות ראשונות של מאיץ הבינה המלאכותית Hailo-10 ברבעון השני של 2024.

“בין אם משתמשים מפעילים בינה מלאכותית יוצרת לצורך אוטומציה של תרגום או סיכום מידע בזמן אמת, כתיבת קוד תוכנה או יצירת תמונות וקטעי וידאו על פי פקודות טקסט, Hailo-10 מאפשר להם לעשות זאת ישירות מהמחשבים האישיים שלהם או ממערכות אחרות בקצה הרשת, בלי להכביד על מעבד ה-CPU או לרוקן את הסוללה”, ציין אור דנון.

בתמונה: צוות היילו בתל-אביב קרדיט: HAILO

Hailo-10: בינה מלאכותית יוצרת במכשירי קצה

מאיץ ה-GenAI החדש מדגם Hailo-10 מאפשר להפעיל קשת רחבה של יישומים ששומרים על ההובלה של היילו הן ביחס בין ביצועים לעלות והן ביחס בין ביצועים לצריכת הספק. Hailo-10 ממנף את אותה חבילת תוכנה המשמשת את מעבדי הבינה המלאכותית הקודמים של החברה מדגם Hailo-8 ו- Hailo-15 ומאפשר שילוב רציף של אפליקציות בינה מלאכותית על פני מכשירי קצה שונים ובפלטפורמות מגוונות.

המעבר של עיבוד הבינה המלאכותית היוצרת מהענן למכשירי הקצה מבטיחה גישה רציפה לשירותי GenAI, ללא תלות בחיבור לרשת, מאפשרת עיבוד וקבלת תוצאות בזמן אמת, משפרת את הפרטיות ומצמצמת את טביעת הרגל הפחמנית בכך שהיא מצמצמת את התלות בכוח עיבוד משמעותי בחוות שרתים מבוססי ענן.

“ככל שבינה מלאכותית יוצרת הופכת לכלי עבודה וחלק בלתי נפרד מחיי היומיום שלנו, אנו נדרשים לעבד מודלי שפה גדולים (LLMs) באמצעות כמות ההספק הקטנה ביותר האפשרית – בפועל, פחות מ-5 וואט”, המשיך אור דנון.

לשם הדגמה Hailo-10 יכול להריץ את מודל השפה הפופולרי Llama2-7B באמצעות TPS 10 (Tokens Per Second) בהספק של פחות מ-5 וואט. בעיבוד של Stable Diffusion 2.1, מודל פופולרי ליצירת תמונות מפרומפטים טקסטואליים, Hailo-10 מאפשר לייצר כל תמונה בפחות מ-5 שניות תוך שימוש באותה רמת הספק נמוכה מאד.

מאיץ Hailo-10 מסוגל להשיג עד 40 TOPS (Tera Operations Per Second), רף ביצועים חדש עבור מאיצי AI. Hailo-10 הוא מהיר יותר ובעל יעילות אנרגטית גבוהה יותר ביחס לפתרונות NPU (Neural Processing Units) משולבים והוא מספק לפחות פי שניים ביצועים בחצי מההספק ביחס למעבד ה-NPU של אינטל Core Ultra, על פי מבחני ביצועים שפורסמו לאחרונה.


קרדיט: HAILO

מערכת ניו-טק מגזינים בע"מ

תגובות סגורות