מחשוב הקצה משדרג את הביצועים של ה- IoT ההטרוגני

 על מנת לעמוד בדרישות האינטרנט של הדברים לעיבוד, לנתונים, ולניתוח בזמן אמת, שני שינויים מהותיים לאינטרנט ולמשאבי המחשוב שלו הופכים להיות חיוניים. ראשית, יש צורך לבחון מחדש את הצרכים של ארכיטקטורת הרשת שעוברת מארכיטקטורה ממורכזת ענן (אחת עבור רבים) לטופולוגיה שלפיה, משאבי מחשוב משמעותיים נמצאים בקצה. מחשוב ענן עדיין יידרש, אך עיבוד נתונים מבוסס נקודות קצה בצמתים עצמם או באמצעות שערי מחשוב מקומיים חכמים, יוכל לטפל בצורה טובה יותר בדרישות העתידיות של האינטרנט של הדברים (IoT). שנית, המעבדים מרובי הליבות הקיימים כיום, על אף היותם חזקים למדי, לא יתקרבו להיות חזקים במידה שתידרש עבור צורכי המחשוב של המחר. במקום זאת, משאבי הטרוגניים לעיבוד נתונים – מהסוג שמשלב יחידות CPU עם יחידות GPU ועם מאיצים מתמחים אחרים – יהפכו להיות מקובלים יותר ויותר, כאמצעים שיאפשרו לעמוד בדרישות הביצועים הגדלות בהתמדה של כל סוגי המכשירים הפרוסים בטווח שבין הקצה לבין מרכז הנתונים. על פי הצפוי, עד לשנת 2020 קרוב ל-26 מיליארד מכשירים יהיו מכשירי IoT

(לפי The Internet of Things, Worldwide  2013). המשמעות היא שהדרך שבה נתכנן את ארכיטקטורת התשתית עבור צורכי IoT תצטרך להיות שונה לחלוטין מהדרך שהייתה נהוגה עד עתה. האתגר הראשון שמציב בפנינו האינטרנט של הדברים (IoT) הוא לראות בדמיון מחדש את ארכיטקטורת הרשת עצמה.

נתייחס לרגע לדרך שבה מתוכננת הארכיטקטורה של IoT. יהיה זה לא מדוייק אם נקבע שהכל נעשה בענן ושהמודל של לקוח – אל – ענן הוא המודל של IoT. ניזכר ב-26 מיליארד הצמתים המוזכרים לעיל, ונשער מה הייתה יכולה להיות המשמעות אם היינו טוענים שכל הנתונים האלו – בין אם הם מגיעים מתרמוסטט, מחיישן זרימת תעבורה, ממפעל ייצור אוטומטי או ממצלמת אבטחה – היו אמורים לעבור ישירות אל הענן.

לכל המכשירים האלו יש צרכים שונים באופן קיצוני זה מזה. למשל, חלקם יכולים להיות עם זמן אחזור נמוך (latency), לחלקם יכול להיות רוחב פס גבוה, ואחרים אולי יוצרים תקשורת לעתים רחוקות ביותר. ואם ננסה להיות מפורטים יותר, באוטומציה של בית חכם, דלת מוסך פתוחה או דלת מוסך סגורה, היא אות בינארי. אתה יכול להרשות לעצמך להגדיר זאת כ: f = הרץ, או בזמן ארוך יותר. השווה זאת לעומת כלי רכב אוטונומיים, שיש להם דרישה שונה במונחים של נתונים, זמן אחזור ואמינות (ראה איור 1). הייתי מצפה, שנתונים טלמטריים קריטיים ישלחו בקצב של מילי שניות או בקצב גבוה יותר. נוסיף על כך נתונים שמגיעים מהמוני כלי רכב בנוסף על כל תעבורת האינטרנט האחרת, בין אם דרך Skype, Netflix, YouTube או ממקורות אחרים, ולפתע, שליחה של כל הנתונים האלו לענן הופכת לבעיה כבדה, במיוחד אם הרכב האוטונומי שלך מצפה לתגובה מהירה. טופולוגית הרשת וחלוקת משאבי המחשוב יצטרכו להיות שונים עם האינטרנט של הדברים. בין אם במפעל, בבית או בתשתית. אנו נתחיל לראות סוגים חדשים של טכנולוגיה שמופיעים קרוב לקצוות של הרשת, על מנת לקבל החלטות מקומיות ולמנוע את מעבר הנתונים אל הענן ובחזרה (backhaul).

דרישה מרבית עבור וידאו

דאטה סנטר הוא דוגמה טובה. אם יש לך פתרון IoT בקצה הרשת, שהוא שונה מזה שקיים ברשת הליבה שלך ומזה שיש במרכזי הנתונים של התקשרות המרכזית, אתה זקוק לשלוש גרסאות שונות של מחסניות תוכנה, מחסניות יישומים וצוותי פיתוח. אנו צריכים ליצור יכולת שדרוג ויכולת פעולה הדדית על מנת לפרוש את היישומים האלו לפי צורכם, באופן גמיש יותר בהרבה. כאשר נתבונן בנתונים שעוברים אל תוך יישומי הרשתות השונים, מהר מאוד נגלה שהם נעים בהשתנות מתמדת. פעם הכל התנהל בחבילות נתונים ומתגים, אך כיום הכל מתנהל סביב אותות, נתונים ווידאו. כמות התוכן, המבוסס על וידאו, שעוברת דרך רשתות גדלה במידה קיצונית. כיום, שני שלישים (66 אחוזים) מהתעבורה באינטרנט היא וידאו. על פי התחזיות היא תגיע ל-80% בשלוש השנים הבאות. כמות קטעי הווידאו שעוברים באינטרנט ומזינים מכשירי טלוויזיה הוכפלה משנת 2012 לשנת 2013, ועד לשנת 2018 אמורה לגדול פי ארבעה. התעבורה של וידאו לפי דרישה (video on Demand) המשמשת לצריכה, גם היא תכפיל את עצמה עד לשנת 2018. (המקור: Cisco Visual Networking Index, February 2015).

עם סוגים כאלו של מספרים, חשוב שיהיה עיבוד וידאו מקומי שמתבצע קרוב לקצה, במיוחד עבור צומת IoT כמו מצלמת אבטחה עם זיהוי חזותי (זיהוי פנים) או מכונה למכירה אוטומטית של מוצרים עם בקרת מחוות. עיבוד כזה יכול לכלול העברת קידוד (transcoding) ייעודי לווידאו, עיבוד תמונה ושיפורה או הכנה ואיפשור גרפיקה. ככל שמדובר בהעלאה כבדה יותר – במיוחד אם זמן התגובה קריטי – כך יש צורך ביכולת רבה יותר של עיבוד CPU, GPU או DSP במקור או על יד המקור.

פיתוח רשת IoT

העברת החוכמה אל הקצוות היא המפתח לפיתוח הרשת ולהפיכתה ליעילה מבחינת יישומים, צמתים וחיישנים עבור IoT. ואולם, הכל עדיין בתחילת הדרך. עלינו ליצור עולם רישות בעל יכולת שדרוג רבה ביותר, במונחים של ארכיטקטורה והשקעות. טופולוגית הרשת החדשה של IoT תסתמך על משאבים מקומיים וחיבורים על פי הצורך אל משאבים אחרים ולענן (איור 2). ולא בכל צומת יש צורך ביכולת עיבוד משל עצמו – את חלק מהצמתים אפשר לקבץ לקבוצה.

לעומת המחשוב המקומי המבוסס בקצה – שהגיוני לשבץ אותו בתוך כמה צמתי IoT כגון מסופים של נקודת מכירה (POS) או מחשבי מולטימדיה לגיימינג – התקני IoT אחרים לא צריכים העברת נתונים כבדה כזו. למשל, כלי ניטור מרחוק של צנרת או שסתומים מעבירים דיווחי נתונים רק מדי פעם, לכן אפשר לבקר את קבוצות הצמתים האלו על ידי שער-חיבור  (gateway) יחיד, שהוא עצמו מספק קישוריות למרכז נתוני ענן (איור 3). צומתי IoT אחרים כדוגמת מצלמות אבטחה, היו יכולים להפיק תועלת משער חיבור, מאחר שהם צריכים לדווח על נתונים רק בקרות אירוע, למשל תנועה, זיהוי פנים או גורם מעורר אחר.

המעבר למודל מחשוב קצה כבסיס עבור ארכיטקטורת רשת IoT שמתפתחת, מציב את יכולת העיבוד קרוב יותר למקום שבו הוא רלוונטי. הוא מספק ביצועים ושירותים טובים יותר, מקטין את התעבורה ומפחית את זמן האחזור. ואולם, בצומת IoT עצמו, שינוי של סוג משאבי העיבוד נדרש אף הוא. כלומר, אנו זקוקים למשאבי מחשוב חזקים יותר.

מחשוב הטרוגני מגיע לקצה

כיום, החלוקה בין יחידות CPU ליחידות GPU נעלמה במידה רבה. המחשוב ההטרוגני מצרף יחד סוגים רבים של מעבדים אל תוך יחידת עיבוד מואצת (Accelerated Processing Unit – ) אחת. מפתחים יכולים להתחבר אל כמויות אדירות של כוח מחשוב על מנת להרחיב את ביצועי היישום ולאפשר חוויות משתמש חדשות. המחשוב ההטרוגני, במיוחד השימוש ביחידת GPU כבמעבד עזר שיכול לטפל בעומסי עבודה מקבילים ומורכבים, הוא מהותי מבחינת האינטרנט של הדברים ועוד כמה יישומים אחרים.

בשנת 2011, חברת AMD יצאה לשוק עם יחידת APU הראשונה בעולם, ששילבה יחידת GPU רבת עוצמה עם CPU חזק. היא אפשרה להשתמש ביחידות GPU שנועדו למטרות רגילות על מנת לספק יכולות מחשוב מקבילי, שעד לא מזמן, היו מוגבלות למחשבי על. היה זה הצעד הראשון, שהניב ביצועים טובים יותר עבור קבוצה של יישומים, בד בבד עם רשימת חומרים שחשפה חיסכון בעלויות ויתרונות מבחינת ההספק. ההתקדמות של הארכיטקטורה ההטרוגנית מוצגת באיור 4. לאחר מכן, שילוב פיזי העביר מכשירים שהיו מחוברים מחוץ – לשבב על ידי PCIe על השבב לשימוש בטלפונים חכמים, במחשבי לוח (tablet), במחשבי laptop ובמחשבים שולחניים, במערכות משובצות ובעמדות גיימינג.

כעת אנו נעים אל עבר עידן המערכות ההטרוגניות, ואין זה מוקדם מדי, בשעה שהאינטרנט של הדברים (IoT) נראה במלוא הדרו. אם מתבוננים בכל ההתקנים המחוברים ובכמויות הנתונים שהם יוצרים ובהרכב של הנתונים האלו, אנו מבחינים בצורך במקביליות נתונים נוספת, לכן ניתן לבצע מחשוב של דברים רבים יותר במקביל, באותו זמן. דוגמה לכך אפשר לראות באבטחה בעזרת וידאו, כאשר זרימת הווידאו מופעלת פעם ראשונה על פי יחידת GPU כדי לקבוע אם פנים מזוהות במסגרת. המשימה של זיהוי פנים בהעברת נתונים כבדה אינה דבר של מה בכך, אך ברגע שהפנים זוהו, קבוצת הנתונים הרלוונטית תישלח ליחידת CPU מסורתית בעלת ביצועים גבוהים, כדי להתאים את הנתונים אל מול קבוצות נתונים בטבלת חיפוש מאוחסנת. בדוגמה זו, שני סוגים שונים של מעבדים פועלים על אותה בעיה, ובמקביל, ומוסיפים יעילות.

ניצול טוב יותר של טכנולוגית GPU יוביל ליעילות מחשוב רבה יותר. אם נבחן את ערך FLOPS ביחידת GPU לעומת הערך שקיים במעבד CPU, נגיע למסקנה שהוא גדול בסדר גודל אחד או יותר. שילוב של יחידת GPU באופן יעיל יותר דרך ארכיטקטורה של מערכות הטרוגניות יאפשר למפתחי תוכנה לשלב ביישומים את יכולת המחשוב החזקה הזו בצורה מלאה יותר.

ליחידות GPU יש יותר FLOPS ואפילו TFLOPS של יכולת מחשוב מאשר יש ליחידות CPU ועם ריבוי מעבדים שפועלים בנקודה צפה במהירות עצומה, באופן מקבילי וביעילות במידה רבה ביותר, אבל יש להם מרחב זיכרון שונה. עד עתה, לכתיבת תוכנה שמגשרת בין שני סוגי המעבדים היה צורך בשפות ובשיטות תכנות קשות. חברת AMD פתרה בעיה אחת על ידי כך שהציבה את שני מעבדים יחד באותו התקן, יחידת APU. באופן כזה נחסך הצורך ביצירת תעבורה על פני ממשק PCIe, והאינטגרציה על גבי הסיליקון עזרה בהפחתת הוצאות, בשיפור הביצועים ובהקטנת זמן האחזור. עדיין קיימת בעיה של שתי תת מערכות זיכרון.

יחידות APU המתקדמות ביותר מספקות אינטגרציה בחומרה לרבות זיכרון קוהרנטי עבור המיעון של יחידות CPUויחידות GPU. בצעד הזה לבדו, כבר שיפרנו באופן פנימי את היעילות במידה רבה, מפני שאין צורך להעביר זיכרון, התהליך כרוך רק בהעברת מצביעים. עם התמיכה המתקבלת דרך הגדרות המפרט HAS Foundation 1.0, אפשר להשתמש בכלים מקובלים כיום, כגון C++ על מנת להתייחס אל CPU ואל יחידת GPU כאל עמיתים. זה המימוש המלא של ארכיטקטורה במערכות הטרוגניות והתקדמות עצומה. מימוש זה מאפשר את תהליך הניצול של יחידות GPU מחוברות במקביל במידה רבה לפיתוח תוכנה בקלות רבה יותר, הוא יכול להמריץ יישומים חדשים על פני מבחר של תחומים, הוא מאפשר “לכתוב פעם אחת, להפעיל פעמים רבות” על פני פלטפורמות מרובות, בטווח שבין הטלפונים החכמים לבין שערי חיבור בקצוות, מערכות משובצות, מרכזי נתונים, יעזור בהפחתת האנרגיה שבה משתמשים מעבדי מיקרו ויכול להאיץ את הביצועים. לקטגוריות מסוימות של יישומים האצה זו יכולה להיות בעלת משמעות רבה ביותר. כל אלו יעודדו את הפיתוח וההפעלה של האינטרנט של הדברים (IoT).

AMD embedded – מיוצגת באופן בלעדי על ידי חברת STG

סקוט איילור הינו סגן נשיא משותף ומנכ”ל, פתרונות משובצים, חברת Advanced Micro Devices ().