מחשוב בענן מציע יתרונות רבים, כגון עבודה גמישה, לרבות עבודה פרודקטיבית ועוצמתית יותר מהבית – דבר חשוב מאוד בזמן המגפה – זה גם אפשר דמוקרטיזציה של הגישה למשאבים עוצמתיים וחדשניים, כגון יישומי בינה מלאכותית (AI) וביג דאטה. כמרכז IoT, אשר מליארדים רבים של נקודות קצה IoT בסופו של דבר מדווחים אליו, כגון חיישנים סביבתיים, מפעילים תעשייתיים, רכבים אוטונומיים, ואחרים, הענן הוא מאפשר קריטי אשר פותח את הדלת לאינדיבידואלים ועסקים ליהנות מההטבות של עולם חכם יותר.
עם זאת, ישנם חסרונות. תחזוקת חיבור האינטרנט עולה אנרגיה רבה והיא יכולה להיות עניין יקר או מורכב בנוגע למכשירים קטנים. רשתות עלולות להיות עמוסות מתעבורת M2M, אם יש לתקשר חזרה כל פיסת מידע אל הענן. יתרה על כך, הישענות על הענן מעלה את זמן האחזור (latency), דבר אשר יכול לפגוע באספקת השירות ולמנוע ממכשירי IoT קבלת החלטה בזמן אמת. בנוסף, מסירת מידע ברשת ושיתופו עם יישומים בענן מובילים לבעיות אבטחה ופרטיות.
להתחקות אחר מאמצי העיבוד
עוצמת המחשוב הנדרשת כדי לעבד מידע ולקבל החלטות מבוססות-תוצאות יוצאת מהענן אל עבר קצה הרשת. מנקודת המבט של מחשוב ארגוני, או זו של חברת התקשורת, מחשוב קצה מקושר אל מכשירי gateway בפריפריה של הרשת. ניתן לבצע עוד יותר תת-חלוקה ולדבר גם על תשתיות קרובות-לקצה, כגון מכשירי אירוח גנריים, כאשר במקביל לכך היישומים הופכים יותר ויותר ספציפיים בקצה הרחוק, זה הקרוב יותר למשתמש הקצה.
עם כוח עיבוד הולך וגדל, הקצה הופך לקצה חכם. אך מדוע לעצור שם? להניע מחשוב עוצמתי עוד יותר כלפי חוץ, כדי לכלול את נקודות הקצה של ה-IoT לגבות החיישנים, המפעילים, האגרגטורים וה-gatewarys, זה מוביל למעשה לקצה מוטמע. בכך, מגיחים פתרונות חדשים אשר יכולים לעזור להתגבר על אילוצים מסורתיים, כאלו אשר עמם נאלצים להתמודד מעצבים המבצעים הטמעה, בין הפתרונות הללו ישנם פתרונות לצריכת חשמל, לביצועי מחשוב, לעקבות זיכרון ולגודל פיזי.
מה מביא עמו עיבוד המתבצע בקצה?
הקצה המוטמע ימשיך להיות יותר ויותר חשוב כעמוד תווך של עיבוד IoT, זאת בשל מינוף העוצמה של מעבדים משורשרים, דבר המאפשר להתמודד עם משימות מאוד מורכבות ולספק ביצועים מהירים עם צריכת חשמל נמוכה יותר.
באופן ייחודי, טרנדים משפיעים כגון Industry 4.0 ונהיגה אוטונומית מספקים לנו יישומים המדגימים את היתרון הדיר של עיבוד קצה, היכול לספק זמן אחזור נמוך ואינו תלוי ברשת. בין שלל הדוגמאות ניתן למצוא ראייה רובוטית (איור 1) והכוונת כלי רכב. ניתן להאיץ ולשפר את אלו עוד יותר על ידי שילוב האפשרות של הסקת מסקנות מלמידת תוכנה.
איור 1: למידת מכונה מוטמעת מספקת אפשרויות עוצמתיות לקצה החכם.
יישומי למידת מכונה יכולים להתעלות בביצועיהם על אלו של ראייה ממוחשבת קונבנציונלית, והם גם יכולים לאפשר יכולות נוספות. למשל, רכב מונחה אוטונומית (AGV) יכול לבצע יותר מאשר זיהוי פשוט של אובייקטים בדרך, הוא גם יכול לזהות ולסווג את האובייקטים הללו. זוהי יכולת אשר חשיבותה הולכת וגוברת ככל שחללי העבודה במפעלים הולכים ונהיים צפופים יותר ויותר, כאשר ישנם יותר אנשים ורובוטים ניידים או נייחים העובדים יחד בקרבה גדולה.
באופן דומה, טכניקות למידה ממוחשבת יכולות לשפר את יעילות תבנית הזיהוי והניטור במערכות מפעלים, זאת כדי לשפר את דיוק האבחון של המערכת. יישומים אחרים אשר יכולים להיטיב מיכולות למידה ממוחשבת כוללים חקלאות חכמה, זאת לדוגמה על ידי אימון זיהוי תמונה שיאפשר זיהוי אוטונומי של מחלות בגידולים, זאת ללא חיבור לאינטרנט.
למידה ממוחשבת עם TinyML
הרעיון של Tiny Machine Learning (TinyML) ממש יכולות אלו במכשירים מוטמעים. TinyML מתייחס למסגרות למידה ממוחשבת המותאמות לצורכי מערכות מוטמעות עם משאבים מוגבלים. בפועל, מפתחים זקוקים לכלים שונים כדי להצליח לבנות ולהכשיר מודלים של למידה ממוחשבת, וגם אז יש למטב אותם לקראת פריסה ושימוש במכשירי קצה דוגמת מיקרו-בקר, מעבד קטן או FPGA.
עקרונות TinyML מוטמעים במסגרות למידה ממוחשבת המוכוונות קצה, כגון TensorFlow Lite (איור 2). מסגרת פופולרית ונפוצה זו כוללת כלים שונים, לרבות ממיר הממטב דגמי TensorFlow סטנדרטיים כך שיפעלו על טרגוט כגון מכשיר Linux מוטמע, וכן interpreter אשר יריץ את המודל הממוטב.
איור 2: Tensorflow Lite ממטב דגמי למידת מכונה לטובת פריסה מוטמעת.
יתרה על כך, TensorFlow Lite for Microcontrollers נוצרה במיוחד כדי להריץ למידת מכונה על מכשירים עם זיכרון מוגבל ביותר. זמן הריצה של הליבה תופס רק מספר קילובייטים של זיכרון, והוא נבדק על מיקרו-בקרים רבים המבוססים על ליבות Arm® Cortex®-M cores. כלי TensorFlow Lite מאפשרים דרכים שונות להפחתת גודל המודלים של TensorFlow אשר יש להריץ על גבי מכשיר מוטמע או על גבי מיקרו-בקר.
פתרונות התממשקות קצה
כיום, ספקי מיקרו-בקרים מובילים מאפשרים אקוסיסטמות ותזרימי תהליכים לפריסת ממשקי בינה מלאכותית ולמידת מכונה. כעת ניתן להשיג מיקרו-בקרים מוטמעים אשר מהונדסים באופן המאפשר פריסת רשתות עצביות להרצת אלגוריתמים של למידה ממוחשבת.
גם מופיעים דורות חדשים של מיקרו-בקרים, המעוצבים עם חשיבה קדימה אל עבר ממשק למידה ממוחשבת. מעבדי TI Sitara™, כגון AM5729, הם דוגמה אחת כזו. דוגמאות נוספות הן שתי ליבות Arm Cortex-A15 וליבה מוטמעת של Cortex-M4, ה-AM5729 כולל ארבעה Embedded Vision Engines (EVE) אשר יכולים לתמוך ברשתות למידה-עמוקה כדי לוודא ביצועי התממשקות גבוהים. מסגרת התוכנה TI Deep Learning (TIDL) וממשק TIDL עוזרים למפתחים לבנות, להכשיר ולפרוס רשתות עצביות למעבדים מוטמעים.
קופסת הכלים של STMicroelectronics לרשתות עצביות כוללת את כלי ההמרה STM32Cube.AI המאפשר המרת רשתות עצביות מוכשרות, כאלו שנוצרו לטובת שימוש במסגרות פופולריות שונות. הכלי מייצר ספריות ממוטבות אוטומטית עבור מיקרו-בקרים מסוג STM32 Arm Cortex-M של ST. האקוסיסטמה AI גם מספקת חבילות פונקציות של תוכנה הכוללות דרייברים במשלב נמוך וספריות middleware לפריסת רשתות עצביות מוכשרות. יש גם יישומים לדגימה עבור סיווגי תרחישי-שמע וזיהוי פעילות-אדם, אשר למעשה עוזרים למשתמשים ללמוד במהרה כיצד להשתמש ב-AI מוטמע. יחד עם החומרה המוזכרת SensorTile של ST אשר מיועדת להריץ ממשקים או לאסוף מידע, מסופק גם יישום נייד ייעודי לכך. SensorTile הוא לוח מוכן לשימוש הכולל חיישני סביבה וקונטקסט, כולם משולבים מראש, כמודול plug-and-play.
Microchip מציעה תמיכה ללמידה ממוחשבת עבור המיקרו-מעבדים, ה-FPGA השונים והמיקרו-בקרים בשלה, כגון סדרת SAM D21. הכלים שלה מאפשרים למפתחים להשתמש במסגרות למידה ממוחשבת פופולריות כגון TensorFlow, Keras, ו-Caff, וכן מסגרות TinyML כגון TensorFlow Lite. כאשר עובדים עם מיקרו-מעבדים או מיקרו-בקרים, תוך שימוש בערכת הכלים MPLAB®, מפתחים יכולים לנצל כלים כגון ML Plugin ו-MPLAB Data Visualizer כדי ללכוד מידע לטובת הכשרת רשתות עצביות תוך שימוש בכלים מאת שותפי Microchip. אלו כוללים את artesiam Nano Edge AI Studio, אשר מחפש אוטומטית אחר מודלים של בינה מלאכותית, עוזר לנתח מידע חיישן ולייצר תיקיות, וכן את Edge Impulse Studio עם ספריית Edge Impulse Inferencing SDK C++ אשר עושה שימוש ב-TensorFlow Lite לטובת מיקרו-בקרים. משתמשים יכולים לפרוס את הפרויקטים שלהם על גבי ה-MCU הנבחר באמצעות Microchip MPLAB X IDE.
פלטפורמת Embedded Artificial Intelligence (e-AI) של Renesas מאפשרת מציעה אפשרויות לעזרה בהטמעת בינה מלאכותית במכשירי קצה. המיקרו-מעבדים Renesas RZ/A2M כוללים טכנולוגיית Dynamically Reconfigurable Processor (DRP), אשר משלבת את הביצועים של מאיץ חומרה עם הגמישות של CPU כדי לאפשר ראייה ממוחשבת עם מהירות גבוהה וצריכת כוח נמוכה. הפלטפורמה גם מספקת כלים, כולל e-AI Translator. כלי זה ממיר ומייבא את תהליך הסקת המסקנות של מודלי רשתות עצביות אל קבצי קוד מקור, כך שניתן להשתמש בהם עם פרויקט e² studio IDE C/C++. רשתות עצביות ניתנות להכשרה באמצעות מסגרת למידה עמוקה בקוד פתוח כגון TensorFlow.
כמו כן, היוצרים, מהנדסים צעירים ומקצוענים כאחד, יכולים כעת להתנסות בבניית מכשירים חכמים באמצעות ערכות הבינה המלאכותית עשה-זאת-בעצמך Google AIY ובאמצעות פלטפורמת הבינה המלאכותית המקומית Google Coral. ערכות AIY כוללות מצלמה חכמה אשר מורכבת מלוח Raspberry Pi ומצלמה, Vision bonnet, כבלים ולחצנים, ומעטפת קרטון פשוטה, אשר יחד מאפשרים למשתמש ללמוד במהירות אודות זיהוי תמונה. ערכת רמקול חכמה דומה עוזרת לחקור זיהוי קול.
Google Coral מספקת מגוון חומרה, לרבות לוח פיתוח, מיני לוח פיתוח, ומאיץ USB אשר מציע למשתמשים מעבד נוסף כדי “לחבר” בינה מלאכותית למוצרים קיימים. ערכת הכלים תומכת ב-TensorFlow Lite, וכל הלוחות כוללים את Edge TPU של Google, יחידת עיבוד tensor הקשורה ל-Google Cloud TPU אשר מותאמת עם שטח רצפה קטן וצריכת כוח נמוכה.
מסקנה: עתיד הקצה הוא אינטליגנציה מוטמעת
העלאת כוח המחשוב של מכשירים ברשת קצה עוזרת לוודא IoT מהימן, עם ביצועים גבוהים ומודעות לפרטיות. ניתן להתייחס למכשירי קצה, כגון ציוד הממוקם במיקומים שונים, החל מ-gateways של רשתות ואגרגטורים לנקודות קצה IoT. כיום, יש עוד ועוד דרישה לבינה מלאכותית על מנת לענות על דרישות הביצועים והיעילות, לרבות פתרונות למידה ממוחשבת לפריסה על מיקרו-בקרים. אלו כוללים מסגרות TinyML בקוד פתוח וארכיטקטורות מיקרו-בקרים ממוטבים ומואצים מיצרנים מובילים. מגוון כלים, פלטפורמות וערכות plug-ang-play זמינים כדי לעזור למפתחים, בין אם מתחילים או מקצוענים, לחקור את האפשרויות השונות.
מארק פטריק, Mouser Electronics
