【導語】預計到2020年，全球將有200億聯網設備，設備端與雲端的數據傳輸量將高達數百億PB。對物聯網而言，如果邊緣計算技術取得突破，意味着數據將通過本地設備處理並做出反饋，而無需交由雲端，計算處理過程將在本地邊緣端完成。這無疑將大大提升處理效率，減輕雲端的負荷，還可為用戶帶來更快的響應，減少數據隱私泄露，提高邊緣端計算可靠性等等好處。
什么是邊緣計算？
邊緣計算並非是一個新鮮詞，無論是雲還是邊緣計算，本身只是實現物聯網、智能制造等所需要計算技術的一種方法或者模式。本質上，只是相對於雲計算而言，邊緣計算是在接近於現場應用端提供的計算。
邊緣計算優點更多體現在：
-
減少網絡帶寬：減少數據從傳感器/設備端傳向雲端所占用的網絡帶寬；
-
降低延遲：降低由雲端決策並在設備端執行反饋的延遲；
-
數據隱私：無需上傳涉及用戶隱私數據，直接在邊緣端判斷形成決策反饋；
-
應用可靠性：物聯網設備工作環境有可能會比較惡劣，無法聯網等情況也會時有發生，邊緣端計算將有效降低對雲端的依賴度。
接下來，我們以計算機視覺和AI在邊緣端的應用場景為例，典型的應用場景為：智能機器人，安全攝像頭，智能家居助手，這些應用場景涉及到的核心算法為：物體識別，物體分類，人臉識別以及自然語言處理等。
AI應用開發過程
通常人工智能應用的開發過程分為4步：
-
數據獲取與預處理
-
深度學習/機器學習建模
-
訓練並調整模型參數，以滿足性能和精確度的平衡
-
部署訓練好的模型
我們這里談論邊緣計算，主要體現在將訓練好的模型部署在邊緣端的設備上（並非利用邊緣端來做深度學習訓練）。
深度學習模型通常包含海量的參數，需要強大的計算力進行大規模的神經網絡矩陣運算；但是終端和物聯網設備往往更多考慮小體積和低功耗的要求，以至於很難兼顧滿足高性能神經網絡計算力和實時性要求。
將計算從雲端遷移到邊緣端，碰到的主要障礙為：
-
精確度
-
計算能力
-
模型效率
-
模型大小
講到這里，我們可以開始談談Movidius這家公司了。Movidius是一家計算機視覺智能芯片公司，2016年9月份被英特爾收購，用以擴充英特爾在物聯網視頻/視覺領域的版圖。
Movidius這家公司的核心技術，Intel Movidius Myriad 2 Vision Processing Unit (VPU)，是一款超低功耗，為無人機，機器人，虛擬現實以及智能安全等領域提供高性能視覺智能解決方案的計算芯片。
-
超低功耗設計：Myriad 2擁有在低功耗下多個高級視覺算法實現，讓視覺應用程序完全可以基於這種小型封裝設備運行，適用於大量的物聯網設備等芯片功耗及電池使用時間都極其敏感的應用場景。
-
高性能處理器：在邊緣端為物聯網設備提供人類視覺的計算能力，讓計算機視覺應用可以運行在傳統計算芯片無法勝任的功耗和溫度要求及其苛刻的環境下。
-
可編程架構：集成該芯片的設備制造商，通過集成Myriad 2的高性能軟件庫，可以開發出不同的功能特點的應用程序。
-
小面積設計：芯片封裝面積非常小，很容易集成到現有的移動設備，可穿戴設備和嵌入式設備中。
Movidius神經計算棒(2代）
英特爾®Movidius™神經計算棒是基於USB模式的深度學習推理工具和獨立的人工智能（AI）協處理器，其內部核心是一顆Myriad 2處理器（28nm工藝），具有80~150 GFLOPS的性能，該處理器也被稱為視覺處理單元 （或視覺加速器），功耗僅為1W左右（作為參考，樹莓派3B在HDMI關閉，LED熄滅和WiFi開啟時功耗大概在1.2W），因此完全可以通過USB供電，可以廣泛的為邊緣主機設備提供專用深度神經網絡處理功能。外形小巧的MovidiusTM神經計算棒專為產品開發者、研究人員和創客設計，提供專用高性能深度神經網絡處理性能，從而減少開發、調優和部署人工智能應用的障礙。
如何使用英特爾神經計算棒來做邊緣推理
單來說，這個過程需要分為3個步驟：
-
模型訓練(數據中心--雲端)，常用的深度學習框架：Caffe / TensorFlow / mxnet / 等等。
-
優化和編譯（筆記本電腦+NCS），將模型在不怎么損失太多精度的情況下進行優化和格式轉化，用以生成適合不同硬件二進制模型。
-
部署模型並用於實際場景的推理
從上圖所述，有2點值得強調：
-
模型部署好后的推理，Intel有很多種方案，比如CPU / GPU / FPGA / VPU等解決方案，分別適用不同的應用場景；
-
上述工具和開發包，Intel也配套提供了軟件包叫做OpenVINO，如果再將上述過程細化，如下圖所示：
上述過程每個階段都有相應的軟件框架和工具來完成，為了讓大家更熟悉上述過程怎么玩，Intel現在每年都會舉辦英特爾人工智能開發者大會，幫助大家熟悉並了解相關的工具集，以及相關的硬件產品和業內生態進展，最佳實踐等。
邊緣計算的應用案例分享
最后，分享一個來自紐約州石溪大學和新澤西理工的研究人員，利用樹莓派和Intel NCS，設計一個簡易黑色素瘤檢測的手持設備，相信在Intel NCS和OpenVINO的幫助下，這類基於計算機視覺的邊緣計算應用，其部署商用會變得越來越簡單。
https://www.slidestalk.com/u70/ApplyLightweightDeepLearningonIoTforLowCostSkinCancerDetection
參考資料
https://www.slidestalk.com/u70/IntelAIDC18
https://www.slidestalk.com/u70/bring_intelligence_to_edge_with_intel_NCS