邊緣智能:現狀和展望
文獻來源:李肯立,劉楚波.邊緣智能:現狀和展望[J].大數據,2019,5(03):69-75.
摘要：邊緣智能(即將人工智能融入邊緣計算,部署在邊緣設備)作為更快更好地提供智能服務的一種服務模式,已逐漸滲入各行各業。然而,當前邊緣智能面臨着巨大挑戰。首先簡要介紹了邊緣智能的起源與概念;然后總結了邊緣智能面臨的三大挑戰;最后,概括了當前針對邊緣智能挑戰的5個研究方向。為相關讀者了解邊緣智能和相關人員研究邊緣智能提供一定的參考。
背景
- 互聯網時代的到來和無線網的普及，網絡邊緣的設備數量和產生的數據量都急劇增加。
- 智能終端設備成為人們生活的一部分，人們對服務質量要求進一步提升，在這種情況下，以雲計算為代表的的集中式處理模式將無法高效地處理邊緣設備產生的數據，無法滿足人們對服務質量的需求。
- 實時性不夠
- 帶寬不足
- 當前人工智能大部分計算任務部署在雲計算中心等大規模計算資源集中的平台上，這極大地限制了人工智能帶給人們的便利。
邊緣計算
- 邊緣計算是部署在邊緣終端設備（路由器、路由交換機、集成接入設備、多路復用器，以及各種城域網和廣域網接入設備。）和雲計算中心之間的一種新型計算模型。
- 邊緣計算的資源是指從數據源到雲計算中心路徑上的任意計算和網絡資源，是一個連續系統。
- 邊緣計算優點。
- 邊緣設備處理了部分產生的臨時數據，不再需要將全部數據上傳至雲端，只需要傳輸有價值的數據，這極大地減輕了網絡帶寬的壓力，且減少了對計算存儲資源的需求。
- 在靠近數據源端進行數據處理，能夠大大地減少系統時延，提高服務的響應時間。
- 邊緣智能是指終端智能，它是融合網絡、計算、存儲、應用核心能力的開放平台，並提供邊緣智能服務，滿足行業數字化在敏捷連接、實時業務、數據優化、應用智能、安全與隱私保護等方面的關鍵需求。將智能部署在邊緣設備上，可以使智能更貼近用戶，更快、更好為用戶地提供智能服務。
邊緣智能面臨的挑戰
人工智能方法主要包括訓練和推斷兩部分。訓練主要是利用已知結果的大量數據來訓練模型，即根據已有的大量數據來擬合模型及參數。推斷主要是用擬合好的模型對未知結果的數據結果進行預測。訓練過程需要大量的計算資源和存儲資源。將人工智能部署在邊緣設備上，主要面臨以下幾個挑戰。
- 計算、存儲、能耗等資源受限。
- 邊緣網絡資源不足。
- 人工智能在“邊緣”並行困難。
邊緣智能研究的方向
他研究的方向有：邊雲協同、模型分割、模型壓縮、減少冗余數據傳輸以及設計輕量級加速體系結構。其中，邊雲協同、模型分割、模型壓縮主要是減少邊緣智能在計算、存儲需求方面對邊緣設備的依賴；減少冗余數據傳輸主要用於提高邊緣網絡資源的利用效率；設計輕量級加速體系結構主要針對邊緣特定應用提升智 能計算效率。
- 邊雲協同。將訓練過程部署在雲端，而將訓練好的模型部署在邊緣設備。
- 模型分割。它是一種邊緣服務和終端設備協同訓練的方法。將計算量大的計算任務卸載到邊緣端服務器進行計算，而計算量小的計算任務則保留在終端設備本地進行計算。然而，不同的模型切分點將導致不同的計算時間，因此需要選擇最佳的模型切分點，以最大化地發揮終端與邊緣協同的優勢。
- 模型裁剪。在不影響准確度的情況下裁剪訓練模型，如在訓練過程中丟棄非必要數據、稀疏數據表示、稀疏代價函數等。如下圖所示。
- 減少冗余數據傳輸。為了節省帶寬資源，部分研究人員在不同的環境中提出了各式各樣減少數據傳輸的方法，主要表現在邊雲協同和模型壓縮中。例如，只將在邊緣設備推斷有誤的數據傳輸到雲端再次訓練，以減少數據傳輸；在不影響准確度的情況下移除冗余數據，以減少數據的傳輸。
- 設計輕量級加速體系結構。比如：針對壓縮、裁剪環境下的網絡模型設計一個加速器；采用可編程硬件加速，即對不同種類的應用使用同一硬件重寫編程加速，以提高資源利用率，減小加速硬件的面積；利用可重構硬件特性，針對多種應用設計加速體系結構，在維持硬件面積的同時擴大應用范圍。