英特爾神經棒使用入門-NCS2 & NCS1 -OpenVino

|--背景：

　　NCS1使用的NCSDK1和NCSDK2，速度一般，沒有想象中的速度，能有TX2一半的速度吧。跟大佬又申請了個NCS2來試一試。

　　環境配置到跑通自己寫的MNIST分類網絡花了2天不到吧。

|--總結：

　　Openvino和之前的NCSDK比算是有很大的進步了。文檔都比較全，但是都有文檔跟不上版本的問題。

|--環境：

|----Ubuntu16.04 + Openvino R5 2018-5

　　Openvino的安裝，按照Intel官網上一步一步走的，沒什么大問題。

　　可能安裝和跑demo的過程中可能出現的問題：

　　1、使用腳本安裝依賴包時可能會有錯誤，把對於錯誤的行注釋，手動安裝即可

　　2、對於上述問題可能原因是源的問題，可以嘗試更換一下源，

　　3、如腳本執行sudo apt -E updata 報錯，可以在確定系統更新到最新后將改行注釋掉，

　　4、安裝python-ven 錯誤，手動安裝個虛擬環境即可

　　5、提示xxx.so不是鏈接文件，重新做一下鏈接即可（或者在google上找這個報錯，overstack中有解決方案，沒保存，挺好找的）

 

|----demo& 自定義網絡的使用

　　1、demo按照官網的步驟即可，主要是如何使用子定義的網絡。

　　2、使用自定義的網絡openvino中沒有講，但是應為硬件就是這個了，和NCSDK的要求必然相差不遠的按照NCSDK中修改網絡即可：https://movidius.github.io/ncsdk/tf_compile_guidance.html

　　3、修改並訓練好后，如何編譯到Openvino的格式：xml & bin ：在Openvino中有講如何載入bp文件或者meta文件。可能會遇到的錯誤 如 入口節點 的未完全定義呀什么，解決方法加入參數： --batch 1 或者 --input_size [x,x,x,x]，參考鏈接：https://software.intel.com/en-us/forums/computer-vision/topic/801113

　　4、使用網絡參考其中的不完全代碼和 Python 接口文檔：鏈接 https://software.intel.com/en-us/articles/transitioning-from-intel-movidius-neural-compute-sdk-to-openvino-toolkit

python接口demo：

import openvino.inference_engine as ie 
import cv2
import numpy
import time
def main():
    #######################  Device  Initialization  ########################
    #  Plugin initialization for specified device and load extensions library if specified
    plugin = ie.IEPlugin(device="MYRIAD")
    #########################################################################

    #########################  Load Neural Network  #########################
    #  Read in Graph file (IR)
    net = ie.IENetwork(model="mnist_inference.xml", weights="mnist_inference.bin")

    input_blob = next(iter(net.inputs))
    out_blob = next(iter(net.outputs))
    #  Load network to the plugin
    exec_net = plugin.load(network=net)
    del net
    ########################################################################

    #########################  Obtain Input Tensor  ########################
    #  Obtain and preprocess input tensor (image)
    #  Read and pre-process input image  maybe we don't need to show these details
    image_for_inference = cv2.imread("./1.JPG")
    
    image_for_inference = cv2.cvtColor(image_for_inference, cv2.COLOR_BGR2GRAY)
    image_for_inference=cv2.resize(image_for_inference, (28,28))

    image_for_inference = image_for_inference.astype(numpy.float32)

    image_for_inference[:] =1-((image_for_inference[:] )*(1.0/255.0))

    image_for_inference=image_for_inference.reshape(-1,1,784)
    # ########################################################################

    # ##########################  Start  Inference  ##########################
    # #  Start synchronous inference and get inference result
    ct=time.time()
    req_handle = exec_net.start_async(0,inputs={input_blob:image_for_inference})
    # # ########################################################################
    # res = exec_net.infer({input_blob:image_for_inference})
    # # ######################## Get Inference Result  #########################
    status = req_handle.wait()
    res = req_handle.outputs[out_blob]


    # Do something with the results... (like print top 5)
    print(time.time()-ct)
    print(res[0])
    print((1-res[0]).argsort()[:1])
    # ###############################  Clean  Up  ############################
    del exec_net
    del plugin
    # ########################################################################

import sys
if __name__ == '__main__':
    sys.exit(main() or 0)

github 傳送門