https://blog.csdn.net/foreverey/article/details/114400098
Firefly AIO-3399ProC開發板安裝RKNN Toolkit 1.6.0開發環境
foreverey 2021-03-08 17:04:15 1006 收藏 5
文章標簽： linux arm tensorflow 機器學習 深度學習
版權
前言
實驗室的項目需要用到Firefly的AIO-3399 ProC開發板，該型號開發板集成了硬件加速芯片NPU（神經網絡加速單元），經tensorflow、PyTorch等訓練好的模型可用官方提供的RKNN Toolkit工具轉換為.rknn格式的模型，運行在開發板上利用NPU進行對數據的后向推理加速處理。RKNN Toolkit開發套件安裝繁瑣，前前后后折騰了一周的時間才算部署成功，故記錄下部署過程及遇到的問題，以供自己和各位參考。
一、開發部署環境
開發環境 軟件版本/配置
開發板型號 Firefly AIO-3399 ProC開發板 (3+16GB)
開發板操作系統 Ubuntu 18.04LTS
開發板固件版本 AIO-RK3399PROC-UBUNTU18.04-GPT-20200525-1016.img
RKNN Toolkit版本 1.6.0 (rknn_toolkit-1.6.0-cp37-cp37m-linux_aarch64.whl)
Python版本 Python 3.7.10
電腦遠程軟件 Xshell 6&Xftpd 6
二、RKNN 三件套介紹
1、RKNN-Toolkit → 基於 Python 環境的模型轉換推理開發工具
2、DRV → NPU 和上位機通信的服務
3、API → 調用NPU 硬件的 API 接口
三、安裝過程
3.1 查看開發板中DRV的版本（1.3.1）
firefly@firefly:~$ dpkg -l | grep 3399pro
ii firefly-3399pronpu-driver 1.3.1 arm64 <insert up to 60 chars description>
1
2
3
更新DRV的版本
sudo apt update
sudo apt install firefly-3399pronpu-driver
1
2
更新完后，檢查DRV的版本已升級至1.6.0
firefly@firefly:~$ dpkg -l | grep 3399pro
ii firefly-3399pronpu-driver 1.6.0 arm64 <insert up to 60 chars description>
1
2
3
3.2 關閉開發板當前系統的圖形界面
使用Xshell 6 SSH登錄開發板，進行下列操作，防止后續編譯軟件包時因系統內存不足導致編譯失敗
（謹慎使用，最新固件AIO-RK3399PROC-UBUNTU-20210304-1705.img關閉圖形界面后會導致系統無法啟動，串口顯示如下報錯信息：
4189 串口[ 4.772713] 00000040: 000002a5 000002a5 00000000 00000000 00000000 00000000 00000000 00000000
4190 串口[ 4.773490] 00000060: 00000004 00000004 00000753 00000753 00000000 00000000 00000000 00000000
4191 串口[ 4.774254] 00000080: 00000000 00000000
4192 串口[ 4.820522] ---[ end Kernel panic - not syncing: Attempted to kill init! exitcode=0x00007f00
4193 串口[ 4.820522]
4194 串口DDR Version 1.24 20191016
1
2
3
4
5
6
AIO-RK3399PROC-UBUNTU18.04-GPT-20200525-1016.img該版本可以正常操作）
sudo systemctl set-default multi-user.target
sudo reboot
1
2
#未關GUI界面時的系統占用
Memory usage: 12 % of 1893MB
Usage of /: 24% of 15G
#關閉GUI界面時的系統占用
Memory usage: 4 % of 1893MB
Usage of /: 24% of 15G
1
2
3
4
5
6
（PS：待RKNN Toolkit安裝完成后可再手動開啟用戶界面
sudo systemctl set-default graphical.target
sudo reboot
1
2
）
3.3 安裝Python3.7
sudo apt update #檢查可更新文件
sudo apt install software-properties-common #安裝可添加源的工具
sudo add-apt-repository ppa:deadsnakes/ppa #添加源，否則會無法找到python3.7-dev軟件包
sudo apt install python3.7-dev #安裝python3.7
1
2
3
4
3.4 用virtualenv管理python版本
（開發板系統中同時存在多個 Python（Python2.7&python3.6）版本，建議使用 virtualenv來管
理 Python環境）
#創建 virtualenv環境
sudo apt install virtualenv #安裝virtualenv軟件
virtualenv -p /usr/bin/python3.7 venv #創建虛擬環境
source venv/bin/activate #激活venv環境
(venv) firefly@firefly:~$ pip3 -V #查看當前pip3所在Python的路徑
pip 21.0.1 from /home/firefly/venv/lib/python3.7/site-packages/pip (python 3.7)pip
1
2
3
4
5
6
修改python默認為python3.7：
為了因為C++調用python時，默認是調用python2.7，這導致很多python3.7的語法報錯。所以需要更改python默認軟連接
#查看路徑python,python3.7路徑
which python python3.7
/usr/bin/python
/usr/bin/python3.7
sudo rm /usr/bin/python
sudo rm /usr/bin/python3
#創建python3.軟連接到python&Python3
sudo ln -s /usr/bin/python3.7 /usr/bin/python
sudo ln -s /usr/bin/python3.7 /usr/bin/python3
1
2
3
4
5
6
7
8
9
至此Python3.7環境配置完成。
3.5 安裝相關依賴包（numpy、h5py &opencv）
3.5.1 安裝並更新相關依賴包
sudo apt-get update
sudo apt-get install cmake gcc g++ libprotobuf-dev protobuf-compiler
sudo apt-get install liblapack-dev libjpeg-dev zlib1g-dev
pip3 install --upgrade pip #更新pip包的版本
pip3 install wheel setuptools #安裝 Python 打包工具
1
2
3
4
5
3.5.2 安裝並編譯numpy、h5py
（PS：opencv-python和h5py同時依賴的numpy包的版本必須是1.16.3，故需先安裝編譯numpy包。較難編譯和費時較長的whl包已上傳至網盤，如有需要，可從文末的鏈接下載到PC端，通過Xftpd軟件上傳至開發板安裝目錄，離線安裝即可
）
重要 ：安裝包的順序不可調換，否則默認安裝的依賴包版本與RKNN所要求的沖突
執行以下命令：
pip3 install numpy==1.16.3 #安裝numpy包，編譯完成即可進行下一步
#或將離線包下載后安裝
#pip3 install numpy-1.16.3-cp37-cp37m-linux_aarch64.whl
pip3 install h5py==2.8.0 -i https://pypi.tuna.tsinghua.edu.cn/simple #安裝h5py包，編譯完成即可進行下一步
1
2
3
4
5
這時編譯h5py包報錯
/tmp/pip-install-g8zeu2wp/h5py_e742916510854ca6b68f847f94f04c44/h5py/api_compat.h:27:10: fatal error: hdf5.h: No such file or directory
#include "hdf5.h"
^~~~~~~~
compilation terminated
error: command 'aarch64-linux-gnu-gcc' failed with exit status 1
----------------------------------------
ERROR: Command errored out with exit status 1:
1
2
3
4
5
6
7
需執行以下操作，安裝缺少的依賴包，重新編譯h5py
sudo apt-get install libhdf5-dev
pip3 install h5py==2.8.0 -i https://pypi.tuna.tsinghua.edu.cn/simple
#或將離線包下載后安裝h5py
#pip3 install h5py-2.8.0-cp37-cp37m-linux_aarch64.whl
1
2
3
4
3.5.3 安裝並編譯opencv-python
安裝並編譯opencv-Python包，如果不指定版本，默認會從清華源下載已編譯好的最新版本包opencv_python-4.5.1.48-cp37-cp37m-manylinux2014_aarch64.whl (34.5 MB)，但該包默認依賴numpy的版本要求numpy>=1.19.3，RKNN Toolkit依賴的numpy版本必須是1.16.3，所以不可安裝最新版本的opencv_python-4.5.1.48版本，需下載4.3.0.38版本的opencv-python源碼包編譯
opencv-python的各個版本可此鏈接下載https://pypi.tuna.tsinghua.edu.cn/simple/opencv-python/
pip3 install opencv-python==4.3.0.38 -i https://pypi.tuna.tsinghua.edu.cn/simple --default-timeout=200 #安裝源碼包進行編譯
[2021/ 21:43:23] Building wheels for collected packages: opencv-python
...
[2021/ 22:51:49] Building wheel for opencv-python (PEP 517) ... done
[2021/ 22:51:49] Successfully built opencv-python
[2021/ 22:51:49] Installing collected packages: opencv-python
[2021/ 22:51:50] Successfully installed opencv-python-4.3.0.38
#或將離線包下載后安裝opencv-python
#pip3 install opencv_python-4.3.0.38-cp37-cp37m-linux_aarch64.whl #
1
2
3
4
5
6
7
8
9
大約要1小時左右方可編譯完成，編譯好的opencv_python-4.3.0.38-cp37-cp37m-linux_aarch64.whl包可從文末鏈接處獲取。
3.5.4 安裝RKNN-Toolkit 1.6.0
執行以下命令，系統會根據RKNN的版本要求安裝編譯固定版本的依賴包，如psutil5.6.2 lmdb0.93 onnx1.6.0 scipy>=1.1.0 protobuf3.11.2 Pillow==5.3.0等。大概10-30分鍾左右編譯安裝成功。（RKNN的各個版本可從此鏈接下載http://repo.rock-chips.com/pypi/simple/，其他編譯好的whl依賴包不可直接用到AIO-3399ProC上，如onnx，scipy，numpy等，這些包在python中會因未知原因導入失敗，並導致OpenCV、TensorFlow和RKNN-Toolkit無法使用）
(venv) firefly@firefly:~/RKNN1.6$ pip3 install rknn_toolkit-1.6.0-cp37-cp37m-linux_aarch64.whl
1
2
3.5.5 安裝TensorFlow 1.14.0
將下載好的tensorflow-1.14.0-cp37-none-linux_aarch64.whl 放置目錄下，安裝並編譯，編譯grpcio依賴包大約十多分鍾，耐心等待即可。（若使用pip3 install tensorflow 會自動安裝最新版本的tensorflow包，依賴的numpy包的版本與RKNN要求沖突，故需手動安裝）
基於arm的已編譯好的各版本tensorflow whl包也可從此地址下載https://github.com/lhelontra/tensorflow-on-arm/releases。
（venv) firefly@firefly:~/RKNN1.6$ pip3 install tensorflow-1.14.0-cp37-none-linux_aarch64.whl
Building wheel for grpcio (setup.py) ... done
Successfully installed absl-py-0.11.0 astor-0.8.1 gast-0.4.0 google-pasta-0.2.0 grpcio-1.36.1 importlib-metadata-3.7.2 keras-applications-1.0.8 keras-preprocessing-1.1.2 markdown-3.3.4 tensorboard-1.14.0 tensorflow-1.14.0 tensorflow-estimator-1.14.0 termcolor-1.1.0 wrapt-1.12.1 zipp-3.4.1
1
2
3
3.5.6 安裝matplotlib
在測試官方給出的rknn-toolkit\examples\darknet\yolov3路徑下的demo時，報如下錯誤：
raceback (most recent call last):
File "test.py", line 5, in <module>
from matplotlib import gridspec
ModuleNotFoundError: No module named 'matplotlib'
1
2
3
4
可知需要安裝Matplotlib依賴包，官方的docker鏡像中，安裝的Matplotlib版本為3.0.3，故指定該版本手動安裝，但在編譯過程中報錯，無法成功安裝，具體日志如下：
(venv) firefly@firefly:~/RKNN1.4/examples/darknet/yolov3$ pip3 install matplotlib==3.0.3 -i https://pypi.tuna.tsinghua.edu.cn/simple
ERROR: Command errored out with exit status 1:
command: /home/firefly/venv/bin/python3.7 -c 'import sys, setuptools, tokenize; sys.argv[0] = '"'"'/tmp/pip-install-zyrjt7ya/matplotlib_d32c2949086446449427874a51fff411/setup.py'"'"'; __file__='"'"'/tmp/pip-install-zyrjt7ya/matplotlib_d32c2949086446449427874a51fff411/setup.py'"'"';f=getattr(tokenize, '"'"'open'"'"', open)(__file__);code=f.read().replace('"'"'\r\n'"'"', '"'"'\n'"'"');f.close();exec(compile(code, __file__, '"'"'exec'"'"'))' egg_info --egg-base /tmp/pip-pip-egg-info-v_dy1bs_
Complete output (43 lines):
============================================================================
Edit setup.cfg to change the build options
BUILDING MATPLOTLIB
matplotlib: yes [3.0.3]
python: yes [3.7.10 (default, Feb 20 2021, 21:17:23) [GCC
7.5.0]]
platform: yes [linux]
REQUIRED DEPENDENCIES AND EXTENSIONS
numpy: yes [version 1.16.3]
install_requires: yes [handled by setuptools]
libagg: yes [pkg-config information for 'libagg' could not be found. Using local copy.]
freetype: no [The C/C++ header for freetype2 (ft2build.h) could not be found. You may need to install the
development package.]
png: yes [version 1.6.34]
qhull: yes [pkg-config information for 'libqhull' could not be found. Using local copy.]
OPTIONAL SUBPACKAGES
sample_data: yes [installing]
toolkits: yes [installing]
tests: no [skipping due to configuration]
toolkits_tests: no [skipping due to configuration]
OPTIONAL BACKEND EXTENSIONS
agg: yes [installing]
tkagg: yes [installing; run-time loading from Python Tcl /
Tk]
macosx: no [Mac OS-X only]
windowing: no [Microsoft Windows only]
]
OPTIONAL PACKAGE DATA
dlls: no [skipping due to configuration]
============================================================================
* The following required packages can not be built:
* freetype
* Try installing freetype with `apt-get install
* libfreetype6-dev` and pkg-config with `apt-get
* install pkg-config`
----------------------------------------
Command errored out with exit status 1: python setup.py egg_info Check the logs for full command output.
ERROR: Could not find a version that satisfies the requirement matplotlib==3.0.3
ERROR: No matching distribution found for matplotlib==3.0.3
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
由The C/C++ header for freetype2 (ft2build.h) could not be found，You may need to install the development package.報錯日志可推測，是在開發環境缺少所依賴的freetype包，執行以下命令進行安裝，具體日志如下：
sudo apt-get install pkg-config
sudo apt-get install libfreetype6-dev
pip3 install matplotlib==3.0.3 -i https://pypi.tuna.tsinghua.edu.cn/simple
Building wheel for matplotlib (setup.py) ... done
Created wheel for matplotlib: filename=matplotlib-3.0.3-cp37-cp37m-linux_aarch64.whl
Stored in directory: /home/firefly/.cache/pip/wheels/8a/bb/44/9d6804fb3c73fc4f624e76721ed032411f725ac812b070b5b9
Successfully built matplotlib
Installing collected packages: python-dateutil, pyparsing, kiwisolver, cycler, matplotlib
Successfully installed cycler-0.10.0 kiwisolver-1.3.1 matplotlib-3.0.3 pyparsing-2.4.7 python-dateutil-2.8.1
1
2
3
4
5
6
7
8
9
成功安裝了Matplotlib，可繼續測試官方的yolo v3 demo。
3.5.7 安裝PyTorch
因項目暫時用不上PyTorch，故先不安裝，可參考下列鏈接進行編譯安裝。
https://github.com/yunfeizu/RK3399Pro-pytorch-opencv/
https://blog.csdn.net/zengwubbb/article/details/110936687
四、測試過程
4.1 在python中測試各模塊是否正常
venv) firefly@firefly:~/RKNN1.6$ python3
Python 3.7.10 (default, )
[GCC 7.5.0] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> import h5py
>>> h5py.__version__
'2.8.0'
>>> import cv2
>>> import numpy
>>> from rknn.api import RKNN
>>>import tensorflow as tf
>>>tf.__version__
>>>1.14.0
>>>
>>> import matplotlib
>>> matplotlib.__version__
'3.0.3'
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
4.2 運行官方提供的demo，測試RKNN是否安裝成功
（venv) firefly@firefly:~/RKNN1.6/examples/tensorflow/ssd_mobilenet_v1$ python3 test.py
Traceback (most recent call last):
File "test.py", line 61, in <module>
... ...
File "/home/firefly/venv/lib/python3.7/site-
packages/tensorflow/contrib/__init__.py", line 31, in <module>
from tensorflow.contrib import cloud
ImportError: cannot import name 'cloud' from 'tensorflow.contrib'
1
2
3
4
5
6
7
8
出現報錯，參考此鏈接文章，將/home/firefly/venv/lib/python3.7/site-packages/tensorflow/contrib/init.py出錯那行注釋掉即可，並且，在下一句還需縮進，不然會提示以下錯誤代碼：
File "/home/firefly/venv/lib/python3.7/site-packages/tensorflow/contrib/__init__.py", line 33
from tensorflow.contrib import cluster_resolver
^
IndentationError: expected an indented block
1
2
3
4
進入/example/tflite目錄下，運行test.py，測試開發環境是否正常
(venv) firefly@firefly:~/RKNN1.6/examples/tflite/mobilenet_v1$ python3 test.py
--> config model
done
--> Loading model
W:tensorflow:From /home/firefly/venv/lib/python3.7/site-packages/rknn/api/rknn.py:104: The name tf.ConfigProto is deprecated. Please use tf.compat.v1.ConfigProto instead.
W:tensorflow:From /home/firefly/venv/lib/python3.7/site-packages/rknn/api/rknn.py:104: The name tf.Session is deprecated. Please use tf.compat.v1.Session instead.
... ... ...
--> Building model
W The target_platform is not set in config, using default target platform rk1808.
... ...
done
--> Export RKNN model
[ done
--> Init runtime environment
I NPUTransfer: Starting NPU Transfer Client, Transfer version 2.1.0 (b5861e7@2020-11-23T11:50:51)
D RKNNAPI: ==============================================
D RKNNAPI: RKNN VERSION:
D RKNNAPI: API: 1.6.0 (79320de build: 2020-12-29 10:57:09)
D RKNNAPI: DRV: 1.6.0 (159d2d3 build: 2021-01-12 15:23:09)
D RKNNAPI: ==============================================
done
--> Running model
D RKNNAPI: __can_use_fixed_point: use_fixed_point = 1.
mobilenet_v1
-----TOP 5-----
[156]: 0.8505859375
[155]: 0.0916748046875
[205]: 0.013580322265625
[284]: 0.00646209716796875
[194]: 0.0024871826171875
done
--> Evaluate model performance
W When performing performance evaluation, inputs can be set to None to use fake inputs.
========================================================================
Performance
========================================================================
Total Time(us): 5561
FPS: 179.82
========================================================================
done
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
執行tensorflow和Onnx文件夾下的test.py時，系統提示
E OSError: [Errno 12] Cannot allocate memory
Init runtime environment failed
1
2
導入模型時同時用top工具動態檢測開發板的系統狀態，發現CPU占用率達到了100%，內存占用率最高達到了78%，估計是由於開發板的配置內存太小（2GB），內存不足導致demo運行失敗，后續可考慮安裝RKNN-Toolkit-Lite版本或安裝低版本的tensorflow嘗試解決此問題。
在運行yolo 官方的測試腳本時，發現一直停留在Downloading yolov3.weights…命令行，參考網上的文章，並查看測試腳本，發現需要先從https://pjreddie.com/media/files/yolov3.weights下載yolov3.weights，方可進行下一步測試，而由於未知原因一直無法下載，將此鏈接放入迅雷中將yolov3.weights文件下載至本地，通過Xftpd軟件上傳至對應路徑即可，正常運行測試腳本。
4.3 編譯安裝時遇到的報錯及可能解決的方法
按照RK提供的安裝文檔方法，自行編譯h5py時，會報錯，提示 You must put some ‘source’ URIs in your sources.list，可按下列命令操作解決此問題。
sudo apt-get build-dep python3-h5py && \
pip3 install h5py
sudo vim /etc/apt/sources.list
#復制以下內容到編輯器中，然后ESC ，:wq保存退出
deb-src http://archive.ubuntu.com/ubuntu trusty main restricted #Added by software-properties
deb-src http://gb.archive.ubuntu.com/ubuntu/ trusty restricted main universe multiverse #Added by software-properties
deb-src http://gb.archive.ubuntu.com/ubuntu/ trusty-updates restricted main universe multiverse #Added by software-properties
deb-src http://gb.archive.ubuntu.com/ubuntu/ trusty-backports main restricted universe multiverse #Added by software-properties
deb-src http://security.ubuntu.com/ubuntu trusty-security restricted main universe multiverse #Added by software-properties
deb-src http://gb.archive.ubuntu.com/ubuntu/ trusty-proposed restricted main universe multiverse #Added by software-properties
sudo apt-get update
sudo apt-get build-dep python3-h5py && \
pip3 install h5py
1
2
3
4
5
6
7
8
9
10
11
12
13
當編譯其他依賴包出錯時，可能是缺少依賴工具鏈，可嘗試下列命令：
pip3 install Cython
sudo apt-get install gcc python3-dev
sudo apt-get install libhdf5-dev
sudo apt-get install cmake gcc g++ libprotobuf-dev protobuf-compiler libgfortran5-dbg libopenblas-dev gfortran libprotoc-dev
1
2
3
4
安裝官方提供的基於python3.5版本編譯的opencv-headless 4.0.12.3版本時，如果import cv2報錯，提示 找不到libjpeg.so.62，可執行以下命令即可解決該問題。
sudo apt update
sudo apt-get install libjpeg62-dev
1
2
五、總結
不同平台，RKNN提供的基於不同Python版本的安裝包，安裝時不同平台對應的依賴關系需要處理好，具體如下：
1.Windows只提供 Python3.6的安裝包。
2. MacOS提供 python3.6和 python3.7的安裝包。
3. ARM64平台（安裝 Debian 9或 10操作系統）提供 Python3.5( Debain 9)和 Python3.7(Debian10)的安裝包。
4. Linux_x64平台提供基於 python3.5和 python3.6的安裝包。
5.開發板編譯好的whl包一般會存放在/.cache/pip/wheels/路徑下，可將這些包導出保存。
Building wheel for onnx (setup.py) ... done
Created wheel for onnx: filename=onnx-1.6.0-cp37-cp37m-linux_aarch64.whl s
Stored in directory: /home/firefly/.cache/pip/wheels/...
cp -ri ./wheel* /home/firefly
1
2
3
4
項目可能用到的指令
sudo rm -rf ~/.cache/pip #刪除pip3緩存文件
source /home/firefly/venc/bin/activate #進入venc環境
#加速Python pip安裝速度，更改Python軟件源，操作方法：
pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
pip install pip -U
#RKNN啟動可視化窗口命令
python3 -m rknn.bin.visualization\
#打印內核調試信息
cat /proc/kmsg
dmesg | grep ov13850 #查看ov13850驅動是否正常
cd /usr/local/bin/ #相機測試腳本路徑
ls /dev/video #列出設備掛載到video節點信息
v4l2-ctl -D #列出攝像頭的驅動信息
v4l2-ctl -d /dev/video0 --list-formats-ext #列出視頻節點設備所支持的視頻格式，分辨率
v4l2-ctl --list-devices #列出視頻設備掛載節點信息
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
部署過程中生成的whl包和下載的yolov3.weights文件如有需要可在下面鏈接自取，因為每個人的開發環境不同，相應的whl包不保證都能正常使用，對應的whl包僅可在RKNN1.6.0，python3.7環境下安裝使用。請謹慎安裝。
編譯打包好的軟件包的下載鏈接，提取碼: a1ca
————————————————
版權聲明：本文為CSDN博主「foreverey」的原創文章，遵循CC 4.0 BY-SA版權協議，轉載請附上原文出處鏈接及本聲明。
原文鏈接：https://blog.csdn.net/foreverey/article/details/114400098