轉載請注明出處：
https://www.cnblogs.com/darkknightzh/p/11129472.html
參考網址：
https://docs.nvidia.com/deeplearning/sdk/tensorrt-install-guide/index.html
https://arleyzhang.github.io/articles/7f4b25ce/
https://docs.nvidia.com/deeplearning/sdk/cudnn-install/index.html
1 說明
1.1 直接使用deb安裝的。不過不記得之前cuda驅動是如何安裝的了。網上說cuda驅動和TensorRTF都是deb安裝的才行。。。
1.2 安裝環境是ubuntu 16.04.1+anaconda（python3.6.8）+cuda9.0+cudnn7.5
2 安裝步驟
2.1 sudo dpkg -i nv-tensorrt-repo-ubuntu1604-cuda9.0-trt5.1.5.0-ga-20190427_1-1_amd64.deb
2.2 sudo apt-key -add /var/nv-tensorrt-repo-cuda9.0-trt5.1.5.0-ga-20190427/7fa2af80.pub
2.3 sudo apt-get update
2.4 sudo apt-get install tensorrt
至此，TensorRTF安裝完成。
2.5 通過下面命令檢查一下是否安裝成功：
dpkg -l | grep TensorRT
2.6 通過下面命令安裝（不知道是啥，反正安裝就對了）：
sudo apt-get install python3-libnvinfer-dev
2.7 到上面，python里面無法import tensorrt。直接使用ubuntu自帶的archive manager打開nv-tensorrt-repo-ubuntu1604-cuda9.0-trt5.1.5.0-ga-20190427_1-1_amd64.deb文件，可以看到里面有python3.6的XXX。通過下面命令安裝該whl文件。
pip install tensorrt-5.1.5.0-cp36-none-linux_x86_64.whl
2.8 驗證python能否導入tensorrt（此處成功）：
2.9 安裝PyCUDA。
PyCUDA允許python直接訪問CUDA的API。
首先保證nvcc在PATH路徑中。而后輸入：
pip install 'pycuda>=2017.1.1'
2.10 驗證程序能否運行（見下面網址）
https://arleyzhang.github.io/articles/7f4b25ce/
可以把 tensorrt 文件夾拷貝到用戶目錄下，方便自己修改測試例程中的代碼。
進入 samples 文件夾直接 make，會在 bin 目錄中生成可執行文件，可以一一進行測試學習。
運行了sample_mnist，結果如下：
3 卸載
具體見網址：
https://docs.nvidia.com/deeplearning/sdk/tensorrt-install-guide/index.html#uninstalling
sudo apt-get purge "libnvinfer*" pip uninstall tensorrt
4 其他
4.1 cudnn使用deb安裝：
說明：不建議使用這種方式安裝。
Navigate to your <cudnnpath> directory containing cuDNN Debian file.
Install the runtime library, for example:
sudo dpkg -i libcudnn7_7.0.3.11-1+cuda9.0_amd64.deb
Install the developer library, for example:
sudo dpkg -i libcudnn7-devel_7.0.3.11-1+cuda9.0_amd64.deb
Install the code samples and the cuDNN Library User Guide, for example:
sudo dpkg -i libcudnn7-doc_7.0.3.11-1+cuda9.0_amd64.deb
4.2 使用tar文件安裝
Navigate to your <cudnnpath> directory containing the cuDNN Tar file.
Unzip the cuDNN package.
tar -xzvf cudnn-9.0-linux-x64-v7.tgz
Copy the following files into the CUDA Toolkit directory, and change the file permissions.
sudo cp cuda/include/cudnn.h /usr/local/cuda/include sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64 sudo chmod a+r /usr/local/cuda/include/cudnn.h /usr/local/cuda/lib64/libcudnn*
4.3 測試cudnn是否安裝成功
1）/usr/src/cudnn_samples_v7放到home文件夾下。
2）cd mnistCUDNN/
3）make
4）./mnistCUDNN
出錯了。。。
原因是之前/usr/local/cuda中cudnn用的是7.4.2版本的。替換為7.5之后，運行成功。（實際上在/usr/lib/x86_64-linux-gnu中有剛剛使用deb裝上的7.5版本的cudnn，但是程序未能找到。不知道目前有兩套相同版本的cudnn，以后會不會出問題吧。。。所以不建議使用deb安裝，位置不可控）
