1、下載
NVIDIA TensorRT 8.x Download | NVIDIA Developer
EA是提前發布的不穩定版本,GA是經過完備測試的穩定版
解壓后,我放到了C盤
從名字可以看出對應的cuda版本、cudnn版本。下載對應的cuda、cudnn。onnxruntime、cuda、cudnn、顯卡驅動 - 夕西行 - 博客園 (cnblogs.com)
2、配置環境變量
把包含dll的路徑添加到系統path環境變量中。
C:\TensorRT-8.2.4.2.Windows10.x86_64.cuda-11.4.cudnn8.2\TensorRT-8.2.4.2\lib
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.4\bin (我把cudnn解壓后的lib\bin\include直接放到了此路徑同名文件夾里)
3、測試
打開C:\TensorRT-8.2.4.2.Windows10.x86_64.cuda-11.4.cudnn8.2\TensorRT-8.2.4.2\samples\sampleMNIST里的sln
VS里配置,運行即可。
【可能提示缺dll】
C:\TensorRT-8.2.4.2\lib里的dll、lib文件分別復制到cuda目錄的bin、lib/x64中,否則即使把它加入到環境變量,也會提示缺dll。
【推薦學習的博客】