tensorRT（一）| tensorRT如何進行推理加速？（建議收藏）

​ 本文來自公眾號“AI大道理”。 ​ 深度學習模型在訓練階段，為了保證前后向傳播，每次梯度的更新是很微小的，這時候需要相對較高的進度，一般來說需要float型，如FP32。 模型在推斷（ ...