tensorRT（一）| tensorRT如何进行推理加速？（建议收藏）

​ 本文来自公众号“AI大道理”。 ​ 深度学习模型在训练阶段，为了保证前后向传播，每次梯度的更新是很微小的，这时候需要相对较高的进度，一般来说需要float型，如FP32。 模型在推断（ ...