Xavier上TensorRT和Pytorch運行時間對比

跑了一下CenterNet的結果，對比如下：

• Pytorch float數據類型，512x512輸入，11FPS
• Pytorch half數據類型，512x512輸入，16FPS
• TensorRT float數據類型，512x512輸入，15.6FPS
• TensorRT hals數據類型，512x512輸入，21.7FPS

 

TensorRT的效果沒有手冊里面說的那么誇張。