終端部署pytorch模型


pytorch的c++接口官方包名為libpytorch  支持在android 與ios,只要支持c++即可

 

ios: pytorch-》onnx-》coreml->ios

 

android:

pytorch-》onnx-》ncnn-》android

pytorch-》onnx-》tensorflow->android

 

 

部署在服務端:

Flask&django 

nvidia‘s triton

torchserve

 

Torchscript是一種從pytorch代碼創建可序列化和可優化模型的方法

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM