终端部署pytorch模型


pytorch的c++接口官方包名为libpytorch  支持在android 与ios,只要支持c++即可

 

ios: pytorch-》onnx-》coreml->ios

 

android:

pytorch-》onnx-》ncnn-》android

pytorch-》onnx-》tensorflow->android

 

 

部署在服务端:

Flask&django 

nvidia‘s triton

torchserve

 

Torchscript是一种从pytorch代码创建可序列化和可优化模型的方法

 


免责声明!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。



 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM