最近尝试使用onnx来部署torch模型，发现还是有一些坑的：
1、尽量使用经典模型结构，模型的输入不要增加内容（比如bert的输入增加一个label_ids），这会导致onnx模型的输入无法识别label_ids
解决方法：如果模型魔改又需要部署，那只能自己写导出为onnx的代码了
2、使用别的包的时候(如torchcrf包中的crf函数)，onnx的推理结构可能无法识别这个函数，然后我们就无法调用该函数
免责声明！
本站转载的文章为个人学习借鉴使用，本站对版权不负任何法律责任。如果侵犯了您的隐私权益，请联系本站邮箱yoyou2525@163.com删除。