深度学习Tensorflow生产环境部署(上·环境准备篇)
最近在研究Tensorflow Serving生产环境部署,尤其是在做服务器GPU环境部署时,遇到了不少坑。特意总结一下,当做前车之鉴。 1 系统背景 系统是ubuntu16.04 或者 显卡是Tesla的P40 TensorFlow则是当下最新的1.12.0版本 ...
最近在研究Tensorflow Serving生产环境部署,尤其是在做服务器GPU环境部署时,遇到了不少坑。特意总结一下,当做前车之鉴。 1 系统背景 系统是ubuntu16.04 或者 显卡是Tesla的P40 TensorFlow则是当下最新的1.12.0版本 ...
前一篇讲过环境的部署篇,这一次就讲讲从代码角度如何导出pb模型,如何进行服务调用。 1 hello world篇 部署完docker后,如果是cpu环境,可以直接拉取tensorflow/serving,如果是GPU环境则麻烦点,具体参考前一篇,这里就不再赘述了。 cpu版本 ...