深度學習Tensorflow生產環境部署(上·環境准備篇)
最近在研究Tensorflow Serving生產環境部署,尤其是在做服務器GPU環境部署時,遇到了不少坑。特意總結一下,當做前車之鑒。 1 系統背景 系統是ubuntu16.04 或者 顯卡是Tesla的P40 TensorFlow則是當下最新的1.12.0版本 ...
最近在研究Tensorflow Serving生產環境部署,尤其是在做服務器GPU環境部署時,遇到了不少坑。特意總結一下,當做前車之鑒。 1 系統背景 系統是ubuntu16.04 或者 顯卡是Tesla的P40 TensorFlow則是當下最新的1.12.0版本 ...
前一篇講過環境的部署篇,這一次就講講從代碼角度如何導出pb模型,如何進行服務調用。 1 hello world篇 部署完docker后,如果是cpu環境,可以直接拉取tensorflow/serving,如果是GPU環境則麻煩點,具體參考前一篇,這里就不再贅述了。 cpu版本 ...