原文:tensorflow模型在实际上线进行预测的时候,使用CPU工作

最近已经训练好了一版基于DeepLearning的文本分类模型,TextCNN原理。在实际的预测中,如果默认模型会优先选择GPU那么每一次实例调用,都会加载GPU信息,这会造成很大的性能降低。 那么,在使用的过程中我们无关乎使用GPU还是CPU,使用CPU反而是很快的,所以在有GPU的服务器部署模型,代码之前加入os.environ CUDA VISIBLE DEVICES ,这样事情就好解决了。 ...

2019-02-21 17:17 0 912 推荐指数:

查看详情

使用Tensorflow模型进行量化

本文旨在将迁移学习训练好的模型基于tensorflow工具进行量化。 环境配置及迁移学习部分可参考博文[https://www.cnblogs.com/hayley111/p/12887853.html]。 首先使用如下workflow理解模型部署的过程,本文主要描述的是quant这一步 ...

Wed Jun 03 23:01:00 CST 2020 0 1291
Tensorflow 用训练好的模型预测

本节涉及点: 从命令行参数读取需要预测的数据 从文件中读取数据进行预测 从任意字符串中读取数据进行预测 一、从命令行参数读取需要预测的数据 训练神经网络是让神经网络具备可用性,真正使用神经网络时,需要对新的输入数据进行预测, 这些输入数据 不像训练数据那样是有目标值 ...

Sat Oct 12 01:07:00 CST 2019 0 4574
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM