一、基本方法

1.1 保存

定義變量
使用saver.save()方法保存

import tensorflow as tf
import numpy as np
W = tf.Variable([[1,1,1],[2,2,2]],dtype = tf.float32,name='w')
b = tf.Variable([[0,1,2]],dtype = tf.float32,name='b')

init = tf.initialize_all_variables()
saver = tf.train.Saver()
with tf.Session() as sess:
    sess.run(init)
    save_path = saver.save(sess,"save/model.ckpt")

1.2 載入

定義變量
使用saver.restore()方法載入

import tensorflow as tf
import numpy as np
W = tf.Variable(tf.truncated_normal(shape=(2,3)),dtype = tf.float32,name='w')
b = tf.Variable(tf.truncated_normal(shape=(1,3)),dtype = tf.float32,name='b')

saver = tf.train.Saver()
with tf.Session() as sess:
    saver.restore(sess,"save/model.ckpt")

1.3 說明

1）創建saver時，可以指定需要存儲的tensor，如果沒有指定，則全部保存；

2）默認情況下：saver.save(sess,"save/model.ckpt")產生4個文件：

checkpoint文件保存最新的模型；

model.ckpt.data 以字典的形式保存權重偏置項等訓練參數

model.ckpt.index：存儲訓練好的參數索引

model.ckpt.meta : 元文件(meta) 中保存了MetaGraphDef 的持久化數據，即模型數據，計算圖的網絡結構信息，完整的graph、variables、operation、collection。

3）如何知道tensor的名字，最好是定義tensor的時候就指定名字，如上面代碼中的name='w'，如果你沒有定義name，tensorflow也會設置name，只不過這個name就是根據你的tensor或者操作的性質。所以最好還是自己定義好name。

【說明：這種方法不方便的在於，在使用模型的時候，必須把模型的結構重新定義一遍，然后載入對應名字的變量的值。但是很多時候我們都更希望能夠讀取一個文件然后就直接使用模型，而不是還要把模型重新定義一遍。所以就需要使用另一種方法。】

二、不需重新定義網絡結構的方法

tf.train.import_meta_graph

import_meta_graph(

meta_graph_or_file,

clear_devices=False,

import_scope=None,

**kwargs

)

這個方法可以從文件中將保存的graph的所有節點加載到當前的default graph中，並返回一個saver。也就是說，我們在保存的時候，除了將變量的值保存下來，其實還有將對應graph中的各種節點保存下來，所以模型的結構也同樣被保存下來了。

比如我們想要保存計算最后預測結果的y，則應該在訓練階段將它添加到collection中。具體代碼如下：

2.1 保存

和1.1一樣，保持不變

2.2 載入

import tensorflow as tf
import numpy as np
# W = tf.Variable(tf.truncated_normal(shape=(2,3)),dtype = tf.float32,name='w')
# b = tf.Variable(tf.truncated_normal(shape=(1,3)),dtype = tf.float32,name='b')

# saver = tf.train.Saver()
with tf.Session() as sess:
    new_saver = tf.train.import_meta_graph("save/model.ckpt.meta")
    new_saver.restore(sess, "save/model.ckpt")

【個人理解：model.ckpt.meta : 保存了TensorFlow計算圖的網絡結構信息，import_meta_graph("save/model.ckpt.meta")這句拉取了結構，故不用重新定義。】

三、saved_model方式

實現了 (y = x + b)當輸入一個x 那么輸出的結果y就等於輸入x加上b。

3.1 保存

# Author:yifan
import os
import tensorflow as tf # 以下所有代碼默認導入
from tensorflow.python.saved_model.signature_def_utils_impl import predict_signature_def
# 保存模型路徑
PATH = './models'
# 創建一個變量
one = tf.Variable(3.0)
# 創建一個占位符,在 Tensorflow 中需要定義 placeholder 的 type ，一般為 float32 形式
num = tf.placeholder(tf.float32,name='input')
# 創建一個加法步驟,注意這里並沒有直接計算
sum = tf.add(num,one,name='output')
# 初始化變量，如果定義Variable就必須初始化
init = tf.global_variables_initializer()
# 創建會話sess
with tf.Session() as sess:
	sess.run(init)
	print(sess.run(sum, feed_dict={num: 5.0}))
	# #保存SavedModel模型，使用以下三句
	builder = tf.saved_model.builder.SavedModelBuilder(PATH)
	signature = predict_signature_def(inputs={'input':num}, outputs={'output':sum})
	builder.add_meta_graph_and_variables(sess,[tf.saved_model.tag_constants.SERVING],signature_def_map={'predict': signature})
	builder.save()

說明：

tf.saved_model.builder.SavedModelBuilder：該方法的參數是傳入用於保存模型的目錄名，目錄不用預先創建
predict_signature_def：將輸入節點、輸出節點和名字（sig_name）傳入，生成一個簽名對象。傳入的參數為輸入和輸出以及他們的name。
add_meta_graph_and_variables：將簽名加入到模型中
第一個參數傳入的是Session它包含了當前graph(圖)和Variables(變量)。
第二個參數是給當前需要保存的MetaGraph 一個標簽，標簽名可以自定義，在之后載入模型的時候，需要根據這個標簽名去查找對應的MetaGraphDef，找不到就會報如 RuntimeError: MetaGraphDef associated with tags 'foo' could not be found in SavedModel這樣的錯。

---- 標簽也可以選用系統定義好的參數，tf.saved_model.tag_constants.SERVING與 tf.saved_model.tag_constants.TRAINING等。

運行結果：8.0，和保存的模型：

執行完成后會在當前項目的目錄下生成models文件夾，里面包含variables文件夾以及saved_model.pb文件。
variables保存所有變量信息，
saved_model.pb用於保存模型結構等信息，含圖形結構。

注意：當前目錄下不可以存在models文件夾，否則會報錯。

3.2 載入

# Author:yifan
import tensorflow as tf # 以下所有代碼默認導入
PATH = './models'
with tf.Session() as sess:
  tf.saved_model.loader.load(sess, ["serve"], PATH) 
#一種載入變量的方式：
  in_x =tf.saved_model.loader.load(sess, ["serve"], PATH).signature_def['predict'].inputs['input'].name
#另一種載入變量的方式：
# in_x = sess.graph.get_tensor_by_name('input:0')     #加載輸入變量
  y = sess.graph.get_tensor_by_name('output:0')       #加載輸出變量
  scores = sess.run(y, feed_dict={in_x: 3.})
  print(scores)

說明：

tf.saved_model.loader.load方法加載模型，第二個參數["serve"]為TAG標簽與存模型時候指定的字段相同（tf.saved_model.tag_constants.SERVING = "serve"，本文中調用了tf的定義），第三個參數為模型路徑；
tf.saved_model.loader.load(sess, ["serve"], PATH).signature_def['predict'].inputs['input'].name：用signature_def方法從導入的模型中提取簽名。和3）作用是一樣的。
sess.graph.get_tensor_by_name：加載輸入輸出變量，注意這里的變量name都需要加上":0"，如"input"變為"input:0"
最后像之前那樣sess.run()，feed喂入數據，這里輸入了個3.0。

結果：6.0