keras_1_Keras_Model簡介

1. keras模型官方實現的Model

1. 在 Keras 中有兩類主要的模型：Sequential 順序模型 和 使用函數式 API 的 Model 類模型。

2. 兩類模型的方法和屬性大致相同：

   • model.layers 是包含模型網絡層的展平列表。

   • model.inputs 是模型輸入張量的列表。

   • model.outputs 是模型輸出張量的列表。

   • model.summary() 打印出模型概述信息。 它是 utils.print_summary 的簡捷調用。

   • model.get_config() 返回包含模型配置信息的字典。通過以下代碼，就可以根據這些配置信息重新實例化模型：

     config = model.get_config()
     model = Model.from_config(config)
     # 或者，對於 Sequential:
     model = Sequential.from_config(config
     

3. 模型保存與恢復

   • 模型的權重

     • model.get_weights() 返回模型中所有權重張量的列表，類型為 Numpy 數組。
     • model.set_weights(weights) 從 Numpy 數組中為模型設置權重。列表中的數組必須與 get_weights() 返回的權重具有相同的尺寸。
     • model.save_weights(filepath) 將模型權重存儲為 HDF5 文件。
     • model.load_weights(filepath, by_name=False): 從 HDF5 文件（由 save_weights 創建）中加載權重。默認情況下，模型的結構應該是不變的。 如果想將權重載入不同的模型（部分層相同，比如pre-training, transfer-learnning）， 設置 by_name=True 來載入那些名字相同的層的權重。

   • 模型的結構

     • model.to_json() 以 JSON 字符串的形式返回模型的表示。請注意，該表示不包括權重，僅包含結構。你可以通過以下方式從 JSON 字符串重新實例化同一模型（使用重新初始化的權重）：

       from keras.models import model_from_json
       
       json_string = model.to_json()
       model = model_from_json(json_string)
       

     • model.to_yaml() 以 YAML 字符串的形式返回模型的表示。請注意，該表示不包括權重，只包含結構。你可以通過以下代碼，從 YAML 字符串中重新實例化相同的模型（使用重新初始化的權重）：

       from keras.models import model_from_yaml
       
       yaml_string = model.to_yaml()
       model = model_from_yaml(yaml_string)
       

   • 注意：另請參閱如何安裝 HDF5 或 h5py 以保存 Keras 模型，在常見問題中了解如何安裝 h5py 的說明。

2. Model子類

1. 除了上述Model下面官方的sequential和函數式自定義的Model，還可以實現自定義的Model，比如：通過繼承 Model 類並在 call 方法中實現你自己的前向傳播，以創建你自己的完全定制化的模型

2. 一個自定義MLP的例子：

   import keras
   
   class SimpleMLP(keras.Model):
   
       def __init__(self, use_bn=False, use_dp=False, num_classes=10):
           super(SimpleMLP, self).__init__(name='mlp') # ???
           self.use_bn = use_bn
           self.use_dp = use_dp
           self.num_classes = num_classes
   
           self.dense1 = keras.layers.Dense(32, activation='relu')
           self.dense2 = keras.layers.Dense(num_classes, activation='softmax')
           if self.use_dp:
               self.dp = keras.layers.Dropout(0.5)
           if self.use_bn:
               self.bn = keras.layers.BatchNormalization(axis=-1)
   
       def call(self, inputs): # 自定義 froward pass
           x = self.dense1(inputs)
           if self.use_dp:
               x = self.dp(x)
           if self.use_bn:
               x = self.bn(x)
           return self.dense2(x)
   
   model = SimpleMLP()
   model.compile(...)
   model.fit(...)
   

   • 網絡層定義在 __init__(self, ...) 中，前向傳播在 call(self, inputs) 中指定。在 call 中，你可以指定自定義的損失函數，通過調用 self.add_loss(loss_tensor) （就像你在自定義層中一樣）。
   • 在子類模型中，模型的拓撲結構是由 Python 代碼定義的（而不是網絡層的靜態圖）。這意味着該模型的拓撲結構不能被檢查或序列化。因此，以下方法和屬性不適用於子類模型：
     • model.inputs 和 model.outputs。
     • model.to_yaml() 和 model.to_json()。
     • model.get_config() 和 model.save()
   • 關鍵點：為每個任務使用正確的 API。Model 子類化 API 可以為實現復雜模型提供更大的靈活性，但它需要付出代價（比如缺失的特性）：它更冗長，更復雜，並且有更多的用戶錯誤機會。如果可能的話，盡可能使用函數式 API，這對用戶更友好。