參考：tensorflow中的batch_norm以及tf.control_dependencies和tf.GraphKeys.UPDATE_OPS的探究 1. Batch Normalization 對卷積層來說，批量歸一化發生在卷積計算之后、應用激活函數之前。訓練階段：如果卷積計算 ...

1. 池化層 在卷積網絡中， 通常會在卷積層之間增加池化（Pooling） 層， 以降低特征圖的參數量， 提升計算速度， 增加感受野， 是一種降采樣操作。池化是一種較強的先驗， 可以使模型更關注全局特征而非局部出現的位置， 這種降維的過程可以保留一些重要的特征信息， 提升容錯能力 ...

相關包導入 數據集預處理思路 四種天氣數據集的所有圖像放在同一個文件夾下，並以天氣類型和圖像序號為文件名 四種天氣分別是：cloudy、rain、shine、sunrise ImageFold ...

於深度學習的各個地方，由於在實習過程中需要修改網絡，修改的網絡在訓練過程中無法收斂，就添加了BN層進去 ...

一、全連接層 　　tensorflow中用tf.keras.layers.Dense()這個類作為全連接的隱藏層，下面是參數介紹： 　　tf.keras.layers.Dense() inputs = 64, # 輸入該網絡層的數據 units = 10, # 輸出的維度大小 ...

全連接層加dropout層防止模型過擬合，提升模型泛化能力 卷積網絡中參數較少，加入dropout作用甚微。然而，較低層的中加入dropout是仍然有幫助，因為它為較高的全連接層提供了噪聲輸入，從而防止它們過擬合。 一般對於參數較多的模型，效果更好 做法 1、其實Dropout很容易實現 ...

進程切換 •進程切換指從正在運行的進程中收回處理器，讓待運行進程來占有處理器運行 •進程切換實質上就是被中斷運行進程與待運行進程的上下文切換，處理過程是： 　　•保存被中斷進程的上下文 　　•轉向進程調度 　　•恢復待運行進程的上下文 模式切換 •進程切換必須在操作系統內核模式 ...

內核態和用戶態的切換： 用戶態到內核態的轉換：1、進行系統調用，2、異步中斷，3、外部硬件中斷 檢查特權級別的變化：當異常發生在用戶態，而異常處理函數則必須運行在內核態，則此時必須調用內核態的堆棧（系統調用必然是發生特權級的變化），步驟是，將進程的TSS段中的esp0和ss0賦值給esp，ss ...