一、歸一化簡介 在對數據進行預處理時，經常要用到歸一化方法。 在深度學習中，將數據歸一化到一個特定的范圍能夠在反向傳播中獲得更好的收斂。如果不進行數據標准化，有些特征（值很大）將會對損失函數影響更大，使得其他值比較小的特征的重要性降低。因此 數據標准化可以使得每個特征的重要性更加均衡。 公式 ...

批量歸一化 在對神經網絡的優化方法中，有一種使用十分廣泛的方法——批量歸一化，使得神經網絡的識別准確度得到了極大的提升。 在網絡的前向計算過程中，當輸出的數據不再同一分布時，可能會使得loss的值非常大，使得網絡無法進行計算。產生梯度爆炸的原因是因為網絡的內部協變量轉移，即正向傳播的不同層參數 ...

激活函數的作用如下-引用《TensorFlow實踐》： 這些函數與其他層的輸出聯合使用可以生成特征圖。他們用於對某些運算的結果進行平滑或者微分。其目標是為神經網絡引入非線性。曲線能夠刻畫出輸入的復雜的變化。TensorFlow提供了多種激活函數，在CNN中一般使用tf.nn.relu的原因是 ...

在深度學習章節里，已經介紹了批量歸一化的概念，詳情請點擊這里：第九節，改善深層神經網絡：超參數調試、正則化以優化(下) 神經網絡在進行訓練時,主要是用來學習數據的分布規律,如果數據的訓練部分和測試部分分布不一樣,那么網絡的泛化能力會變得非常差.而且對於訓練的數據,每批分布也是不一樣的,那么網絡 ...

之前已經看到了用直方圖來顯示數據集的重要性，以便分析圖表形狀，我們想要分析該形狀，這樣就可以嚴謹地思考平均值、中位數和眾數並描述數據集，在偏態分布中平均值、中位數和眾數各不相同，在很多情況下，中位數可 ...

函數(續) Normalize 根據某種范數或者數值范圍歸一化數組. void cvNorm ...

本人人工智能初學者，現在在學習TensorFlow2.0，對一些學習內容做一下筆記。筆記中，有些內容理解可能較為膚淺、有偏差等，各位在閱讀時如有發現問題，請評論或者郵箱（右側邊欄有郵箱地址）提醒。 若有小伙伴需要筆記的可復制的html或ipynb格式文件，請評論區留下你們的郵箱，或者郵箱（右側 ...

.caret, .dropup > .btn > .caret { border-top-color: #000 !important ...