一、什么是softmax？ 有一個數組S，其元素為Si ，那么vi 的softmax值，就是該元素的指數與所有元素指數和的比值。具體公式表示為： softmax回歸本質上也是一種對數據的估計 ...

數據增強 1.基本概念 2.常用增強方法 3.疊加使用 1.基本概念 圖像增廣（image augmentation）技術通過對訓練圖像做一系列隨機改變，來產生相似但又不同的訓練樣本，從 ...

task0101.線性回歸 優化函數 - 隨機梯度下降 當模型和損失函數形式較為簡單時，上面的誤差最小化問題的解可以直接用公式表達出來。這類解叫作解析解（analytical solution ...

Transformer代碼實現 1.Masked softmax 2.Multi heads attention 3.Position wise FFN 4.Add and Norm 5.Posit ...

文本情感分類 1.文本情感分類數據集 2.使用循環神經網絡進行情感分類 3.使用卷積神經網絡進行情感分類 1.文本情感分類數據 在本中，將應用預訓練的詞向量和含多個隱藏層的雙向循環神 ...

一、介紹 word2vec是Google於2013年推出的開源的獲取詞向量word2vec的工具包。它包括了一組用於word embedding的模型，這些模型通常都是用淺層（兩層）神經網絡訓練詞向量。 Word2vec的模型以大規模語料庫作為輸入，然后生成一個向量空間（通常為幾百維 ...

在學習pytorch版本的深度學習中，大多會因為這個包困擾，如果直接安裝d2lzh包，在后期使用中會導致某些函數無法實現。因此仍舊需要安裝d2lzh_pytorch'd2lzh_pytorch'下載傳送門，下載解壓后，直接放入包文件里即可。 我的文件路徑，可參考一下 ...

多層感知機 隱藏層 激活函數 小結 多層感知機 之前已經介紹過了線性回歸和softmax回歸在內的單層神經網絡，然后深度學習主要學習多層模型，后續將以多層感知機(mu ...