1.mixup原理介紹 mixup 論文地址 mixup是一種非常規的數據增強方法，一個和數據無關的簡單數據增強原則，其以線性插值的方式來構建新的訓練樣本和標簽。最終對標簽的處理如下公式所示，這很簡 ...

pytorch避免過擬合-權重衰減的實現 首先學習基本的概念背景 L0范數是指向量中非0的元素的個數；(L0范數難優化求解) L1范數是指向量中各個元素絕對值之和； L2范數是指向量各元素的平方和然后求平方根。 權重衰減等價於 L2范數正則化（regularization）。正則化通過為模型 ...

背景知識 最近再看一些量化交易相關的材料，偶然在網上看到了一個關於用RNN實現股票預測的文章，出於好奇心把文章中介紹的代碼在本地跑了一遍，發現可以work。於是就花了兩個晚上的時間學習了下代碼，順便把核心的內容翻譯成中文分享給大家。 首先講講對於股票預測的理解，股票是一種可以輕易用數字 ...

參考：Keras 中文文檔 參考：開始使用 Keras Sequential 順序模型 　　Keras 的核心數據結構是 model，一種組織網絡層的方式。最簡單的模型是 Sequential 順序模型，它由多個網絡層線性堆疊。對於更復雜的結構，你應該使用 Keras 函數式 API ...

目錄 理論介紹 什么是分類 分類的步驟 什么是決策樹 決策樹歸納 信息增益 相關理論基礎 計算公式 ID3 C4.5 python實現 參考資料 ...

過的損失函數，例如線性回歸用到的平方損失函數和softmax回歸用到的交叉熵損失函數。 機器學習模型 ...

一、深層神經網絡 深層神經網絡的符號與淺層的不同，記錄如下： 用\(L\)表示層數,該神經網絡\(L=4\) \(n^{[l]}\)表示第\(l\)層的神經元的數量，例如\(n^{[1]}=n^{[2]}=5,n^{[3]}=3,n^{[4]}=1\) \(a^{[l ...

過擬合和欠擬合是在網絡訓練中常常碰到的問題 過擬合（overfit）：訓練誤差小，但是對於測試集上的誤差很大。可能模型過於復雜，訓練中只”記住”了訓練樣本，然而其泛化誤差卻很高。 欠擬合（underfit）：訓練誤差很大，無法找到合適的函數描述數據集 下面介紹這兩種情況下 ...