Index 數據采樣的原因 常見的采樣算法 失衡樣本的采樣 0 2 數據采樣的原因 其實我們在訓練模型的過程，都會經常進行數據采樣，為了就是讓我們的模型可以更好的去學習數據的特征，從而讓效果更佳。但這是比較淺層的理解，更本質上，數據采樣就是對隨機現象的模擬，根據給定的概率分布從而模擬一個 ...

機器學習中常用的三種方法 一、總結 一句話總結： a、人工神經網絡（Artificial Neural Network, ANN） b、決策樹算法：樹中的每一個節點表示對象屬性的判斷條件，其分支表示符合節點條件的對象。樹的葉子節點表示對象所屬的預測結果。 c、支持向量機（support ...

1. 過采樣和欠采樣 這是兩種解決分類訓練過程中數據量不平衡的采樣方法 拿二分類舉例，期望陽性樣本數量：陰性樣本數量 = 1：1，但實際上陽性樣本數量：陰性樣本數量 = 1000：100 過采樣 將100數據復制10份，達到兩個樣本數量之比為1000：1000 欠采樣 將1000數據 ...

1.決策樹算法 　　決策樹是一種樹形分類結構，一棵決策樹由內部結點和葉子結點構成，內部結點代表一個屬性（或者一組屬性），該結點的孩子代表這個屬性的不同取值；葉子結點表示一個類標。決策樹保證每一個實例 ...

在機器學習中，有很多的問題並沒有解析形式的解，或者有解析形式的解但是計算量很大（譬如，超定問題的最小二乘解），對於此類問題，通常我們會選擇采用一種迭代的優化方式進行求解。 這些常用的優化算法包括：梯度下降法（Gradient Descent），共軛梯度法 ...

機器學習之類別不平衡問題 (1) —— 各種評估指標 機器學習之類別不平衡問題 (2) —— ROC和PR曲線 機器學習之類別不平衡問題 (3) —— 采樣方法 完整代碼 前兩篇主要談類別不平衡問題的評估方法，重心放在各類評估指標以及ROC和PR曲線上，只有在明確了這些后 ...

0x00 概述 在數據挖掘中，我們經常需要計算樣本之間的相似度，通常的做法是計算樣本之間的距離。 在本文中，數據科學家 Maarten Grootendorst 向我們介紹了 9 種距離度量方法，其中包括歐氏距離、余弦相似度等。 許多算法，無論是監督學習還是無監督學習，都會使用距離度量 ...

1. 激活函數 1.1 各激活函數曲線對比 常用激活函數： 1.2 各激活函數優缺點 sigmoid函數 優點：在於輸出映射在（0，1）范圍內，單調連續，適合用作輸出層，求導容易 缺點：一旦輸入落入飽和區，一階導數接近0，就可能產生 ...