一直聽聞Logistic Regression邏輯回歸的大名，比如吳軍博士在《數學之美》中提到，Google是利用邏輯回歸預測搜索廣告的點擊率。因為自己一直對個性化廣告感興趣，於是瘋狂google過邏輯回歸的資料，但沒有一個網頁資料能很好地講清到底邏輯回歸是什么。幸好，在CS229第三節課介紹 ...

稍微了解有監督機器學習的人都會知道，我們先通過訓練集訓練出模型，然后在測試集上測試模型效果，最后在未知的數據集上部署算法。然而，我們的目標是希望算法在未知的數據集上有很好的分類效果（即最低的泛化誤差），為什么訓練誤差最小的模型對控制泛化誤差也會有效呢？這一節關於學習理論的知識就是讓大家知其然也知 ...

SVM被許多人認為是有監督學習中最好的算法，去年的這個時候我就在嘗試學習。不過，面對長長的公式和拗口的中文翻譯最終放棄了。時隔一年，看到Andrew講解SVM，總算對它有了較為完整的認識，總體思路是這樣的：1.介紹間隔的概念並重新定義符號；2.分別介紹functional margins ...

CS229 斯坦福大學機器學習復習材料(數學基礎) - 線性代數 線性代數回顧與參考 1 基本概念和符號 1.1 基本符號 2 矩陣乘法 2.1 向量-向量乘法 ...

Anomaly Detection Problem motivation: 首先描寫敘述異常檢測的樣例：飛機發動機異常檢測 watermark/2/text/ ...

監督學習 對於一個房價預測系統，給出房間的面積和價格，以面積和價格作坐標軸，繪出各個點。 定義符號： \(x_{(i)}\)表示一個輸入特征\(x\)。 \(y_{(i)}\)表示一個輸出目標\(y\)。 \((x_{(i)},y_{(i)})\)表示一個訓練樣本 ...

線性回歸(Linear Regression)，亦稱為直線回歸，即用直線表示的回歸，與曲線回歸相對。若因變量Y對自變量X1、X2…、Xm的回歸方程是線性方程，即μy＝β0 +β1X1 +β2X2 +…βmXm，其中β0是常數項，βi是自變量Xi的回歸系數，M為任何自然數。這時就稱Y對X1、X2 ...