一、邏輯回歸 1) Classification(分類) 分類問題舉例： 郵件：垃圾郵件/非垃圾郵件？ 在線交易：是否欺詐（是/否）？ 腫瘤：惡性/良性？ 以上問題可以稱之為二分類問題，可以用如下形式定義： 其中0稱之為負例，1稱之為正例。 對於多分類問題 ...

第三章 使用sklearn 實現機學習的分類算法 分類算法 分類器的性能與計算能力和預測性能很大程度上取決於用於模型訓練的數據 訓練機器學習算法的五個步驟： 特征的選擇 ...

本文是Andrew Ng在Coursera的機器學習課程的筆記。 Logistic回歸屬於分類模型。回顧線性回歸，輸出的是連續的實數，而Logistic回歸輸出的是[0,1]區間的概率值，通過概率值來判斷因變量應該是1還是0。因此，雖然名字中帶着“回歸”（輸出范圍常為連續實數 ...

回歸與梯度下降 回歸在數學上來說是給定一個點集，能夠用一條曲線去擬合之，如果這個曲線是一條直線，那就被稱為線性回歸，如果曲線是一條二次曲線，就被稱為二次回歸，回歸還有很多的變種，如locally weighted回歸，logistic回歸 ...

梯度下降法 梯度下降法（英語：Gradient descent）是一個一階最優化算法，通常也稱為最速下降法。 要使用梯度下降法找到一個函數的局部極小值，必須向函數上當前點對應梯度（或者是近似梯度）的反方向的規定步長距離點進行迭代搜索。如果相反地向梯度正方向迭代進行搜索，則會接近函數的局部極大值點 ...

一個典型的機器學習的過程，首先給出一組輸入數據X，我們的算法會通過一系列的過程得到一個估計的函數，這個函數有能力對沒有見過的新數據給出一個新的估計Y，也被稱為構建一個模型。 我們用X1、X2...X ...

通過學習斯坦福公開課的線性規划和梯度下降，參考他人代碼自己做了測試，寫了個類以后有時間再去擴展，代碼注釋以后再加，作業好多： 　　　　　　　　　　圖1. 迭代過程中的誤差cost ...

看了coursea的機器學習課，知道了梯度下降法。一開始只是對其做了下簡單的了解。隨着內容的深入，發現梯度下降法在很多算法中都用的到，除了之前看到的用來處理線性模型，還有BP神經網絡等。於是就有了這篇文章。 本文主要講了梯度下降法的兩種迭代思路，隨機梯度下降（Stochastic ...