編者注：本文采用梯度下降法來求解的logistic回歸，關於其思想以及編程原理見本人之前文章《梯度下降法求解線性回歸的python實現及其結果可視化》（https://zhuanlan.zhihu.com/p/30562194），在這里不再贅述。 01 非線性決策邊界 ...

git：https://github.com/linyi0604/MachineLearning 通過比較 經過正則化的模型 泛化能力明顯的更好啦 ...

#對coursera上Andrew Ng老師開的機器學習課程的筆記和心得； #注:此筆記是我自己認為本節課里比較重要、難理解或容易忘記的內容並做了些補充，並非是課堂詳細筆記和要點； #標記為<補充>的是我自己加的內容而非課堂內容，參考文獻列於文末。博主能力有限，若有錯誤，懇請指正； #------------------------------------------------ ...

注：正則化是用來防止過擬合的方法。在最開始學習機器學習的課程時，只是覺得這個方法就像某種魔法一樣非常神奇的改變了模型的參數。但是一直也無法對其基本原理有一個透徹、直觀的理解。直到最近再次接觸到這個概念，經過一番苦思冥想后終於有了我自己的理解。 0. 正則化（Regularization ...

呢 二.正則化 可以看到，僅僅加入了幾個很離譜的異常點，就會對預測產生很大的影響，且偏離很遠 ...

本文根據水庫中蓄水標線(water level) 使用正則化的線性回歸模型預 水流量(water flowing out of dam)，然后 debug 學習算法 以及 討論偏差和方差對 該線性回歸模型的影響。 ①可視化數據集 本作業的數據集分成三部分： ⓐ訓練集(training ...

到現在為止，我們已經學習了幾種不同的學習算法，包括線性回歸和邏輯回歸，它們能夠有效地解決許多問題，但是當將它們應用到某些特定的機器學習應用時，會遇到過擬合(over-fitting)的問題，可能會導致它們效果很差。 一：過度擬合問題 （一）線性回歸中的過擬合問題 繼續使用線性回歸來預測房價 ...

前言 由於本部分內容講解資源較多，本文不做過多敘述，重點放在實際問題的應用上。 一、線性回歸 線性回歸中的線性指的是對於參數的線性的，對於樣本的特征不一定是線性的。 線性模型（矩陣形式）：y=XA+e 其中：A為參數向量，y為向量，X為矩陣,e為噪聲向量。 對於線性模型 ...