1. 前言 線性回歸形式簡單、易於建模，但卻蘊涵着機器學習中一些重要的基本思想。許多功能更為強大的非線性模型(nonlinear model)可在線性模型的基礎上通過引入層級結構或高維映射而得。此外 ...

概述 今天要說一下機器學習中大多數書籍第一個講的（有的可能是KNN）模型-線性回歸。說起線性回歸，首先要介紹一下機器學習中的兩個常見的問題：回歸任務和分類任務。那什么是回歸任務和分 ...

線性回歸 Ridge 回歸 （嶺回歸） Ridge 回歸用於解決兩類問題：一是樣本少於變量個數，二是變量間存在共線性 RidgeCV:多個阿爾法，得出多個對應最佳的 ...

前言 近年來AI人工智能成為社會發展趨勢，在IT行業引起一波熱潮，有關機器學習、深度學習、神經網絡等文章多不勝數。從智能家居、自動駕駛、無人機、智能機器人到人造衛星、安防軍備，無論是國家級軍事設備還 ...

1. EM算法-數學基礎 2. EM算法-原理詳解 3. EM算法-高斯混合模型GMM 4. EM算法-GMM代碼實現 5. EM算法-高斯混合模型+Lasso 1. 前言 前面幾篇博文對 ...

一.過擬合 建模的目的是讓模型學習到數據的一般性規律，但有時候可能會學過頭，學到一些噪聲數據的特性，雖然模型可以在訓練集上取得好的表現，但在測試集上結果往往會變差，這時稱模型陷入了過擬合，接下來造一 ...

1. 前言 我們之前有介紹過4. EM算法-高斯混合模型GMM詳細代碼實現，在那片博文里面把GMM說涉及到的過程，可能會遇到的問題，基本講了。今天我們升級下，主要一起解析下EM算法中GMM（搞事混合 ...

多元線性回歸模型中，如果所有特征一起上，容易造成過擬合使測試數據誤差方差過大；因此減少不必要的特征，簡化模型是減小方差的一個重要步驟。除了直接對特征篩選，來也可以進行特征壓縮，減少某些不重要的特征系數 ...