原文:機器學習中的數學-線性判別分析(LDA)

前言在之前的一篇博客機器學習中的數學 PCA的數學原理中深入講解了,PCA的數學原理。談到PCA就不得不談LDA,他們就像是一對孿生兄弟,總是被人們放在一起學習,比較。這這篇博客中我們就來談談LDA模型。由於水平有限,積累還不夠,有不足之處還望指點。下面就進入正題吧。 為什么要用LDA前面的博客提到PCA是常用的有效的數據降維的方法,與之相同的是LDA也是一種將數據降維的方法。PCA已經是一種表現 ...

2019-08-22 14:03 0 510 推薦指數:

查看詳情

機器學習筆記 線性判別分析

之前簡要地介紹了一下線性判別函數的的基本性質,接下來我們進行更加詳細的討論。 文中大部分公式和圖表來自 MLPP 和 PRML 我們將樣本的分布用多元正態分布來近似,為了更加了解這個表達式的含義,我們對協方差矩陣做特征值分解,即Σ = UΛUT 然后將協方差矩陣的逆用同樣方法分解 ...

Mon Oct 05 04:12:00 CST 2015 0 1940
Python機器學習筆記:線性判別分析LDA)算法

預備知識   首先學習兩個概念:   線性分類:指存在一個線性方程可以把待分類數據分開,或者說用一個超平面能將正負樣本區分開,表達式為y=wx,這里先說一下超平面,對於二維的情況,可以理解為一條直線,如一次函數。它的分類算法是基於一個線性的預測函數,決策的邊界是平的,比如直線和平面。一般的方法 ...

Tue May 12 18:44:00 CST 2020 2 627
機器學習降維之線性判別分析

1. LDA描述 線性判別分析(Linear Discriminant Analysis,LDA)是一種有監督學習算法,同時經常被用來對數據進行降維,它是Ronald Disher在1936年發明的,有些資料上也稱位Fisher LDA.LDA是目前機器學習、數據挖掘領域中經典且熱門的一種算法 ...

Fri Jul 19 20:15:00 CST 2019 4 415
機器學習筆記 線性判別分析(上)

前面我們簡要說明了貝葉斯學習的內容。由公式可以看出來,我們假定已經知道了似然概率的密度函數的信息,才能進行后驗概率的預測。但有的時候,這些信息可能是不方便求出來的。因此,密度函數自身的估計問題成為了一個必須考慮的問題。 第一種思考的方法是跳出估計密度函數的問題,直接對樣本集使用線性回歸 ...

Sat Oct 03 02:00:00 CST 2015 0 1772
線性判別分析LDA

、甚至可以用皮爾森相關系數等。朴素貝葉斯分類用的就是Bayes判別法。本文要講的線性判別分析就是用是F ...

Sat Aug 18 01:24:00 CST 2012 3 28805
LDA 線性判別分析

LDA, Linear Discriminant Analysis,線性判別分析。注意與LDA(Latent Dirichlet Allocation,主題生成模型)的區別。 1、引入   上文介紹的PCA方法對提取樣本數據的主要變化信息非常有效,而忽略了次要變化的信息。在有些情況下,次要信息 ...

Thu Aug 13 00:29:00 CST 2015 1 5958
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM