判別式模型與生成式模型的區別

生成式模型(Generative Model)與判別式模型(Discrimitive Model)是分類器常遇到的概念，它們的區別在於：

　　對於輸入x，類別標簽y：
　　生成式模型估計它們的聯合概率分布P(x,y)
　　判別式模型估計條件概率分布P(y|x)

　　生成式模型可以根據貝葉斯公式得到判別式模型，但反過來不行。

Andrew Ng在NIPS2001年有一篇專門比較判別模型和生成式模型的文章：
On Discrimitive vs. Generative classifiers: A comparision of logistic regression and naive Bayes

(http://robotics.stanford.edu/~ang/papers/nips01-discriminativegenerative.pdf)

 

判別式模型常見的主要有：

　　邏輯回歸           　　Logistic Regression 

　　支持向量機       　　SVM 

　　神經網絡           　　NN 

　　傳統神經網絡    　　Traditional Neural Networks 

　　鄰近取樣           　　Nearest Neighbor 

　　條件隨機場        　　CRF 

　　線性判別分析     　　Linear Discriminant Analysis 

　　提升算法            　　Boosting 

　　線性回歸            　　Linear Regression 

　　邏輯斯蒂回歸　 　　Logistic Regression 

　　高斯過程　　    　　Gaussian Process 

　　分類回歸樹　　　　Classification and Regression Tree (CART)

　　區分度訓練　　　　

 生成式模型常見的主要有：

        高斯　　   　　　　Gaussians

        朴素貝葉斯　　 　  Naive Bayes

        混合多項式　　　　Mixtures of Multinomials

        混合高斯模型　　   Mixtures of Gaussians

        多專家模型　　　　Mixtures of Experts

        隱馬爾科夫模型　　HMM

　　 S型信念網絡　　　  Sigmoidal Belief Networks

　　 貝葉斯網絡　　　　 Bayesian Networks

　　 馬爾科夫隨機場　　 Markov Random Fields

　　 潛在狄利克雷分配　 Latent Dirichlet Allocation(LDA)

        判別式分析

　　 K近鄰　　　　　　  KNN

 　　深度信念網絡　　　 DBN

鏈接：https://www.nowcoder.com/questionTerminal/12a74c2872d74842819d94ccda7368bc?toCommentId=184277
來源：牛客網