高斯判别分析模型（ Gaussian discriminant analysis）及Python实现
高斯判别分析模型（ Gaussian discriminant analysis）及Python实现 http://www.cnblogs.com/sumai 1.模型 高斯判别分析模型是一种生成模型，而之前所提到的逻辑回归是一种判别模型，生成模型和判别模型的详细了解可参考 ...
原文：高斯判别分析模型
对于常见的分类算法，经常用到的都是判别学习算法，如 logistic二元分类器，还有softmax分类器等。它们都有一个共同的特点，那就是我们直接去求 p y x , 有时候也表示为 h x ，这类方法的重点是去拟合参数 。 还有一种算法：生成学习算法。它的中心思想是直接去求p y x 很难,然后转而去求 p x y 与p y , 然后利用贝叶斯公式得到：p y x p x y p y p x 。 ...
2016-12-04 21:06 0 2839 推荐指数：
相关推荐
[监督学习]GDA 高斯判别分析
高斯判别分析（Gaussian discriminative analysis ）是一个较为直观的模型，基本的假设是我们得到的数据是独立同分布的(IID)，虽然在实际中这种假设很难达到，但有时候拥有了好的假设可以得到较好的结果。在Andrew Ng大神的CS229 Lecture notes ...
判别分析
实际意义 判别分析于聚类分析的功能差不多，区别在于，聚类分析之前，没有人知道具体的是怎么分的类，分了哪几大类。而判别分析是已经把类别给分好，要做的是把没有分好类的数据观测，按照之前分好的类再进行分类。这里不同于生活中常见的分类先有具体的分类逻辑（这里叫做判别函数）。所以判别分的难点在于先由分好类 ...
斯坦福机器学习实现与分析之五（高斯判别分析）
高斯判别分析（GDA）简介 首先，高斯判别分析的作用也是用于分类。对于两类样本，其服从伯努利分布，而对每个类中的样本，假定都服从高斯分布，则有: \( y\;\sim\;Bernouli(\phi) \) \( x|y=0\;\sim\;N(\mu_0, \Sigma ...
线性判别分析LDA
首先搞清楚什么叫判别分析？Discriminant Analysis就是根据研究对象的各种特征值判别其类型归属问题的一种多变量统计分析方法。 根据判别标准不同，可以分为距离判别、Fisher判别、Bayes判别法等。比如在KNN中用的就是距离判别，当然这里的“距离”又有好几种：欧氏距离、街区距离 ...
LDA 线性判别分析
LDA, Linear Discriminant Analysis，线性判别分析。注意与LDA（Latent Dirichlet Allocation，主题生成模型）的区别。 1、引入 上文介绍的PCA方法对提取样本数据的主要变化信息非常有效，而忽略了次要变化的信息。在有些情况下，次要信息 ...
线性判别分析（LDA）
线性判别分析 线性判别分析(linear discriminant analysis，LDA)是对费舍尔的线性鉴别方法的归纳，这种方法使用统计学，模式识别和机器学习方法，试图找到两类物体或事件的特征的一个线性组合，以能够特征化或区分它们。所得的组合可用来作为一个线性分类器，或者，更常见 ...
机器学习之朴素贝叶斯及高斯判别分析
1判别模型与生成模型 上篇报告中提到的回归模型是判别模型，也就是根据特征值来求结果的概率。形式化表示为，在参数确定的情况下，求解条件概率。通俗的解释为在给定特征后预测结果出现的概率。 比如说要确定一只羊是山羊还是绵羊，用判别模型的方法是先从历史数据中学习到模型，然后通过提取 ...