当我们应用统计方法对数据进行分析时，会发现许多分析方法如T检验、方差分析、相关分析以及线性回归等等，都要求数据服从正态分布或近似正态分布，正态分布在机器学习的重要性后期会讲述。上一篇文章用Q-Q图来 ...

据上次博客已经2周多了，一直没写，惭愧。 一、高斯模型简介 首先介绍一下单高斯模型(GSM)和高斯混合模型(GMM)的大概思想。 1.单高斯模型 如题，就 ...

目录 拉格朗日对偶性(Lagrange duality) 1. 从原始问题到对偶问题 2. 弱对偶与强对偶 3. KKT条件 Refer ...

　　核密度估计，或Parzen窗，是非参数估计概率密度的一种。比如机器学习中还有K近邻法也是非参估计的一种，不过K近邻通常是用来判别样本类别的，就是把样本空间每个点划分为与其最接近的K个训练抽样中，占 ...

　　　　 　　极大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。即在频率学派中，参数固定了，预测 值也就固定了。最大后验概率是贝叶斯学派在完全贝叶斯不一定可行后采 ...

感知机（perceptron）是二分类的线性分类模型，输入为实例的特征向量，输出为实例的类别（取+1和-1）。感知机对应于输入空间中将实例划分为两类的分离超平面。感知机旨在求出该超平面，为求 ...

1）输出数据的类型 分类输出的数据类型是离散数据，也就是分类的标签。比如我们前面通过学生学习预测考试是否通过，这里的预测结果是考试通过，或者不通过，这2种离散数据。 回归输出的是连续数据类型。比如 ...

一、前言 这是本人写的第一篇博客，是学习李航老师的《统计学习方法》书以及斯坦福机器学习课Andrew Ng的EM算法课后，对EM算法学习的介绍性笔记，如有写得不恰当或错误的地方，请指出， ...

1.矩阵加减法 2.矩阵数乘 3.矩阵乘法 4.矩阵转置 ...

逻辑斯谛分布 设X是连续随机变量,X服从逻辑斯谛分布是指X服从如下分布函数和密度函数: 其中，为位置参数，> 0 为形状参数。 密度函数f（x）和分布函数F（x）的图形如图所示： ...