1. 欧氏距离(Euclidean Distance) 欧氏距离是最易于理解的一种距离计算方法，源自欧氏空间中两点间的距离公式。(1)二维平面上两点a(x1,y1)与b(x2,y2)间的欧 ...

一. 近邻搜索 　　从这里开始我将会对LSH进行一番长篇大论。因为这只是一篇博文，并不是论文。我觉得一篇好的博文是尽可能让人看懂，它对语言的要求并没有像论文那么严格，因此它可以有更强的表现力。 ...

在讨论这些概率分布之前，简单说说什么是随机变量（random variable）。随机变量是对一次试验结果的量化。 举个例子，一个表示抛硬币结果的随机变量可以表示成 Pyth ...

1 范数 向量的范数可以简单形象的理解为向量的长度，或者向量到零点的距离，或者相应的两个点之间的距离。 向量的范数定义：向量的范数是一个函数||x||,满足非负性||x|| >= 0，齐次性 ...

在做分类时常常需要估算不同样本之间的相似性度量(Similarity Measurement)，这时通常采用的方法就是计算样本间的“距离”(Distance)。采用什么样的方法计算距离是很讲究，甚至关 ...

核概率密度估计 本文分为三个部分：第一部分是直方图，讨论了如何创建它以及它的属性是什么样的。第二部分是核密度估计，介绍了它对比直方图有哪些改进和更一般性的特点。 最后一部分是，为了从数据中抽取所有 ...

1.潜类别模型概述 潜在类别模型(Latent Class Model, LCM; Lazarsfeld & Henry, 1968)或潜在类别分析(Latent Class Analys ...

我们观测世界，得到了一些数据，我们要从这些数据里面去找出规律来认识世界，一般来说，在概率上我们有一个一般性的操作步骤 1. 观测样本的存在 2. 每个样本之间是独立的 3. 所有样本符合一 ...

EMD（earth mover distance）距离：在计算机科学与技术中，地球移动距离(EMD)是一种在D区域两个概率分布距离的度量，就是被熟知的Wasserstein度量标准。不正式的说，如果两 ...

拉格朗日乘数法（Lagrange multiplier）有很直观的几何意义。举个2维的例子来说明：假设有自变量x和y，给定约束条件g(x,y)=c，要求f(x,y)在约束g下的极值。 我们可 ...