在机器学习中，我们将模型在训练集上的误差称之为训练误差，又称之为经验误差，在新的数据集（比如测试集）上的误差称之为泛化误差，泛化误差也可以说是模型在总体样本上的误差。对于一个好的模型应该是经验误差约等于泛化误差，也就是经验误差要收敛于泛化误差，根据霍夫丁不等式可知经验误差在一定条件下是可以收敛 ...

0x00 概述 在数据挖掘中，我们经常需要计算样本之间的相似度，通常的做法是计算样本之间的距离。 在本文中，数据科学家 Maarten Grootendorst 向我们介绍了 9 种距离度量方法，其中包括欧氏距离、余弦相似度等。 许多算法，无论是监督学习还是无监督学习，都会使用距离度量 ...

　　损失函数是机器学习中常用于优化模型的目标函数，无论是在分类问题，还是回归问题，都是通过损失函数最小化来求得我们的学习模型的。损失函数分为经验风险损失函数和结构风险损失函数。经验风险损失函数是指预测结果和实际结果的差别，结构风险损失函数是指经验风险损失函数加上正则项。通常 ...

损失函数是用来估量你模型的预测值f(x)与真实值Y的不一致程度，它是一个非负实值函数,通常使用L(Y, f(x))来表示，损失函数越小，模型的鲁棒性就越好。损失函数是经验风险函数的核心部分，也是结构风 ...

在机器学习、人工智能领域常用的距离计算公式。 曼哈顿距离 曼哈顿距离又称“计程车距离”，由十九世纪的赫尔曼·闵可夫斯基所创。点\(P_1(x_1,y_1)\)和\(P_2(x_2,y_2)\)的距离如下： \[distance(P_1,P_2)=|x_2-x_1|+|y_2-y_1 ...

采样方法 目录 采样方法 Inverse CDF 接受-拒绝采样(Acceptance-Rejection Sampling) 蒙特卡洛方法 重要性采样： MCMC(Markov Chain Monte ...

机器学习无疑是当前数据分析领域的一个热点内容。很多人在平时的工作中都或多或少会用到机器学习的算法。本文为您总结一下常见的机器学习算法，以供您在工作和学习中参考。 机器学习的算法很多。很多时候困惑人们都是，很多算法是一类算法，而有些算法又是从其他算法中延伸出来的。这里，我们从两个方面来给大家介绍 ...

，所以也被称为“最速下降法”。最速下降法越接近目标值，步长越小，前进越慢。 在机器学习中，基于基本的梯度下 ...