换底公式内容 \(\log_ab=\frac{\log_cb}{\log_ca}\) 公式推导及证明 设 \(c_1=\log_ca,\ c_2=\log_cb,\ c_3=\log_ab\) 则欲求证 \(c_3=\frac{c_1}{c_2}\) ∴ \(c^{c_1}=a,\ c ...

一、机器学习的概念 　　1、什么是学习？ 　　　　--从人的学习说起 　　　　--学习理论；从实践中总结 　　　　--在理论上推导；在实践中检验 　　　　--通过各种手段获取知识或技能的过程 　　2、机器怎么学习？ 　　　　--处理某个特定的任务，以大量的“经验”为基础 ...

（feasibility of learning）？机器学习的学习理论对这些问题作出了解释。本文以理论 ...

一、概述 我们知道，机器学习的特点就是：以计算机为工具和平台，以数据为研究对象，以学习方法为中心；是概率论、线性代数、数值计算、信息论、最优化理论和计算机科学等多个领域的交叉学科。所以本文就先介绍一下机器学习涉及到的一些最常用的的数学知识。 二、线性代数 2-1、标量 一个标量 ...

一、什么是机器学习？简述机器学习的一般过程。 　　机器学习是通过算法使得机器从大量历史数据中学习规律，从而对新样本做分类或者预测。 　　一个机器学习过程主要分为三个阶段： 　　（1）训练阶段，训练阶段的主要工作是根据训练数据建立模型。 　　（2）测试阶段，测试阶段的主要工作是利用验证集 ...

Frequentist VS Bayesian 在机器学习领域分为两个流派，分别是贝叶斯派和频率派。两种学派所基于的理论背景不同，应用场景也不尽相同。本文就以阅读PRML为背景，对学习所悟进行总结。 对于一些问题，比如类似从盒子中抽取小球的经典问题，我们可以通过多次实验的方式来计算频率，并进 ...

独立和互斥的区别在此省略，比较好理解。 首先我们看协方差的定义: 　　　　　　　　　　　　Cov(X, Y) = E{[X - E(X)][Y - E(Y)]}. 协方差的性质有: 　　　　　　　　　　　　Cov(X, Y) = Cov(Y, X) 　　　　　　　　　　　　Cov ...

稍微了解有监督机器学习的人都会知道，我们先通过训练集训练出模型，然后在测试集上测试模型效果，最后在未知的数据集上部署算法。然而，我们的目标是希望算法在未知的数据集上有很好的分类效果（即最低的泛化误差），为什么训练误差最小的模型对控制泛化误差也会有效呢？这一节关于学习理论的知识就是让大家知其然也知 ...