？ 形式化定义：假设可选的模型集合是，比如我们想分类，那么SVM、logistic回归、神经网络等模型都包含 ...

https://zhuanlan.zhihu.com/p/38553838 1 概率论和统计学的区别 简单来说，概率论和统计学解决的问题是互逆的。假设有一个具有不确定性的过程（process），然后这个过程可以随机的产生不同的结果（outcomes）。则概率论和统计学的区别可以描述 ...

写在前面：机器学习的目标是从训练集中得到一个模型，使之能对测试集进行分类，这里，训练集和测试集都是分布D的样本。而我们会设定一个训练误差来表示测试集的拟合程度（训练误差），虽然训练误差具有一定的 ...

其所以然。 学习理论 1.empirical risk minimization（经验风险最小化） ...

1. 统计决策的基本概念 　　20世纪40年代，Wald提出了把统计推断问题看成是人与自然的一种博弈过程，由此建立了统计决策理论。 统计决策问题的三个要素 　　在前几章讲的统计问题，都可以归结为一个统计决策问题，也就是建立所谓的统计决策函数，统计决策问题由三个因素组成： 样本空间和分布族 ...

2019年08月31日更新 看了一篇发在NM上的文章才又明白了贝叶斯方法的重要性和普适性，结合目前最火的DL，会有意想不到的结果。 目前一些最直觉性的理解： 概率的核心就是可能性空间一定，三体世界不会有概率 贝叶斯的基础就是条件概率，条件概率的核心就是可能性空间的缩小，获取了新 ...

目录 一、贝叶斯 什么是先验概率、似然概率、后验概率 公式推导 二、为什么需要朴素贝叶斯 三、朴素贝叶斯是什么 条件独立 举例：长肌肉 拉普拉斯平滑 半朴素贝叶斯 一、贝叶斯 ...

之前讲了监督学习和无监督学习，今天主要讲“强化学习”。 马尔科夫决策过程；Markov Decision Process（MDP） 价值函数；value function ...