字典学习（Dictionary Learning）
0 - 背景 0.0 - 为什么需要字典学习？ 这里引用这个博客的一段话，我觉得可以很好的解释这个问题。 0.1 - 为什么需要稀疏表示？ 同样引用这个博客的一段话，我 ...
花费 38 ms
【集成模型】Stacking
0 - 思路 Stacking是许多集成方法的综合。其主要思路如下图所示，通过训练数据训练多个base learners（the first-level learners），这些learners ...
数据科学导引（大纲）
线性回归（Linear Regression） 求解方法 最小二乘法 极大似然估计法（MLE） 梯度下降法 ...
奇异值分解（SVD）
0 - 特征值分解（EVD） 奇异值分解之前需要用到特征值分解，回顾一下特征值分解。 假设$A_{m \times m}$是一个是对称矩阵（$A=A^T$），则可以被分解为如下形式， $$A_{ ...
【分类算法】决策树（Decision Tree）
（注：本篇博文是对《统计学习方法》中决策树一章的归纳总结，下列的一些文字和图例均引自此书~） 决策树（decision tree）属于分类/回归方法。其具有可读性、可解释性、分类速度快等优点。决 ...
【分类算法】感知机（Perceptron）
0 - 算法描述 感知机算法是一类二分类算法，其问题描述为，给定一个训练数据集 $$T=\{(x_1,y_1),(x_2,y_2),\cdots,(x_N,y_N)\},$$ 其中$x_i\ ...
【集成模型】Bootstrap Aggregating（Bagging）
0 - 思想 如下图所示，Bagging（Bootstrap Aggregating）的基本思想是，从训练数据集中有返回的抽象m次形成m个子数据集（bootstrapping），对于每一个子 ...