决策树 与SVM类似，决策树在机器学习算法中是一个功能非常全面的算法，它可以执行分类与回归任务，甚至是多输出任务。决策树的算法非常强大，即使是一些复杂的问题，也可以良好地拟合复杂数据集。决策树同时也是随机森林的基础组件，随机森林在当前是最强大的机器学习算法之一。 在这章我们会先讨论如何使用 ...

回归 决策树也可以用于执行回归任务。我们首先用sk-learn的DecisionTreeRegressor类构造一颗回归决策树，并在一个带噪声的二次方数据集上进行训练，指定max_depth=2： 下图是这棵树的结果： 这棵树看起来与之前构造的分类树类似。主要 ...

分类决策树的概念和算法比较好理解，并且这方面的资料也很多。但是对于回归决策树的资料却比较少，西瓜书上也只是提了一下，并没有做深入的介绍，不知道是不是因为回归树用的比较少。实际上网上常见的房价预测的案例就是一个应用回归树的很好的案例，所以我觉得至少有必要把回归树的概念以及算法弄清楚 ...

决策树的目标是从一组样本数据中，根据不同的特征和属性，建立一棵树形的分类结构。 决策树的学习本质上是从训练集中归纳出一组分类规则，得到与数据集矛盾较小的决策树，同时具有很好的泛化能力。决策树学习的损失函数通常是正则化的极大似然函数，通常采用启发式方法，近似求解这一最优化问题。 算法原理 ...

简介 　　基于树的学习算法被认为是最好的和最常用的监督学习方法之一。 基于树的方法赋予预测模型高精度，稳定性和易于解释的能力。 与线性模型不同，它们非常好地映射非线性关系。 它们适用于解决手头的任何问题（分类或回归）。决策树，随机森林，梯度增强等方法正在各种数据科学问题中广泛使用 ...

1. 决策树算法 1.1 背景知识 信息量\(I(X)\)：指一个样本/事件所蕴含的信息，如果一个事情的概率越大，那么就认为该事件所蕴含的信息越少，确定事件不携带任何信息量 \(I(X)=-log(p(x))\) 信息熵\(H(X)\)：用来描述系统信息量 ...

　　 ...

决策树思维导图[3] 1 信息论基础 1.1 熵 熵是度量样本集合纯度最常用的一种指标。假定当前样本集合\(D\)中第\(k\)类样本所占的比例为\(p_{k}(k=1,2,...,|K|)\)，则样本集合\(D\)的熵定义为： \[Ent(D ...