目录 特征选择 信息的度量和作用 信息增益 信息增益的计算 常见决策树使用的算法 sklearn决策树API 泰坦尼克号案例 决策树的优缺点以及改进 集成学习方法-随机森林 学习算法 ...

决策树 决策树模型是一种树形结构，基于特征对实例进行分类或回归的过程。即根据某个特征把数据分划分到若干个子区域(子树)，再对子区域递归划分，直到满足某个条件则停止划分并作为叶子节点，不满足条件则继续递归划分。 一个简单的决策树分类模型：红色框出的是特征。 决策树模型学习 ...

随机森林（Random Forest，简称RF）是通过集成学习的思想将多棵树集成的一种算法，它的基本单元是决策树。假设现在针对的是分类问题，每棵决策树都是一个分类器，那么N棵树会有N个分类结果。随机森林集成了所有的分类投票结果，将投票次数最多的类别指定为最终输出。它可以很方便的并行训练 ...

以下均为自己看视频做的笔记，自用，侵删！ 还参考了：http://www.ai-start.com/ml2014/ In [8]: ...

项目需要，用随机森林和决策树对已有50个事件做预测 精确率和准确率大概在54%，召回率只有30%+，还需要继续调 ...

python3 学习使用随机森林分类器 梯度提升决策树分类 的api，并将他们和单一决策树预测结果做出对比 附上我的git，欢迎大家来参考我其他分类器的代码: https://github.com/linyi0604/MachineLearning ...

这里仅介绍分类决策树。 决策树：特征作为决策的判断依据，整个模型形如树形结构，因此，称之为决策树 对于分类决策树，他们可以认为是一组if-then规则的集合。决策树的每一个内部节点有特征组成，叶子节点代表了分类的结果。父节点和子节点之间是由有向边连接，表示了决策 ...

一、决策树 决策树（decision tree）是一种基本的分类与回归方法，本篇主要讨论用于分类的决策树。 1.决策树模型 分类决策树模型是一种描述对实例进行分类的树形结构。决策树由结点（node）和有向边（directed edge）组成。结点有两种类型：内部结点（internal ...