统计学习方法 李航---第5章 决策树
第5章 决策树 决策树(decision tree)是一种基本的分类与回归方法。本章主要讨论用于分类的决策树。决策树模型呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型具有可读性 ...
原文：决策树（统计学习方法（李航））的贷款的例子的实现
以统计学习方法 李航 这本书的例子为基础 需要注意的地方： 我用的是pycharm python版本是 . graphviz是一个软件，在pycharm里面下了还得去官网下 下完之后得加入环境变量可能还需要重启电脑 缺啥库就安啥库 那个数据是我自己设置的，手敲的。 贷款申请样本数据表 ID 年龄 有工作 有自己的房子 信贷情况 类别 青年 否 否 一般 否 青年 否 否 好 否 青年 是 否 好 ...
2019-11-30 12:23 2 484 推荐指数：
相关推荐
李航-统计学习方法-笔记-5：决策树
基本模型 简介：决策树可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型具有可读性，分类速度快。 决策树学习通常包括3个步骤：特征选择，决策树生成，剪枝。 决策树的内部结点表示一个特征或属性，叶结点表示一个类。 If-then：决策树 ...
《统计学习方法》——从零实现决策树
决策树 决策树是一种树形结构，其中每个内部节点表示一个属性上的判断，每个分支代表一个判断结果的输出，最后每个叶子节点代表一种分类结果。 决策树学习的三个步骤： 特征选择 通常使用信息增益最大、信息增益比最大或基尼指数最小作为特征选择的准则。 树的生成 决策树的生成 ...
5、统计学习方法--决策树
决策树（ID3、C4.5、CART） 1、决策树基本介绍 决策树是一种基本的分类与回归方法，他既可以是if-then 规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。 主要有点：可读性、分类快 本质：从训练数据集中归纳出一组分类规则 2、 决策树模型 ...
【统计学习方法】 决策树
决策树模型和学习 决策树模型 分类决策树模型是一种描述对实例进行分类的树形结构。决策树由节点（node）和有向边（directed edge）组成。有向边有两种类型：内部节点（internal node）和叶节点（leaf node）。内部节点表示一个特征或属性， 叶节点表示一个类。 决策树 ...
统计学习方法（五）——决策树
/*先把标题给写了，这样就能经常提醒自己*/ 决策树是一种容易理解的分类算法，它可以认为是if-then规则的一个集合。主要的优点是模型具有可读性，且分类速度较快，不用进行过多的迭代训练之类。决策树学习通常包括3个步骤：特征选择、决策树的生成和决策树的修剪。比较常用到的算法有ID3、C4.5 ...
李航-统计学习方法-笔记-8：提升方法
提升方法 简述：提升方法（boosting）是一种常用的统计学习方法，应用广泛且有效。在分类问题中，它通过改变训练样本的权重，学习多个分类器，并将这些分类器进行线性组合，提高分类的性能。 本章 （1）介绍boosting方法的思路和代表性的boosting算法AdaBoost （2）通过训练 ...
统计学习方法ｃ++实现之四 决策树
决策树 前言 决策树是一种基本的分类和回归算法，书中主要是讨论了分类的决策树。决策树在每一个结点分支规则是一种if-then规则，即满足某种条件就继续搜索左子树，不符合就去右子树，看起来是用二叉树实现对吧，实际的CART决策树就是二叉树，等会再介绍。现在先来看看决策树的理论部分。代码地址 ...