近来做一些遥感图像自动解译的工作，需要根据遥感图像每个单元 像元，像素 的几个波段值和相互之间的位置关系来进行自动分类，也就是确定哪些区域是耕地，哪些是林地，哪些是草地。之前虽然有上过数据挖掘和机器学习的课，但是自己的专业并不在此，对遥感图像的自动分类更是一窍不通，所以慢慢自学，顺便写个博客记录一下自己的学习过程，谬误在所难免，大家多多包涵指正。 根据最近的Mahout Wiki，Mahout实 ...
2012-09-21 17:10 5 3974 推荐指数：
一、Table for Content 在之前的文章中我们介绍了Decision Trees Agorithms，然而这个学习算法有一个很大的弊端，就是很容易出现Overfitting，为了解决此问题人们找到了一种方法，就是对Decision Trees 进行 Pruning(剪枝)操作 ...
[ML学习笔记] 决策树与随机森林（Decision Tree&Random Forest） ##决策树 决策树算法以树状结构表示数据分类的结果。每个决策点实现一个具有离散输出的测试函数，记为分支。 一棵决策树的组成：根节点、非叶子节点（决策点）、叶子节点、分支 算法分为两个 ...
前言 本系列为机器学习算法的总结和归纳，目的为了清晰阐述算法原理，同时附带上手代码实例，便于理解。 目录 k近邻（KNN） 决策树 线性回归 逻辑斯蒂回归 朴素贝叶斯 支持向量机（SVM ...
（注：本篇博文是对《统计学习方法》中决策树一章的归纳总结，下列的一些文字和图例均引自此书~） 决策树（decision tree）属于分类/回归方法。其具有可读性、可解释性、分类速度快等优点。决策树学习包含3个步骤：特征选择、决策树生成、决策树修剪（剪枝）。 0 - 决策树问题 0.0 ...
3.1、摘要 在前面两篇文章中，分别介绍和讨论了朴素贝叶斯分类与贝叶斯网络两种分类算法。这两种算法都以贝叶斯定理为基础，可以对分类及决策问题进行概率推断。在这一篇文章中，将讨论另一种被广泛使用的分类算法——决策树（decision tree）。相比贝叶斯算法，决策树 ...
Isolation，意为孤立/隔离，是名词，其动词为isolate，forest是森林，合起来就是“孤立森林”了，也有叫“独异森林”，好像并没有统一的中文叫法。可能大家都习惯用其英文的名字isolation forest，简称iForest 。 iForest适用于连续数据 ...
Isolation，意为孤立/隔离，是名词，其动词为isolate，forest是森林，合起来就是“孤立森林”了，也有叫“独异森林”，好像并没有统一的中文叫法。可能大家都习惯用其英文的名字isolation forest，简称iForest 。 iForest适用于连续数据 ...
什么是决策树？ 决策树是一种基本的分类与回归方法。其主要有点事模型具有可得性，分类速度快。学习时，利用训练数据，根据损失函数最小化原则建立决策树模型；预测时，对新数据，利用决策树模型进行分类。 决策树学习通常包含以下三个步骤： 选择特征 决策树生成 剪枝 ...
