统计学习方法（一）
等组成。 统计学习方法包括假设空间、模型选择的准则、模型学习的算法，这些统称为统计学习方法的三要素： ...
原文：《统计学习方法》 梯度下降的两种应用场景
这几天在看 统计学习方法 这本书，发现 梯度下降法在 感知机 等机器学习算法中有很重要的应用，所以就特别查了些资料。 一.介绍 梯度下降法 gradient descent 是求解无约束最优化问题的一种常用方法，有实现简单的优点。梯度下降法是迭代算法，每一步需要求解目标函数的梯度向量。 二.应用场景 .给定许多组数据 xi, yi ，xi 向量 为输入，yi为输出。设计一个线性函数y h x 去 ...
2013-05-14 21:34 0 4125 推荐指数：
相关推荐
统计学习方法--提升树模型（Boosting Tree）与梯度提升树（GBDT）
1、主要内容 介绍提升树模型以及梯度提升树的算法流程 2、Boosting Tree 提升树模型采用加法模型（基函数的线性组合）与前向分步算法，同时基函数采用决策树算法，对待分类问题采用二叉分类树，对于回归问题采用二叉回归树。提升树模型可以看作是决策树的加法模型 ...
《统计学习方法》学习笔记
上学期花了一个多月读完了李航老师的《统计学习方法》，现在带着新入团队的新同学以读书会的形式读这本书，书里边全是干货，对于我理解基本的机器学习算法很有帮助，也笔头做了一些总结（不完全基于此书），现将其摘录于此作为在博客园的第一篇博客。因为并不是为了扫盲，所以仅仅是抓出脉络以及关键点，方便以后快速温习 ...
统计学习方法基础总结
统计学习 统计学习：也称统计机器学习，是计算机基于数据构建概率统计模型，并用模型进行预测与分析的一门学科。 数据是统计学习的对象。统计学习关于数据的基本假设是同类数据具有一定的统计规律性，这是统计学习的前提。这些数据具有某种共同的性质，并且由于具有统计规律性，因此可以用统计学习方法来加以处理 ...
统计学习方法笔记 -- 概论
统计学习方法是基于训练数据构建统计模型，从而对数据进行预测和分析。 统计学习分为，监督学习（supervised learning），非监督学习，半监督学习和强化学习（reinforcement learning），其中以监督学习最为常见和重要，所以这里只讨论监督学习 统计学习的过程如下， 1. ...
统计学习方法——实现AdaBoost
Adaboost 适用问题：二分类问题 模型：加法模型 \[f(x)=\sum_{m=1}^{M} \alpha_{m} G_{m}(x) \] 策略：损失函数为指数函 ...
统计学习方法—SVM推导
） 2.2.1 坐标下降法 2.2.2 SMO求解方法 ...
统计学习方法：CART算法
作者：桂。 时间：2017-05-13 14:19:14 链接：http://www.cnblogs.com/xingshansi/p/6847334.html 、 前言 内容主要是CART算法的学习笔记。 CART算法是一个二叉树问题，即总是有两种选择，而不像之前 ...