一些知识点的初步理解_1(集成学习,ing...)
最近在看一些集成学习方面的知识，其中南京大学的周志华教授写的几篇关于集成学习综述性的文章还不错。看了下对集成学习有了一个初步的了解，如下： 集成学习是机器学习中一个非常重要且热门的分支，是用多个弱分类器构成一个强分类器，其哲学思想是“三个臭皮匠赛过诸葛亮”。一般的弱分类器 ...
原文：一些知识点的初步理解_2(流形学习,ing...)
一. 流形学习的英文名为manifold learning。其主要思想是把一个高维的数据非线性映射到低维，该低维数据能够反映高维数据的本质，当然有一个前提假设就是高维观察数据存在流形结构，其优点是非参数，非线性，求解过程简单。 二. 流形学习的可行性是因为： .从认知心理学的角度来讲心理学家认为人的认知过程是基于认知流形和拓扑连续性的 .许多高维采用数据都是由少数几个隐变量所决定的，所以可以用少数 ...
2012-03-29 10:23 2 10628 推荐指数：
相关推荐
一些知识点的初步理解_4(协方差矩阵,ing...)
每次看公式用到协方差矩阵时，要跑去网站上看一下协方差矩阵的定义，当然一看就能看明白，可是到了下次再碰到时，不查资料又卡住了，卡在那里令人纠结，这只能说明没有真正理解协方差矩阵。这次顺便做下笔记，加深下理解。 首先要清楚一般出现协方差矩阵时就会出现多维列向量，这里假设为n维 ...
一些知识点的初步理解_8(Graph Cuts,ing...)
Graph cuts是一种十分有用和流行的能量优化算法，在计算机视觉领域普遍应用于前背景分割（Image segmentation）、立体视觉（stereo vision）、抠图（Imag ...
一些知识点的初步理解_7(随机森林,ing...)
在机器学习中，随机森林由许多的决策树组成，因为这些决策树的形成采用了随机的方法，因此也叫做随机决策树。随机森林中的树之间是没有关联的。当测试数据进入随机森林时，其实就是让每一颗决策树进行分类，最后取所有决策树中分类结果最多的那类为最终的结果。因此随机森林是一个包含多个决策树的分类器 ...
一些知识点的初步理解_5(梯度下降,ing...)
梯度下降法又叫最速下降法，英文名为steepest descend method.估计搞研究的人应该经常听见这个算法吧，用来求解表达式最大或者最小值的，属于无约束优化问题。 ...
一些知识点的初步理解_9(独立成分分析-ICA,ing...)
和PCA的区别，PCA是将原始数据降维并提取出不相关的属性，可以参考前面博文的介绍：PCA算法学习_1(O ...
关于SVM的一些知识点
SVM支持向量机 定义：支持向量机是主要用于解决分类问题的学习模型。它的基本模型是在特征空间中寻找间隔最大化的分离超平面的线性分类器。 分类 1-当训练样本线性可分，通过硬间隔最大化，学习一个线性分类器，叫线性可分支持向量机 2-当训练数据近似线性可分时，引入松弛变量，通过软间隔最大化 ...