求矩阵的秩 设 ，已知r(A)=2，则参数x，y分别是 解：任意三阶子式=0，有二阶子式≠0，但是这些子式比较多，可以使用初等变换，因为初等变换不改变矩阵的秩，可以将矩阵通过初等行（列 ...

引言 之前了解到决策树在选择最好的特征进行数据集的划分就说到这种方法可以用来进行特征选择，然后看了breiman主页上相关的介绍，觉得这不愧是权威啊，不愧是随机森林算法的提出者，讲的很清楚，网址如下 http://www.stat.berkeley.edu ...

特征选择是一个重要的数据预处理过程，在现实机器学习任务中，获得数据之后通常先进行特征选择，此后在训练学习器，如下图所示： 进行特征选择有两个很重要的原因： 避免维数灾难：能剔除不相关(irrelevant)或冗余(redundant )的特征，从而达到减少特征个数，提高模型精确度，减少 ...

1.特征选择 特征选择是降维的一种方法，即选择对预测结果相关度高的特征或者消除相似度高的特征，以提高估计函数的准确率或者提高多维度数据集上的性能。 2.删除低方差特征 1）思路：设置一个阀值，对每个特征求方差，如果所求方差低于这个阀值，则删除此特征 ...

##基础概念 特征工程是通过对原始数据的处理和加工，将原始数据属性通过处理转换为数据特征的过程，属性是数据本身具有的维度，特征是数据中所呈现出来的某一种重要的特性，通常是通过属性的计算，组合或转换得到的。比如主成分分析就是将大量的数据属性转换为少数几个特征的过程。某种程度而言，好的数据以及特征 ...

特征选择方法初识： 1、为什么要做特征选择在有限的样本数目下，用大量的特征来设计分类器计算开销太大而且分类性能差。2、特征选择的确切含义将高维空间的样本通过映射或者是变换的方式转换到低维空间，达到降维的目的，然后通过特征选取删选掉冗余和不相关的特征来进一步降维。3、特征选取的原则获取尽可能小 ...

一.特征提取和特征选择的区别 特征选择和降维（特征提取）有着些许的相似点，这两者达到的效果是一样的，就是试图去减少特征数据集中的属性(或者称为特征)的数目；但是两者所采用的方式方法却不同：降维的方法主要是通过属性间的关系，如组合不同的属性得到新的属性，这样就改变了原来的特征空间；而特征选择的方法 ...

当数据预处理完成后，我们需要选择有意义的特征输入机器学习的算法和模型进行训练。通常来说，从两个方面考虑来选择特征： 　· 特征是否发散：如果一个特征不发散，例如方差接近于0，也就是说样本在这个特征上基本上没有差异，这个特征对于样本的区分并没有什么用。 　· 特征与目标 ...