一、因子分析 　　因子分析是将具有错综复杂关系的变量（或样本）综合为少数几个因子，以再现原始变量和因子之间的相互关系，探讨多个能够直接测量，并且具有一定相关性的实测指标是如何受少数几个内在的独立因子所支配，并且在条件许可时借此尝试对变量进行分类。 　　因子分析的基本思想 　　根据变量间相关性 ...

降维目的：样本数据为高维数据时，对数据进行降维操作，避免模型出现过拟合。 1.过拟合含义：训练集误差小，验证集误差大。 过拟合三种解决方案：1）增加数据集；2）正则化； 3）降维。 2.高维灾难： 具有高维度特征的数据易导致高维灾难。 高维灾难的几何角度解释： 高维灾难含义：高维 ...

https://www.jianshu.com/p/9fe0a7004560 一、简单介绍 LSA和传统向量空间模型(vector space model)一样使用向量来表示词( ...

工合成的数据集。这个数据集中的数据表示一个管道中 石油、水、天然气各自所占的比例。这三种物质在管道中的几何形状 ...

一、 高维数据降维 　　高维数据降维是指采取某种映射方法，降低随机变量的数量。例如将数据点从高维空间映射到低维空间中，从而实现维度减少。降维分为特征选择和特征提取两类，前者是从含有冗余信息以及噪声信息的数据中找出主要变量，后者是去掉原来数据，生成新的变量，可以寻找数据内部的本质结构特征 ...

数据降维维度：即特征的数量 数据降维的方法有：1.特征选择 2.主成分分析 特征选择： 代码实例： 运行结果： 主成分分析PCA： 代码实例： 运行结果： ...

数据降维就是降低数据的维度，有两种方式： 1、一种是特征选择：直接选取原有维度的一部分参与后续的计算和建模过程，用选择的维度替代所有维度，整个过程不产生新的维度。 方法： （1）经验法：根据业务经验选择 （2）测算法：通过不断测试多种维度选择参与计算，通过结果来反复验证和调整并最终找到最佳 ...

　　PCA要做的事降噪和去冗余，其本质就是对角化协方差矩阵。 一.预备知识 　　1.1 协方差分析 　　对于一般的分布，直接代入E(X)之类的就可以计算出来了，但真给你一个具体数值的分布，要计算协方差矩阵，根据这个公式来计算，还真不容易反应过来。网上值得参考的资料也不多，这里用一个 ...