一、因子分析 　　因子分析是將具有錯綜復雜關系的變量（或樣本）綜合為少數幾個因子，以再現原始變量和因子之間的相互關系，探討多個能夠直接測量，並且具有一定相關性的實測指標是如何受少數幾個內在的獨立因子所支配，並且在條件許可時借此嘗試對變量進行分類。 　　因子分析的基本思想 　　根據變量間相關性 ...

降維目的：樣本數據為高維數據時，對數據進行降維操作，避免模型出現過擬合。 1.過擬合含義：訓練集誤差小，驗證集誤差大。 過擬合三種解決方案：1）增加數據集；2）正則化； 3）降維。 2.高維災難： 具有高維度特征的數據易導致高維災難。 高維災難的幾何角度解釋： 高維災難含義：高維 ...

https://www.jianshu.com/p/9fe0a7004560 一、簡單介紹 LSA和傳統向量空間模型(vector space model)一樣使用向量來表示詞( ...

工合成的數據集。這個數據集中的數據表示一個管道中 石油、水、天然氣各自所占的比例。這三種物質在管道中的幾何形狀 ...

一、 高維數據降維 　　高維數據降維是指采取某種映射方法，降低隨機變量的數量。例如將數據點從高維空間映射到低維空間中，從而實現維度減少。降維分為特征選擇和特征提取兩類，前者是從含有冗余信息以及噪聲信息的數據中找出主要變量，后者是去掉原來數據，生成新的變量，可以尋找數據內部的本質結構特征 ...

數據降維維度：即特征的數量 數據降維的方法有：1.特征選擇 2.主成分分析 特征選擇： 代碼實例： 運行結果： 主成分分析PCA： 代碼實例： 運行結果： ...

數據降維就是降低數據的維度，有兩種方式： 1、一種是特征選擇：直接選取原有維度的一部分參與后續的計算和建模過程，用選擇的維度替代所有維度，整個過程不產生新的維度。 方法： （1）經驗法：根據業務經驗選擇 （2）測算法：通過不斷測試多種維度選擇參與計算，通過結果來反復驗證和調整並最終找到最佳 ...

　　PCA要做的事降噪和去冗余，其本質就是對角化協方差矩陣。 一.預備知識 　　1.1 協方差分析 　　對於一般的分布，直接代入E(X)之類的就可以計算出來了，但真給你一個具體數值的分布，要計算協方差矩陣，根據這個公式來計算，還真不容易反應過來。網上值得參考的資料也不多，這里用一個 ...