前言: 現在來用PCA,PCA Whitening對自然圖像進行處理。這些理論知識參考前面的博文:Deep learning:十(PCA和whitening)。而本次試驗的數據,步驟,要求等參考網頁:http://deeplearning.stanford.edu/wiki ...
前言: 這節主要是練習下PCA,PCA Whitening以及ZCA Whitening在 D數據上的使用, D的數據集是 個數據點,每個數據點是 維的。參考的資料是:Exercise:PCA in D。結合前面的博文Deep learning:十 PCA和whitening 理論知識,來進一步理解PCA和Whitening的作用。 matlab某些函數: scatter: scatter X, ...
2013-03-21 16:07 8 14905 推薦指數:
前言: 現在來用PCA,PCA Whitening對自然圖像進行處理。這些理論知識參考前面的博文:Deep learning:十(PCA和whitening)。而本次試驗的數據,步驟,要求等參考網頁:http://deeplearning.stanford.edu/wiki ...
PCA: PCA的具有2個功能,一是維數約簡(可以加快算法的訓練速度,減小內存消耗等),一是數據的可視化。 PCA並不是線性回歸,因為線性回歸是保證得到的函數是y值方面誤差最小,而PCA是保證得到的函數到所降的維度上的誤差最小。另外線性回歸是通過x值來預測y值,而PCA中 ...
前言: 本節主要是來練習下在machine learning(不僅僅是deep learning)設計前的一些數據預處理步驟,關於數據預處理的一些基本要點在前面的博文Deep learning:三十(關於數據預處理的相關技巧)中已有所介紹,無非就是數據的歸一化和數據的白化,而數據 ...
在很多情況下,我們要處理的數據的維度很高,需要提取主要的特征進行分析這就是PCA(主成分分析),白化是為了減少各個特征之間的冗余,因為在許多自然數據中,各個特征之間往往存在着一種關聯,為了減少特征之間的關聯,需要用到所謂的白化(whitening). 首先下載數據pcaData.rar,下面要對 ...
我!就!是!個!廢!柴!……哼…… 前言: PCA與白化, 就是對輸入數據進行預處理, 前 ...
前言 本文是基於Exercise:PCA and Whitening的練習。 理論知識見:UFLDL教程。 實驗內容:從10張512*512自然圖像中隨機選取10000個12*12的圖像塊(patch),然后對這些patch進行99%的方差保留的PCA計算,最后 ...
前言: CNN作為DL中最成功的模型之一,有必要對其更進一步研究它。雖然在前面的博文Stacked CNN簡單介紹中有大概介紹過CNN的使用,不過那是有個前提的:CNN中的參數必須已提前學習好。而本文的主要目的是介紹CNN參數在使用bp算法時該怎么訓練,畢竟CNN中有卷積 ...
數據預處理是為了讓算法有更好的表現,whitening、PCA、SVD都是預處理的方式: whitening的目標是讓特征向量中的特征之間不相關,PCA的目標是降低特征向量的維度,SVD的目標是提高稀疏矩陣運算的運算速度。 whitening whiten的目的是解除 ...