基礎知識: 在sparse coding(可參考Deep learning:二十六(Sparse coding簡單理解),Deep learning:二十九(Sparse coding練習))模型中,學習到的基是超完備集的,也就是說基集中基的個數比數據的維數還要大,那么對一個 ...
前言: 本次主要是練習下ICA模型,關於ICA模型的理論知識可以參考前面的博文:Deep learning:三十三 ICA模型 。本次實驗的內容和步驟可以是參考UFLDL上的教程:Exercise:Independent Component Analysis。本次實驗完成的內容和前面的很多練習類似,即學習STL 數據庫的ICA特征。當然了,這些數據已經是以patches的形式給出,共 w個pat ...
2013-05-07 22:56 17 8533 推薦指數:
基礎知識: 在sparse coding(可參考Deep learning:二十六(Sparse coding簡單理解),Deep learning:二十九(Sparse coding練習))模型中,學習到的基是超完備集的,也就是說基集中基的個數比數據的維數還要大,那么對一個 ...
前言 本節主要是練習下斯坦福DL網絡教程UFLDL關於Sparse coding那一部分,具體的網頁教程參考:Exercise:Sparse Coding。該實驗的主要內容是從2w個自然圖像的patches中分別采用sparse coding和拓撲的sparse coding方法 ...
首先為什么會有Deep learning,我們得到一個結論就是Deep learning需要多層來獲得更抽象的特征表達。 1.Deep learning與Neural Network 深度學習是機器學習研究中的一個新的領域,其動機在於建立、模擬人腦進行分析學習的神經網絡,它模仿人腦 ...
前言: 本節來練習下logistic regression相關內容,參考的資料為網頁:http://openclassroom.stanford.edu/MainFolder/DocumentPage.php?course=DeepLearning&doc ...
前言 本文是多元線性回歸的練習,這里練習的是最簡單的二元線性回歸,參考斯坦福大學的教學網http://openclassroom.stanford.edu/MainFolder/DocumentPage.php?course=DeepLearning&doc ...
前言: 現在來進入sparse autoencoder的一個實例練習,參考Ng的網頁教程:Exercise:Sparse Autoencoder。這個例子所要實現的內容大概如下:從給定的很多張自然圖片中截取出大小為8*8的小patches圖片共10000張,現在需要用sparse ...
這篇博客主要用來簡單介紹下RBM網絡,因為deep learning中的一個重要網絡結構DBN就可以由RBM網絡疊加而成,所以對RBM的理解有利於我們對DBN算法以及deep learning算法的進一步理解。Deep learning是從06年開始火得,得益於大牛Hinton的文章 ...
前言: 在上一講Deep learning:五(regularized線性回歸練習)中已經介紹了regularization項在線性回歸問題中的應用,這節主要是練習regularization項在logistic回歸中的應用,並使用牛頓法來求解模型的參數。參考的網頁資料為:http ...