什么是深度卷積網絡 ？ （What are deep ConvNets learning?）
假如你訓練了一個卷積神經網絡，是一個 Alexnet，輕量級網絡，你希望將看到不同層之間隱藏單元的計算結果。
從第一層的隱藏單元開始，假設你遍歷了訓練集，然后找到那些使得單元激活最大化的一些圖片，或者是圖片塊。換句話說，將你的訓練集經過神經網絡，然后弄明白哪一張圖片最大限度地激活特定的單元。注意在第一層的隱藏單元，只能看到小部分卷積神經，如果要畫出來哪些激活了激活單元，只有一小塊圖片塊是有意義的，因為這就是特定單元所能看到的全部。你選擇一個隱藏單元，發現有 9 個圖片最大化了單元激活，你可能找到這樣的 9 個圖片塊：
似乎是圖片淺層區域顯示了隱藏單元所看到的，找到了像這樣的邊緣或者線:
然后你可以選一個另一個第一層的隱藏單元，重復剛才的步驟，這是另一個隱藏單元：
看來這個隱藏單元在輸入區域，尋找這樣的線條：
對其他隱藏單元也進行處理，會發現其他隱藏單元趨向於激活類似於這樣的圖片：
以此類推，這是 9 個不同的代表性神經元，每一個不同的圖片塊都最大化地激活了。你可以這樣理解，第一層的隱藏單元通常會找一些簡單的特征，比如說邊緣或者顏色陰影。
在深層部分，一個隱藏單元會看到一張圖片更大的部分，在極端的情況下，可以假設每一個像素都會影響到神經網絡更深層的輸出，靠后的隱藏單元可以看到更大的圖片塊：
由此可以看到，第一層的邊緣，第二層的質地，一直到深層的復雜物體。