轉：
http://www.cnblogs.com/gujianhan/p/6030639.html
key1:
FCN對圖像進行像素級的分類，從而解決了語義級別的圖像分割（semantic segmentation）問題。與經典的CNN在卷積層之后使用全連接層得到固定長度的特征向量進行分類（全聯接層＋softmax輸出）不同，FCN可以接受任意尺寸的輸入圖像，采用反卷積層對最后一個卷積層的feature map進行上采樣, 使它恢復到輸入圖像相同的尺寸，從而可以對每個像素都產生了一個預測, 同時保留了原始輸入圖像中的空間信息, 最后在上采樣的特征圖上進行逐像素分類。最后逐個像素計算softmax分類的損失, 相當於每一個像素對應一個訓練樣本。
key2:
CNN的強大之處在於它的多層結構能自動學習特征，並且可以學習到多個層次的特征：較淺的卷積層感知域較小，學習到一些局部區域的特征；較深的卷積層具有較大的感知域，能夠學習到更加抽象一些的特征。這些抽象特征對物體的大小、位置和方向等敏感性更低，從而有助於識別性能的提高。這些抽象的特征對分類很有幫助，可以很好地判斷出一幅圖像中包含什么類別的物體，但是因為丟失了一些物體的細節，不能很好地給出物體的具體輪廓、指出每個像素具體屬於哪個物體，因此做到精確的分割就很有難度。
key3:
全連接層和卷積層之間唯一的不同就是卷積層中的神經元只與輸入數據中的一個局部區域連接，並且在卷積列中的神經元共享參數。然而在兩類層中，神經元都是計算點積，所以它們的函數形式是一樣的。因此，將此兩者相互轉化是可能的：
-
對於任一個卷積層，都存在一個能實現和它一樣的前向傳播函數的全連接層。權重矩陣是一個巨大的矩陣，除了某些特定塊，其余部分都是零。而在其中大部分塊中，元素都是相等的。
-
相反，任何全連接層都可以被轉化為卷積層。比如，一個 K=4096 的全連接層，輸入數據體的尺寸是 7∗7∗512，這個全連接層可以被等效地看做一個 F=7,P=0,S=1,K=4096 的卷積層。換句話說，就是將濾波器的尺寸設置為和輸入數據體的尺寸一致了。因為只有一個單獨的深度列覆蓋並滑過輸入數據體，所以輸出將變成 1∗1∗4096，這個結果就和使用初始的那個全連接層一樣了
key4:
經過多次卷積和pooling以后，得到的圖像越來越小，分辨率越來越低。其中圖像到 H/32∗W/32 的時候圖片是最小的一層時，所產生圖叫做heatmap熱圖，熱圖就是我們最重要的高維特診圖，得到高維特征的heatmap之后就是最重要的一步也是最后的一步對原圖像進行upsampling，把圖像進行放大、放大、放大，到原圖像的大小。最后的輸出是1000張heatmap經過upsampling變為原圖大小的圖片，為了對每個像素進行分類預測label成最后已經進行語義分割的圖像，最后通過逐個像素地求其在1000張圖像該像素位置的最大數值描述（概率）作為該像素的分類。因此產生了一張已經分類好的圖片。
key5：
把原來CNN操作中的全連接變成卷積操作conv6、conv7，圖像的featureMap數量改變但是圖像大小依然為原圖的1/32，此時圖像不再叫featureMap而是叫heatMap。
key6：
現在我們有1/32尺寸的heatMap，1/16尺寸的featureMap和1/8尺寸的featureMap，1/32尺寸的heatMap進行upsampling操作之后，因為這樣的操作還原的圖片僅僅是conv5中的卷積核中的特征，限於精度問題不能夠很好地還原圖像當中的特征，因此在這里向前迭代。把conv4中的卷積核對上一次upsampling之后的圖進行反卷積補充細節（相當於一個差值過程），最后把conv3中的卷積核對剛才upsampling之后的圖像進行再次反卷積補充細節，最后就完成了整個圖像的還原。
questions：
舉個栗子：如果我們想讓224×224尺寸的浮窗，以步長為32在384×384的圖片上滑動，把每個經停的位置都帶入卷積網絡，最后得到6×6個位置的類別得分。上述的把全連接層轉換成卷積層的做法會更簡便。如果224×224的輸入圖片經過卷積層和下采樣層之后得到了[7x7x512]的數組，那么，384×384的大圖片直接經過同樣的卷積層和下采樣層之后會得到[12x12x512]的數組。然后再經過上面由3個全連接層轉化得到的3個卷積層，最終得到[6x6x1000]的輸出((12 – 7)/1 + 1 = 6)。這個結果正是浮窗在原圖經停的6×6個位置的得分！
代碼：
http://blog.csdn.net/u012931582/article/details/70215756
計算機視覺中幾種上采樣方法
http://blog.csdn.net/u014451076/article/details/79156967
https://www.zhihu.com/question/43609045?sort=created
http://blog.csdn.net/zsz_shsf/article/details/53201669 托普利茲矩陣