5-1
5-2
5-3
主要作用：
- 降維和升維：
每個1×1的卷積核都試圖提取基於相同像素位置的特征的融合表達。可以實現特征升維和降維的目的。
比如，一張500 * 500且厚度depth為100 的圖片在20個filter上做11的卷積，那么結果的大小為500500*20。 - 加入非線性：
1*1卷積核，可以在保持feature map尺度不變的（即不損失分辨率）的前提下大幅增加非線性特性（利用后接的非線性激活函數），把網絡做的很deep。
5-4
代碼角度：
直觀角度：
5-5
對於一個二維卷積，輸入為3×3，卷積核大小為2×2，試將卷積操作重寫為仿射變換的形式。
解析：將3×3輸入展開成9維的。3×3的輸入，卷積核大小為2×2，一共做四次卷積操作。在對應的位置上填寫卷積核的值。
5-6
計算函數𝑦 = max(𝑥1, ⋯ , 𝑥𝐷)和函數𝑦 = arg max(𝑥1, ⋯ , 𝑥𝐷)的梯度。
這里的x1指的是f1(t),xd指的是fd(t)
5-7[佛啊]
忽略激活函數，分析卷積網絡中卷積層的前向計算和反向傳播（(公式5.39)）是一種轉置關系。
5-8
根據等寬卷積：
(M - K' + 2P)/S + 1 = M，其中S= 1，
K' = K + (K-1)(D-1)，
求得 ：
P = (K-1)D/2