一、介绍
一个5*5的卷积核可以被连续的2个3*3卷积核代替，每个卷积核都经过激活。
1个5*5的卷积核，也可以被2个连续的1*5和5*1卷积核代替。
如图，中间的图用2个3*3的卷积核代替了5*5的卷积核。右边的图引入了1*n和n*1的卷积核
二、作用
1.作者说，在网络的前期使用这种分解，效果并不好。对于中等大小的特征图，边长在12-20之间，效果比较好。
2.通过卷积核分解，减少了参数量。例如，1个5*5的卷积核有25个参数，而2个3*3的卷积核只有18个参数，1个1*5和5*1的卷积核，只有10个参数。
3.引入了2次非线性，实验证明会提升效果。