參考鏈接：https://www.zhihu.com/question/396811409/answer/1252521120
LeNet：5層輕量級網絡，一般用來驗證小型數據；
AlexNet/VGGNet：把網絡層數加深；
GoogLeNet/Inception：結合1x1卷積並采用帶有不同kernel和池化的多分支策略進行特征提取；
ResNet：Residual block，使訓練更深層的網絡變得可能；
RexNeXt：引入組卷積，在精度基本不降的情況下速度超過ResNet；
DenseNet：主要是特征復用的思想，參數量雖小計算量不敢恭維；
Res2Net：基於ResNet引入多尺度；
SENet：基於通道矯正，強化重要特征，抑制非重要特征，重點是輕便可以隨意嵌入；
SKNet：引入特征圖注意力，使卷積核的感受野能夠自適應
DCNet：引入可變性卷積，提高了泛化能力；
SqueezeNet、ShuffleNet、MobileNet：輕量級網絡；
CSPNet：利用跨階段特征融合策略和截斷梯度流來增強不同層次特征的可變性解決冗余梯度信息，提高推理速度；
EfficientNet：E0-E7的進化之路號稱無人能敵，配合谷歌剛出的Lite，實現精度、延遲兩不誤的移動端新SOTA；
RegNet：FBAI力作，號稱超越EfficientNet，GPU上提速5倍的神作；
ResNeSt：剛出來的Backbone，乍眼一看是一個ResNeXt和SKNet的結合體，論文寫着刷爆各大榜單；具體效果還未使用不從得知，直觀感覺是個好的神器，留待時間去考證；