當今主流的卷積神經網絡框架

• LeNet (20世紀90年代)：最早最出名的神經網絡之一。
• AlexNet（2012） – 2012年，Alex Krizhevsky（和其他人）發布了 AlexNet，它是提升了深度和廣度版本的 LeNet，並在2012年以巨大優勢贏得了 ImageNet 大規模視覺識別挑戰賽（ILSVRC）。這是基於之前方法的重大突破，目前 CNN 的廣泛應用都要歸功於 AlexNet。
• ZF Net（2013） – 2013年 ILSVRC 獲獎者來自 Matthew Zeiler 和 Rob Fergus 的卷積網絡。它被稱為 ZFNet（Zeiler 和 Fergus Net 的簡稱）。它在 AlexNet 的基礎上通過調整網絡框架超參數對其進行了改進。
• GoogLeNet（2014） – 2014年 ILSVRC 獲獎者是 Google 的 Szegedy 等人的卷積網絡。其主要貢獻是開發了一個初始模塊，該模塊大大減少了網絡中的參數數量（4M，而 AlexNet 有60M）。
• VGGNet（2014） – 2014年 ILSVRC 亞軍是名為 VGGNet 的網絡。其主要貢獻在於證明了網絡深度（層數）是影響性能的關鍵因素。
• ResNets（2015） – 何凱明（和其他人）開發的殘差網絡是2015年 ILSVRC 的冠軍。ResNets 是迄今為止最先進的卷積神經網絡模型，並且是大家在實踐中使用卷積神經網絡的默認選擇（截至2016年5月）。
• DenseNet（2016年8月） – 最近由黃高等人發表，密集連接卷積網絡的每一層都以前饋方式直接連接到其他層。 DenseNet 已經在五項競爭激烈的對象識別基准測試任務中證明自己比之前最先進的框架有了顯着的改進。具體實現請參考這個網址。