在過去幾年里，許多計(jì)算機(jī)視覺相關(guān)的深度學(xué)習(xí)的發(fā)展，都可以歸結(jié)于少數(shù)幾個(gè)神經(jīng)網(wǎng)絡(luò)架構(gòu)。拋開所有關(guān)于數(shù)學(xué)、代碼和實(shí)現(xiàn)的細(xì)節(jié)，來探索一個(gè)簡(jiǎn)單的問題：這些模型如何工作以及為什么工作？

　　在撰寫這篇文章時(shí)，Keras 庫(kù)（http://suo.im/4aLGEd）中已經(jīng)涵蓋了6種預(yù)訓(xùn)練模型，分別是：

　　VGG16

　　VGG19

　　ResNet50

　　Inception v3

　　Xception

　　MobileNet

　　▍VGG

　　VGG網(wǎng)絡(luò)和從2012年早期的 AlexNet 網(wǎng)絡(luò)一樣，遵循著現(xiàn)有卷積網(wǎng)絡(luò)的典型布局：在最終的全連接分類層（fully-connected classification layers）之前，由一系列的卷積層（convolutional layers），最大池化層（max-pooling layers）和激活層（activation layers）構(gòu)成。

　　MobileNet 本質(zhì)上是 Xception 架構(gòu)，針對(duì)移動(dòng)應(yīng)用而優(yōu)化的線性版本。剩下的三種架構(gòu)則真正重新定義了我們看待深度網(wǎng)絡(luò)的方式。

　　這篇文章接下來的部分將側(cè)重于ResNet，Inception和Xception三種架構(gòu)的直觀理解，以及為什么它們成為計(jì)算機(jī)視覺中許多后續(xù)工作的基石。

　　▍ResNet

　　為什么深度網(wǎng)絡(luò)在不斷增加層的時(shí)候，表現(xiàn)反而變的更差？

　　直觀來想， 更深層次的網(wǎng)絡(luò)，應(yīng)該不比較淺的網(wǎng)絡(luò)表現(xiàn)的差，至少在訓(xùn)練的時(shí)候應(yīng)該這樣（這時(shí)沒有過擬合over-fitting的風(fēng)險(xiǎn)）。

　　讓我們作一個(gè)思維實(shí)驗(yàn)，假設(shè)我們已經(jīng)建立了一個(gè)n層的網(wǎng)絡(luò)，達(dá)到了一定的準(zhǔn)確性。 如果僅通過復(fù)制相同的前n個(gè)層并對(duì)最后一層執(zhí)行單位映射，則n + 1層的網(wǎng)絡(luò)至少應(yīng)該能夠獲得完全相同的精度。

　　類似地，n + 2，n + 3和n + 4層的網(wǎng)絡(luò)都可以繼續(xù)執(zhí)行單位映射并獲得相同的準(zhǔn)確性。 然而，實(shí)際上，這些更深層的網(wǎng)絡(luò)在性能上幾乎都會(huì)有所下降。

　　ResNet的作者將這些問題歸結(jié)為一個(gè)假設(shè)：直接映射難以學(xué)習(xí)。

　　他們提出了一個(gè)解決辦法：用學(xué)習(xí) x到 H（x） 兩者之間的差異，或者“殘差”的方式，替代嘗試學(xué)習(xí)從x到 H（x） 的底層映射。這樣，我們就可以可以通過輸入殘差來計(jì)算 H（x） 。

　　假設(shè)我們用 F（x）=H（x）-x 來表示殘差。 ResNet 網(wǎng)絡(luò)現(xiàn)在不是試圖直接學(xué)習(xí) H（x） ， 而是學(xué)習(xí) F（x）+x。

　　這引出了你可能知道的著名的ResNet（或“殘差網(wǎng)絡(luò)”）模塊：

　　ResNet中的每個(gè)“模塊”都由一系列層和一個(gè)“捷徑”連接，捷徑連接將模塊的輸入值直接添加到其輸出值。 “添加”操作以元素對(duì)應(yīng)方式執(zhí)行，如果輸入和輸出的大小不同，可以使用補(bǔ)零法（zero-padding）或投影（通過1x1卷積）匹配尺寸。

　　回到我們的思維實(shí)驗(yàn)，捷徑連接大大簡(jiǎn)化了我們對(duì)單位層的構(gòu)建。 直觀的看，學(xué)習(xí)將 F（x） 推到0并將輸出值保留為x比從頭開始學(xué)習(xí)單位交換（identity transformation）要容易得多。 一般情況下，ResNet為層提供了一個(gè)“參考”點(diǎn)—x—來開始學(xué)習(xí)。

　　這個(gè)想法在實(shí)踐中效果驚人。在此之前，深度神經(jīng)網(wǎng)絡(luò)經(jīng)常遇到梯度消失（vanishing gradients）的問題，來自誤差函數(shù)的梯度信號(hào)隨著它們向較早層反向傳播而呈指數(shù)下降。

　　從本質(zhì)上說，當(dāng)誤差信號(hào)一直傳到到早期層時(shí)，它們已經(jīng)小到網(wǎng)絡(luò)無(wú)法進(jìn)行學(xué)習(xí)了。然而，由于ResNet中的梯度信號(hào)可以通過捷徑連接直接返回到早期層，突然間我們就可以建立 50層，101層，152層，甚至（想當(dāng)然）1000+層的網(wǎng)絡(luò)，而它們?nèi)匀槐憩F(xiàn)良好。用22層的網(wǎng)絡(luò)贏得了2014年ILSVRC挑戰(zhàn)，這在當(dāng)時(shí)是一個(gè)巨大的技術(shù)飛躍。