卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network, CNN）是人工神經(jīng)網(wǎng)絡(luò)的一種，是當(dāng)下語(yǔ)音分析和圖像識(shí)別領(lǐng)域的研究熱點(diǎn)。

這篇文章用最簡(jiǎn)明的語(yǔ)言和最直觀的圖像，帶你入門(mén)CNN。準(zhǔn)備好了嗎？Let’s go——

我們先從最基礎(chǔ)的內(nèi)容說(shuō)起。

對(duì)二維數(shù)字信號(hào)（圖像）的操作，可以寫(xiě)成矩陣形式。

比如對(duì)圖像做平滑，一個(gè)典型的8領(lǐng)域平滑，其結(jié)果中的每個(gè)值都來(lái)源于原對(duì)應(yīng)位置和其周邊8個(gè)元素與一個(gè)3X3矩陣的乘積：

也就相當(dāng)于對(duì)原矩陣，按照順序?qū)⒏鲄^(qū)域元素與W矩陣相乘，W 矩陣為：

這也被稱作核(Kernel, 3X3)

其處理效果如下：

也就是，這個(gè)核對(duì)圖像進(jìn)行操作，相當(dāng)于對(duì)圖像進(jìn)行了低通濾波。因此這個(gè)核也被稱為濾波器，整個(gè)操作過(guò)程按照概念稱為卷積。

擴(kuò)展來(lái)講，對(duì)二維圖像的濾波操作可以寫(xiě)成卷積，比如常見(jiàn)的高斯濾波、拉普拉斯濾波（算子）等。

濾波器跟卷積神經(jīng)網(wǎng)絡(luò)有什么關(guān)系呢。不如我們預(yù)想一個(gè)識(shí)別問(wèn)題：我們要識(shí)別圖像中的某種特定曲線，也就是說(shuō)，這個(gè)濾波器要對(duì)這種曲線有很高的輸出，對(duì)其他形狀則輸出很低，這也就像是神經(jīng)元的激活。

我們?cè)O(shè)計(jì)的濾波器和想要識(shí)別的曲線如下：

假設(shè)上面的核（濾波器）按照卷積順序沿著下圖移動(dòng)：

那么當(dāng)它移動(dòng)到上面的位置時(shí)，按照矩陣操作，將這個(gè)區(qū)域的圖像像素值與濾波器相乘，我們得到一個(gè)很大的值（6600）：

而當(dāng)這個(gè)濾波器移動(dòng)到其他區(qū)域時(shí)，我們得到一個(gè)相對(duì)很小的值：

如此，我們對(duì)整個(gè)原圖進(jìn)行一次卷積，得到的結(jié)果中，在那個(gè)特定曲線和周邊區(qū)域，值就很高，在其他區(qū)域，值相對(duì)低。這就是一張激活圖。對(duì)應(yīng)的高值區(qū)域就是我們所要檢測(cè)曲線的位置。

在訓(xùn)練卷積審計(jì)網(wǎng)絡(luò)（CNN）的某一個(gè)卷積層時(shí)，我們實(shí)際上是在訓(xùn)練一系列的濾波器(filter)。比如，對(duì)于一個(gè)32x32x3（寬32像素x高32像素xRGB三通道）的圖像，如果我們?cè)贑NN的第一個(gè)卷積層定義訓(xùn)練12個(gè)濾波器，那就這一層的輸出便是32X32X12.按照不同的任務(wù)，我們可以對(duì)這個(gè)輸出做進(jìn)一步的處理，這包括激活函數(shù)，池化，全連接等。

簡(jiǎn)單來(lái)說(shuō)，訓(xùn)練CNN在相當(dāng)意義上是在訓(xùn)練每一個(gè)卷積層的濾波器。讓這些濾波器組對(duì)特定的模式有高的激活，以達(dá)到CNN網(wǎng)絡(luò)的分類/檢測(cè)等目的。

△一個(gè)實(shí)際CNN（AlexNet）第一個(gè)卷積層的濾波器>

卷積神經(jīng)網(wǎng)絡(luò)的第一個(gè)卷積層的濾波器用來(lái)檢測(cè)低階特征，比如邊、角、曲線等。隨著卷積層的增加，對(duì)應(yīng)濾波器檢測(cè)的特征就更加復(fù)雜（理性情況下，也是我們想要的情況）。

比如第二個(gè)卷積層的輸入實(shí)際上是第一層的輸出（濾波器激活圖），這一層的濾波器便是用來(lái)檢測(cè)低價(jià)特征的組合等情況（半圓、四邊形等），如此累積，以檢測(cè)越來(lái)越復(fù)雜的特征。實(shí)際上，我們的人類大腦的視覺(jué)信息處理也遵循這樣的低階特征到高階特征的模式。

可參考之前文章《為什么無(wú)彩色系（黑白灰色）在色彩搭配中可以和諧地與任何彩色搭配？》：https://www.zhihu.com/question/27380522/answer/36794240

最后一層的濾波器按照訓(xùn)練CNN目的的不同，可能是在檢測(cè)到人臉、手寫(xiě)字體等時(shí)候激活[1]。

所以，在相當(dāng)程度上，構(gòu)建卷積神經(jīng)網(wǎng)絡(luò)的任務(wù)就在于構(gòu)建這些濾波器。也就是，將這些濾波器變成這樣(改變?yōu)V波器矩陣的值，也就是Weight)的——能識(shí)別特定的特征。這個(gè)過(guò)程叫做訓(xùn)練。

在訓(xùn)練開(kāi)始之時(shí)，卷積層的濾波器是完全隨機(jī)的，它們不會(huì)對(duì)任何特征激活（不能檢測(cè)任何特征）。這就像剛出生的孩子，TA不知道什么是人臉、什么是狗，什么是上下左右。

TA需要學(xué)習(xí)才知道這些概念，也就是通過(guò)接觸人臉、狗、上下左右，并被告知這些東西分別是人臉、狗、上下左右。然后TA才能在頭腦中記住這些概念，并在之后的某一次見(jiàn)到之后能準(zhǔn)確的給出結(jié)果。

把一個(gè)空白的濾波其，修改其權(quán)重(weights)以使它能檢測(cè)特定的模式，整個(gè)過(guò)程就如工程里面的反饋。

想想一下，如果有一只無(wú)意識(shí)的猴子，完全隨機(jī)的修改一個(gè)5X5濾波器矩陣的25個(gè)值，那完全可能經(jīng)過(guò)一定的輪次之后，這個(gè)濾波器能夠檢測(cè)棱角等特征。這是一種無(wú)反饋的訓(xùn)練情況。對(duì)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練當(dāng)然不能如此，我們不可能靠運(yùn)氣去做這件事情。

舉個(gè)例子，我們要訓(xùn)練一個(gè)用于分類的神經(jīng)網(wǎng)絡(luò)，讓它能判定輸入圖像中的物體最可能是十個(gè)類別的哪一類。那么，訓(xùn)練過(guò)程就是這樣的：

第一次訓(xùn)練，輸入一張圖像，這個(gè)圖像通過(guò)各層卷積處理輸出量一組向量[1,1,1,1,1,1,1,1,1,1], 也就是，對(duì)于完全由隨機(jī)濾波器構(gòu)建的網(wǎng)絡(luò)，其輸出認(rèn)為這張圖等概率的是十個(gè)類別中的某一種。

但是對(duì)于訓(xùn)練，我們有一個(gè)Gound Thuth, 也就是這張圖中物體所屬的類別：[0，0，1，0，0，0，0，0，0，0]，也就是屬于第三類。這時(shí)候我們可以定義一個(gè)損失函數(shù)，比如常見(jiàn)的MSE（mean squared error）。

我們假定L是這個(gè)損失函數(shù)的輸出。這時(shí)候我們的目的就是，讓L的值反饋(這種神經(jīng)網(wǎng)絡(luò)概念下稱為 back propagation， 反向傳輸)給整個(gè)卷積神經(jīng)網(wǎng)絡(luò)，以修改各個(gè)濾波器的權(quán)重，使得損失值L最小。

這是一個(gè)典型的最優(yōu)化問(wèn)題。當(dāng)然地，在工程上我們幾乎不可能一次就把濾波器的權(quán)重W修改到使L最小的情況，而是需要多次訓(xùn)練和多次修改。

如果情況理想的話，權(quán)重修改的方向是使得L的變化收斂的。這也就是說(shuō)很可能達(dá)到了我們訓(xùn)練這個(gè)神經(jīng)網(wǎng)絡(luò)的目的——讓各個(gè)卷積層的濾波器能夠組合起來(lái)最優(yōu)化的檢測(cè)特定的模式。

參考文獻(xiàn)

[1] Zeiler, M. D., & Fergus, R. (2014, September). Visualizing and understanding convolutional networks. In European conference on computer vision (pp. 818-833). Springer, Cham.