1、卷積神經(jīng)網(wǎng)絡(luò)的概念

計(jì)算機(jī)視覺和 CNN 發(fā)展十一座里程碑

上世紀(jì)60年代，Hubel等人通過對貓視覺皮層細(xì)胞的研究，提出了感受野這個(gè)概念，到80年代，F(xiàn)ukushima在感受野概念的基礎(chǔ)之上提出了神經(jīng)認(rèn)知機(jī)的概念，可以看作是卷積神經(jīng)網(wǎng)絡(luò)的第一個(gè)實(shí)現(xiàn)網(wǎng)絡(luò)，神經(jīng)認(rèn)知機(jī)將一個(gè)視覺模式分解成許多子模式（特征），然后進(jìn)入分層遞階式相連的特征平面進(jìn)行處理，它試圖將視覺系統(tǒng)模型化，使其能夠在即使物體有位移或輕微變形的時(shí)候，也能完成識別。

卷積神經(jīng)網(wǎng)絡(luò)是多層感知機(jī)（MLP）的變種，由生物學(xué)家休博爾和維瑟爾在早期關(guān)于貓視覺皮層的研究發(fā)展而來，視覺皮層的細(xì)胞存在一個(gè)復(fù)雜的構(gòu)造，這些細(xì)胞對視覺輸入空間的子區(qū)域非常敏感，稱之為感受野。

CNN由紐約大學(xué)的Yann Lecun于1998年提出，其本質(zhì)是一個(gè)多層感知機(jī)，成功的原因在于其所采用的局部連接和權(quán)值共享的方式：

一方面減少了權(quán)值的數(shù)量使得網(wǎng)絡(luò)易于優(yōu)化

另一方面降低了模型的復(fù)雜度，也就是減小了過擬合的風(fēng)險(xiǎn)

該優(yōu)點(diǎn)在網(wǎng)絡(luò)的輸入是圖像時(shí)表現(xiàn)的更為明顯，使得圖像可以直接作為網(wǎng)絡(luò)的輸入，避免了傳統(tǒng)識別算法中復(fù)雜的特征提取和數(shù)據(jù)重建的過程，在二維圖像的處理過程中有很大的優(yōu)勢，如網(wǎng)絡(luò)能夠自行抽取圖像的特征包括顏色、紋理、形狀及圖像的拓?fù)浣Y(jié)構(gòu)，在處理二維圖像的問題上，特別是識別位移、縮放及其他形式扭曲不變性的應(yīng)用上具有良好的魯棒性和運(yùn)算效率等。