[[212238]]

上世紀(jì)科學(xué)家們發(fā)現(xiàn)了幾個(gè)視覺(jué)神經(jīng)特點(diǎn)，視神經(jīng)具有局部感受眼，一整張圖的識(shí)別由多個(gè)局部識(shí)別點(diǎn)構(gòu)成；不同神經(jīng)元對(duì)不同形狀有識(shí)別能力，且視神經(jīng)具有疊加能力，高層復(fù)雜的圖案可以由低層簡(jiǎn)單線(xiàn)條組成。之后人們發(fā)現(xiàn)經(jīng)過(guò)conclusional的操作，可以很好反映視神經(jīng)處理計(jì)算的過(guò)程，典型的是1998年LeCun發(fā)明的LeNet-5，可以極大地提升識(shí)別效果。

本文主要就convolutional layer、pooling layer和整體CNN結(jié)構(gòu)展開(kāi)。

一、Convolutional Layer卷積層

1、原理和參數(shù)

可以模擬局部感受眼的性質(zhì)，同上一層不是全連接，而是一小塊區(qū)域連接，這一小塊就是局部感受眼（receptive field）。并且通過(guò)構(gòu)造特定的卷積神經(jīng)元，可以模擬不同神經(jīng)元對(duì)不同形狀刺激不同反應(yīng)的性質(zhì)。如下圖所示，一個(gè)神經(jīng)元處理一層會(huì)形成一個(gè)feature map，多層疊加，層數(shù)逐漸加深。

感受眼（kernel或filter）的尺寸可以看做fh*fw，由于感受眼本身具有尺寸，feature map會(huì)不斷縮小，為了處理方便，使得每層大小不變，于是我們每層加值為0的邊（zero padding），保證經(jīng)過(guò)處理以后的feature map同前一層尺寸一樣。多層之間的卷積運(yùn)算操作，相當(dāng)于和原來(lái)像素對(duì)應(yīng)位置做乘法。如下左圖所示，加了邊后可以保證上下層大小一致，右圖表示每層之間convolve的操作（如果不加zero padding）。

但上圖所示只是簡(jiǎn)單例子，一般掃描的是三維圖像（RGB），就不是一個(gè)矩陣，而是一個(gè)立方體，我們用一個(gè)三維塊去掃描它，原理同上圖相同。

有時(shí)掃描時(shí)不是順序去掃，而是跳躍著掃描，每次移動(dòng)2-3個(gè)像素值（stride），但并非完全分離不會(huì)造成信息丟失，這樣形成的feature map相較于原始圖片縮小，實(shí)現(xiàn)信息聚集的效果。

就像如下灰度圖（2d）中所示，左邊只提取豎線(xiàn)（vertical filter），右邊只提取橫線(xiàn)（horizontal filter）可看出橫梁部分變亮，大量不同的這樣的filter（比如可以識(shí)別邊角、折線(xiàn)的filter）的疊加，可形成多張feature maps

下圖是一個(gè)3d的RGB效果，每個(gè)kernel（filter）可以?huà)呙璩鲆粡坒eature map，多個(gè)filter可以疊加出很厚的feature maps，前一層filter做卷積可以形成后一層的一個(gè)像素點(diǎn)

如下圖，可以代表i行j列k深度的一個(gè)輸出像素值，k’代表第k個(gè)filter，w代表filter中的值，x代表輸入，b是偏值。

2、TensorFlow實(shí)現(xiàn)

以下是使用TensorFlow實(shí)現(xiàn)的代碼，主要使用conv2d這個(gè)函數(shù)

import numpy as np 
 
from sklearn.datasets import load_sample_images 
 
# Load sample images 
 
dataset = np.array(load_sample_images().images, dtype=np.float32) 
 
# 一共4維，channel表示通道數(shù)，RGB是3 
 
batch_size, height, width, channels = dataset.shape 
 
# Create 2 filters 
 
# 一般感受眼大小7*7,5*5,3*3，設(shè)置2個(gè)kernel，輸出2層feature map 
 
filters_test = np.zeros(shape=(7, 7, channels, 2), dtype=np.float32) 
 
# 第一個(gè)（0）filter的設(shè)定，7*7矩陣中，3是中間 
 
filters_test[:, 3, :, 0] = 1 # vertical line 
 
# 第二個(gè)（1）filter的設(shè)定 
 
filters_test[3, :, :, 1] = 1 # horizontal line 
 
# a graph with input X plus a convolutional layer applying the 2 filters 
 
X = tf.placeholder(tf.float32, shape=(None, height, width, channels)) 
 
# 雖然輸入是一個(gè)四維圖像，但是由于batch_size和channel都已經(jīng)固定，所以使用conv2d 
 
# strides設(shè)定，第一個(gè)和第四個(gè)都是1表示不可以跳過(guò)batch_size和channel 
 
# 那兩個(gè)2表示橫縱向都縮減2，相當(dāng)于整張圖片縮減為原來(lái)四分之一，做了75%的縮減 
 
convolution = tf.nn.conv2d(X, filters, strides=[1,2,2,1], padding="SAME") 
 
with tf.Session() as sess: 
 
    output = sess.run(convolution, feed_dict={X: dataset}) 

下面是padding的值SAME和VALID的區(qū)別（filter的寬度為6，stride為5），SAME確保所有圖像信息都被convolve添加zero padding，而VALID只添加包含在內(nèi)的像素點(diǎn)

3、所耗內(nèi)存計(jì)算

相比于傳統(tǒng)的全連接層，卷積層只是部分連接，節(jié)省了很多內(nèi)存。

比如：一個(gè)具有5*5大小filter的卷積層，輸出200張150*100大小的feature maps，stride取1（即不跳躍），padding為SAME。輸入是150*100大小的RGB圖像（channel=3），總共的參數(shù)個(gè)數(shù)是200*（5*5*3+1）=15200，其中+1是bias；如果輸出采用32-bits float表示（np.float32），那么每張圖片會(huì)占據(jù)200*150*100*32=9600000bits（11.4MB），如果一個(gè)training batch包含100張圖片（mini-batch=100），那么這一層卷積層就會(huì)占據(jù)1GB的RAM。

可以看出，訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)是非常消耗內(nèi)存的，但是使用時(shí)，只用到最后一層的輸出即可。

二、Pooling Layer池化層

1、原理和參數(shù)

當(dāng)圖片大小很大時(shí)內(nèi)存消耗巨大，而Pooling Layer所起的作用是濃縮效果，緩解內(nèi)存壓力。

即選取一定大小區(qū)域，將該區(qū)域用一個(gè)代表元素表示。具體的Pooling有兩種，取平均值（mean）和取最大值（max）。如下圖所示是一個(gè)取最大值的pooling layer，kernel大小為2*2，stride大小取決于kernel大小，這里是2，即剛好使得所有kernel都不重疊的值，因而實(shí)現(xiàn)高效的信息壓縮，將原始圖像橫縱壓縮一半，如右圖所示，特征基本都完全保留了下來(lái)。

pooling這個(gè)操作不影響channel數(shù)，在feature map上也一般不做操作（即z軸一般不變），只改變橫縱大小。

2、TensorFlow實(shí)現(xiàn)

# Create a graph with input X plus a max pooling layer 
 
X = tf.placeholder(tf.float32, shape=(None, height, width, channels)) 
 
# 選用取最大值的max_pool方法 
 
# 如果是取平均值，這里是mean_pool 
 
# ksize就是kernel大小，feature map和channel都是1,橫向縱向是2 
 
max_pool = tf.nn.max_pool(X, ksize=[1,2,2,1], strides=[1,2,2,1],padding="VALID") 
 
with tf.Session() as sess: 
 
    output = sess.run(max_pool, feed_dict={X: dataset}) 

三、整體CNN框架

典型CNN architecture

有名的CNN架構(gòu)：

LeNet（MISIT上）-1998：輸入32*32（在28*28圖像上加了zero padding）。第一層kernel用了6個(gè)神經(jīng)元，kernel大小5*5，stride取1，輸出就是28*28；第二層做了average pooling，2*2的kernel，stride是2，輸出就變?yōu)樵瓉?lái)的一半，不改變feature map數(shù)目；第三層放了16個(gè)神經(jīng)元，其他同理；第五層用了120個(gè)神經(jīng)元，5*5的kernel對(duì)5*5的輸入做卷積，沒(méi)法再滑動(dòng)，輸出為1*1；F6用120個(gè)1*1的輸出全連接84個(gè)神經(jīng)元，Out全連接10個(gè)神經(jīng)元，對(duì)應(yīng)手寫(xiě)體識(shí)別輸出的10個(gè)數(shù)字。

激活函數(shù)前面都用的tanh，是傳統(tǒng)CNN中常用的，輸出層用了RBF比較特殊，是一個(gè)計(jì)算距離的方式去判斷和目標(biāo)輸出間距離做lost。。

AlexNet-2012：最早應(yīng)用于競(jìng)賽中，近10%的提高了準(zhǔn)確度

輸入224*224的彩色圖像，C1是個(gè)很大的11*11的filter，stride=4。。最后連做3層convolution。。最后輸出1000個(gè)類(lèi)的分類(lèi)結(jié)果。

激活函數(shù)使用ReLU，這在現(xiàn)今很流行，輸出層用的softmax

AlexNet使用了一個(gè)小技巧是Local Response Normalization（LRN局部響應(yīng)歸一化）

這種操作可以在傳統(tǒng)輸出上加一個(gè)bias，考慮到近鄰的一些輸出影響。即一個(gè)輸出旁邊有很牛掰的輸出的話(huà)，它的輸出就會(huì)慫了，收到抑制，可以看到，含β的整個(gè)項(xiàng)都在分母上。但后來(lái)發(fā)現(xiàn)，這個(gè)技術(shù)對(duì)分類(lèi)器的提升也不是很明顯，有的就沒(méi)有用。

GoogleLeNet-2014：

大量應(yīng)用Inception module，一個(gè)輸入進(jìn)來(lái)，直接分四步進(jìn)行處理，這四步處理完后深度直接進(jìn)行疊加。在不同的尺度上對(duì)圖片進(jìn)行操作。大量運(yùn)用1*1的convolution，可以靈活控制輸出維度，可以降低參數(shù)數(shù)量。

如右圖所示，輸入是192，使用了9層inception module，如果直接用3*3,5*5參數(shù)，可以算一下，之后inception參數(shù)數(shù)目是非常大的，深度上可以調(diào)節(jié)，可以指定任意數(shù)目的feature map，通過(guò)增加深度把維度減下來(lái)。inception模塊6個(gè)參數(shù)剛好對(duì)應(yīng)這6個(gè)convolution，上面4個(gè)參數(shù)對(duì)應(yīng)上面4個(gè)convolution，加入max pool不會(huì)改變feature map數(shù)目（如480=128+192+96+64）。

將正確率升高到95-96%，超過(guò)人類(lèi)分辨率，因?yàn)閕mage net中但是狗的種類(lèi)就有很多，人類(lèi)無(wú)法完全一一分辨出。

ReSNet殘差網(wǎng)絡(luò)-2015：

不再直接學(xué)習(xí)一個(gè)目標(biāo)函數(shù)，輸入直接跳過(guò)中間層直接連到輸出上，要學(xué)習(xí)的是殘差f（x），輸入跳過(guò)中間層直接加到輸出上。

好處是：深度模型路徑依賴(lài)的限制，即gradient向前傳導(dǎo)時(shí)要經(jīng)過(guò)所有層，如果中間有層死掉了，前面的層就無(wú)法得到訓(xùn)練。殘差網(wǎng)絡(luò)不斷跳躍，即使中間有的層已經(jīng)死掉，信息仍舊能夠有效流動(dòng)，使得訓(xùn)練信號(hào)有效往回傳導(dǎo)。