close
X

長文解密卷積神經網路體系結構


 引言

先坦白地說,有一段時間我無法真正理解深度學習。我檢視相關研究論文和文章,感覺深度學習異常複雜。我嘗試去理解神經網路及其變體,但依然感到困難。

接著有一天,我決定一步一步,從基礎開始。我把技術操作的步驟分解開來,並手動執行這些步驟(和計算),直到我理解它們如何工作。這相當費時,且令人緊張,但是結果非凡。

現在,我不僅對深度學習有了全面的理解,還在此基礎上有了好想法,因為我的基礎很紮實。隨意地應用神經網路是一回事,理解它是什麼以及背後的發生機制是另外一回事。

今天,我將與你共享我的心得,展示我如何上手卷積神經網路並最終弄明白了它。我將做一個通盤的展示,從而使你對 CNN 的工作機制有一個深入的瞭解。





在本文中,我將會討論 CNN 背後的架構,其設計初衷在於解決影像識別和分類問題。同時我也會假設你對神經網路已經有了初步瞭解。

目錄

1.機器如何看圖?

2.如何幫助神經網路識別影像

3.定義卷積神經網路





4.小結

5.使用 CNN 分類影像

1. 機器如何看圖?

人類大腦是一非常強大的機器,每秒內能看(捕捉)多張圖,並在意識不到的情況下就完成了對這些圖的處理。但機器並非如此。機器處理影像的第一步是理解,理解如何表達一張影像,進而讀取圖片。

簡單來說,每個影像都是一系列特定排序的圖點(畫素)。如果你改變畫素的順序或顏色,影像也隨之改變。舉個例子,儲存並讀取一張上面寫著數字 4 的影像

基本上,機器會把影像打碎成畫素矩陣,儲存每個表示位置畫素的顏色碼。在下圖的表示中,數值 1 是白色,256 是最深的綠色(為了簡化,我們示例限制到了一種顏色)。

一旦你以這種格式儲存完影像資訊,下一步就是讓神經網路理解這種排序與模式。

2. 如何幫助神經網路識別影像

表徵畫素的數值是以特定的方式排序的。

假設我們嘗試使用全連線網路識別影像,該如何做?

全連線網路可以通過平化它,把影像當作一個陣列,並把畫素值當作預測影像中數值的特徵。明確地說,讓網路理解理解下面圖中發生了什麼,非常的艱難。

即使人類也很難理解上圖中表達的含義是數字 4。我們完全丟失了畫素的空間排列。

我們能做什麼呢?可以嘗試從原影像中提取特徵,從而保留空間排列。

案例 1

這裡我們使用一個權重乘以初始畫素值。

現在裸眼識別出這是「4」就變得更簡單了。但把它交給全連線網路之前,還需要平整化(flatten) 它,要讓我們能夠保留影像的空間排列。

案例 2

現在我們可以看到,把影像平整化完全破壞了它的排列。我們需要想出一種方式在沒有平整化的情況下把圖片饋送給網路,並且還要保留空間排列特徵,也就是需要饋送畫素值的 2D/3D 排列。

我們可以嘗試一次採用影像的兩個畫素值,而非一個。這能給網路很好的洞見,觀察鄰近畫素特徵。既然一次採用兩個畫素,那也就需要一次採用兩個權重值了。

希望你能注意到影像從之前的 4 列數值變成了 3 列。因為我們現在一次移用兩個畫素(在每次移動中畫素被共享),影像變的更小了。雖然影像變小了,我們仍能在很大程度上理解這是「4」。而且,要意識到的一個重點是,我們採用的是兩個連貫的水準畫素,因此只會考慮水準的排列。

這是我們從影像中提取特徵的一種方式。我們可以看到左邊和中間部分,但右邊部分看起來不那麼清楚。主要是因為兩個問題:

1. 圖片角落左邊和右邊是權重相乘一次得到的。

2. 左邊仍舊保留,因為權重值高;右邊因為略低的權重,有些丟失。

現在我們有兩個問題,需要兩個解決方案。

案例 3

遇到的問題是影像左右兩角只被權重通過一次。我們需要做的是讓網路像考慮其他畫素一樣考慮角落。我們有一個簡單的方法解決這一問題:把零放在權重運動的兩邊。

你可以看到通過新增零,來自角落的資訊被再訓練。影像也變得更大。這可被用於我們不想要縮小影像的情況下。

案例 4

這裡我們試圖解決的問題是右側角落更小的權重值正在降低畫素值,因此使其難以被我們識別。我們所能做的是採取多個權重值並將其結合起來。

(1,0.3) 的權重值給了我們一個輸出表格

同時表格 (0.1,5) 的權重值也將給我們一個輸出表格。

兩張影像的結合版本將會給我們一個清晰的圖片。因此,我們所做的是簡單地使用多個權重而不是一個,從而再訓練影像的更多資訊。最終結果將是上述兩張影像的一個結合版本。

案例 5

我們到現在通過使用權重,試圖把水準畫素(horizontal pixel)結合起來。但是大多數情況下我們需要在水準和垂直方向上保持空間佈局。我們採取 2D 矩陣權重,把畫素在水準和垂直方向上結合起來。同樣,記住已經有了水準和垂直方向的權重運動,輸出會在水準和垂直方向上低一個畫素

特別感謝 Jeremy Howard 啟發我創作了這些影像

因此我們做了什麼?

上面我們所做的事是試圖通過使用影像的空間的安排從影像中提取特徵。為了理解影像,理解畫素如何安排對於一個網路極其重要。上面我們所做的也恰恰是一個卷積網路所做的。我們可以採用輸入影像,定義權重矩陣,並且輸入被卷積以從影像中提取特殊特徵而無需損失其有關空間安排的資訊。

這個方法的另一個重大好處是它可以減少影像的引數數量。正如所見,卷積影像相比於原始影像有更少的畫素

3.定義一個卷積神經網路

我們需要三個基本的元素來定義一個基本的卷積網路

1. 卷積

2. 池化層(可選)

3. 輸出層

卷積

在這一層中,實際所發生的就像我們在上述案例 5 中見到的一樣。假設我們有一個 6*6 的影像。我們定義一個權值矩陣,用來從影像中提取一定的特徵

我們把權值初始化成一個 3*3 的矩陣。這個權值現在應該與影像結合,所有的畫素都被覆蓋至少一次,從而來產生一個卷積化的輸出。上述的 429,是通過計算權值矩陣和輸入影像的 3*3 高亮部分以元素方式進行的乘積的值而得到的。

現在 6*6 的影像轉換成了 4*4 的影像。想象一下權值矩陣就像用來刷牆的刷子。首先在水準方向上用這個刷子進行刷牆,然後再向下移,對下一行進行水準粉刷。當權值矩陣沿著影像移動的時候,畫素值再一次被使用。實際上,這樣可以使引數在卷積神經網路中被共享。

下面我們以一個真實影像為例。

權值矩陣影像裡表現的像一個從原始影像矩陣中提取特定資訊的過濾器。一個權值組合可能用來提取邊緣(edge)資訊,另一個可能是用來提取一個特定顏色,下一個就可能就是對不需要的噪點進行模糊化。

先對權值進行學習,然後損失函式可以被最小化,類似於多層感知機(MLP)。因此需要通過對引數進行學習來從原始影像中提取資訊,從而來幫助網路進行正確的預測。當我們有多個卷積層的時候,初始層往往提取較多的一般特徵,隨著網路結構變得更深,權值矩陣提取的特徵越來越複雜,並且越來越適用於眼前的問題。

步長(stride)和邊界(padding)的概念

像我們在上面看到的一樣,過濾器或者說權值矩陣,在整個影像範圍內一次移動一個畫素。我們可以把它定義成一個超引數(hyperparameter),從而來表示我們想讓權值矩陣影像內如何移動。如果權值矩陣一次移動一個畫素,我們稱其步長為 1。下面我們看一下步長為 2 時的情況。

你可以看見當我們增加步長值的時候,影像的規格持續變小。在輸入影像四周填充 0 邊界可以解決這個問題。我們也可以在高步長值的情況下在影像四周填加不只一層的 0 邊界。

我們可以看見在我們給影像填加一層 0 邊界後,影像的原始形狀是如何被保持的。由於輸出影像和輸入影像是大小相同的,所以這被稱為 same padding。

這就是 same padding(意味著我們僅考慮輸入影像的有效畫素)。中間的 4*4 畫素是相同的。這裡我們已經利用邊界保留了更多資訊,並且也已經保留了影像的原大小。

多過濾與啟用圖

需要記住的是權值的縱深維度(depth dimension)和輸入影像的縱深維度是相同的。權值會延伸到輸入影像的整個深度。因此,和一個單一權值矩陣進行卷積會產生一個單一縱深維度的卷積化輸出。大多數情況下都不使用單一過濾器(權值矩陣),而是應用維度相同的多個過濾器

每一個過濾器的輸出被堆疊在一起,形成卷積影像的縱深維度。假設我們有一個 32*32*3 的輸入。我們使用 5*5*3,帶有 valid padding 的 10 個過濾器。輸出的維度將會是 28*28*10。

如下圖所示:

啟用圖是卷積層的輸出。

 池化層

有時影像太大,我們需要減少訓練引數的數量,它被要求在隨後的卷積層之間週期性地引進池化層。池化的唯一目的是減少影像的空間大小。池化在每一個縱深維度上獨自完成,因此影像的縱深保持不變。池化層的最常見形式是最大池化。

在這裡,我們把步幅定為 2,池化尺寸也為 2。最大化執行也應用在每個卷機輸出的深度尺寸中。正如你所看到的,最大池化操作後,4*4 卷積的輸出變成了 2*2。

讓我們看看最大池化在真實圖片中的效果如何。

正如你看到的,我們卷積影像,並最大池化了它。最大池化影像仍然保留了汽車在街上的資訊。如果你仔細觀察的話,你會發現影像的尺寸已經減半。這可以很大程度上減少引數。

同樣,其他形式的池化也可以在系統中應用,如平均池化和 L2 規範池化。

輸出維度

理解每個卷積層輸入和輸出的尺寸可能會有點難度。以下三點或許可以讓你瞭解輸出尺寸的問題。有三個超引數可以控制輸出卷的大小。

1. 過濾器數量-輸出卷的深度與過濾器的數量成正比。請記住該如何堆疊每個過濾器的輸出以形成啟用對映。啟用圖的深度等於過濾器的數量。

2. 步幅(Stride)-如果步幅是 1,那麼我們處理圖片的精細度就進入單畫素級別了。更高的步幅意味著同時處理更多的畫素,從而產生較小的輸出量。

3. 零填充(zero padding)-這有助於我們保留輸入影像的尺寸。如果新增了單零填充,則單步幅過濾器的運動會保持在原圖尺寸。

我們可以應用一個簡單的公式來計算輸出尺寸。輸出影像的空間尺寸可以計算為([W-F + 2P] / S)+1。在這裡,W 是輸入尺寸,F 是過濾器的尺寸,P 是填充數量,S 是步幅數字。假如我們有一張 32*32*3 的輸入影像,我們使用 10 個尺寸為 3*3*3 的過濾器,單步幅和零填充。

那麼 W=32,F=3,P=0,S=1。輸出深度等於應用的濾波器的數量,即 10,輸出尺寸大小為 ([32-3+0]/1)+1 = 30。因此輸出尺寸是 30*30*10。

輸出層

在多層卷積和填充後,我們需要以類的形式輸出。卷積和池化層只會提取特徵,並減少原始影像帶來的引數。然而,為了生成最終的輸出,我們需要應用全連線層來生成一個等於我們需要的類的數量的輸出。僅僅依靠卷積層是難以達到這個要求的。卷積層可以生成 3D 啟用圖,而我們只需要影像是否屬於一個特定的類這樣的內容。輸出層具有類似分類交叉熵的損失函式,用於計算預測誤差。一旦前向傳播完成,反向傳播就會開始更新權重與偏差,以減少誤差和損失。

4. 小結

正如你所看到的,CNN 由不同的卷積層和池化層組成。讓我們看看整個網路是什麼樣子:

  • 我們將輸入影像傳遞到第一個卷積層中,卷積後以啟用圖形式輸出。圖片在卷積層中過濾後的特徵會被輸出,並傳遞下去。
  • 每個過濾器都會給出不同的特徵,以幫助進行正確的類預測。因為我們需要保證影像大小的一致,所以我們使用同樣的填充(零填充),否則填充會被使用,因為它可以幫助減少特徵的數量。
  • 隨後加入池化層進一步減少引數的數量。
  • 在預測最終提出前,資料會經過多個卷積和池化層的處理。卷積層會幫助提取特徵,越深的卷積神經網路會提取越具體的特徵,越淺的網路提取越淺顯的特徵
  • 如前所述,CNN 中的輸出層是全連線層,其中來自其他層的輸入在這裡被平化和傳送,以便將輸出轉換為網路所需的引數。
  • 隨後輸出層會產生輸出,這些資訊會互相比較排除錯誤。損失函式是全連線輸出層計算的均方根損失。隨後我們會計算梯度錯誤。
  • 錯誤會進行反向傳播,以不斷改進過濾器權重)和偏差值。
  • 一個訓練週期由單次正向和反向傳遞完成。

5. 在 KERAS 中使用 CNN 對影像進行分類

讓我們嘗試一下,輸入貓和狗的圖片,讓計算機識別它們。這是影像識別和分類的經典問題,機器在這裡需要做的是看到影像,並理解貓與狗的不同外形特徵。這些特徵可以是外形輪廓,也可以是貓的鬍鬚之類,卷積層會攫取這些特徵。讓我們把資料集拿來試驗一下吧。

以下這些圖片均來自資料集。

我們首先需要調整這些影像的大小,讓它們形狀相同。這是處理影像之前通常需要做的,因為在拍照時,讓照下的影像都大小相同幾乎不可能。

為了簡化理解,我們在這裡只用一個卷積層和一個池化層。注意:在 CNN 的應用階段,這種簡單的情況是不會發生的。

#import various packagesimport osimport numpy as npimport pandas as pdimport scipyimport sklearnimport kerasfrom keras.models import Sequentialimport cv2from skimage import io%matplotlib inline#Defining the File Pathcat=os.listdir("/mnt/hdd/datasets/dogs_cats/train/cat")dog=os.listdir("/mnt/hdd/datasets/dogs_cats/train/dog")filepath="/mnt/hdd/datasets/dogs_cats/train/cat/"filepath2="/mnt/hdd/datasets/dogs_cats/train/dog/"#Loading the Imagesimages=[]label = []for i in cat:image = scipy.misc.imread(filepath+i)images.append(image)label.append(0) #for cat imagesfor i in dog:image = scipy.misc.imread(filepath2+i)images.append(image)label.append(1) #for dog images#resizing all the imagesfor i in range(0,23000):images[i]=cv2.resize(images[i],(300,300))#converting images to arraysimages=np.array(images)label=np.array(label)# Defining the hyperparametersfilters=10filtersize=(5,5)epochs =5batchsize=128input_shape=(300,300,3)#Converting the target variable to the required sizefrom keras.utils.np_utils import to_categoricallabel = to_categorical(label)#Defining the modelmodel = Sequential()model.add(keras.layers.InputLayer(input_shape=input_shape))model.add(keras.layers.convolutional.Conv2D(filters, filtersize, strides=(1, 1), padding='valid', data_format="channels_last", activation='relu'))model.add(keras.layers.MaxPooling2D(pool_size=(2, 2)))model.add(keras.layers.Flatten())model.add(keras.layers.Dense(units=2, input_dim=50,activation='softmax'))model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy'])model.fit(images, label, epochs=epochs, batch_size=batchsize,validation_split=0.3)model.summary()

在這一模型中,我只使用了單一卷積和池化層,可訓練引數是 219,801。很好奇如果我在這種情況使用了 MLP 會有多少引數。通過增加更多的卷積和池化層,你可以進一步降低引數的數量。我們新增的卷積層越多,被提取的特徵就會更具體和複雜。

在該模型中,我只使用了一個卷積層和池化層,可訓練引數量為 219,801。如果想知道使用 MLP 在這種情況下會得到多少,你可以通過加入更多卷積和池化層來減少引數的數量。越多的卷積層意味著提取出來的特徵更加具體,更加複雜。

結語

希望本文能夠讓你認識卷積神經網路,這篇文章沒有深入 CNN 的複雜數學原理。如果希望增進了解,你可以嘗試構建自己的卷積神經網路,藉此來了解它執行和預測的原理。

本文轉自機器之心,原文來自Analyticsvidhya,作者DISHASHREE GUPTA。

  1. 聯想Luigi Brochard:高效能運算三大戰略, 推動人工智慧飛速發展
  2. WOT講師楊釗:人工智慧將在不同應用場景逐步落地
  3. 人工智慧線上特徵系統中的資料存取技術
  4. 離開大資料/人工智慧 餓了可能「吃不上飯」
  5. 人工智慧第三次黃金時代,藏在全球數億攝像頭裡?





分享是一種美德,喜歡就幫我們讚一下支持吧~

為你推薦

  • 我的朋友400字作文

    我的朋友400字作文

      我的朋友400字作文(一)  我的朋友是龐晨旭,他長著一個大大的、圓圓的頭。還長著一雙炯炯有神的大眼睛,看東西的時候,總是目不轉睛。他還有一個能說會道的小嘴巴,說起話來滔滔不絕。還有一點就是愛讀書

  • 《水滸傳》讀書筆記

    《水滸傳》讀書筆記

      《水滸傳》讀書筆記(一)  武松殺死了西門慶,就被髮送了孟州充軍,又在十字坡結識了張青和孫二孃。但是這些都不夠精彩,唯獨這集裡的武松醉打蔣門神最為精彩。  本集中,武松為了個人的友誼而去幫助施恩奪