引 言

隨著計(jì)算機(jī)視覺(jué)技術(shù)的不斷發(fā)展與完善，人們開(kāi)始著眼于將計(jì)算機(jī)視覺(jué)系統(tǒng)應(yīng)用于現(xiàn)實(shí)生活中，人臉識(shí)別技術(shù)在身份驗(yàn)證方面達(dá)到了令人矚目的成就，而路標(biāo)識(shí)別則是自動(dòng)駕駛的重中之重。自動(dòng)駕駛的火熱反映出人們對(duì)其的迫切需求，而更多的矚目意味著更嚴(yán)苛的標(biāo)準(zhǔn)，自動(dòng)駕駛對(duì)路標(biāo)識(shí)別的要求不僅僅在準(zhǔn)確性方面，更多的是要求系統(tǒng)的處理速度是駕駛系統(tǒng)可以接受的，即要求識(shí)別過(guò)程盡可能的高效。相較于傳統(tǒng)的識(shí)別方法，使用卷積神經(jīng)網(wǎng)絡(luò)不僅可以達(dá)到更加令人滿意的準(zhǔn)確率，同時(shí)，算法的消耗時(shí)間也可以接受。

卷積神經(jīng)網(wǎng)絡(luò)經(jīng)過(guò)多年的積累和完善，已經(jīng)被廣泛應(yīng)用于圖片識(shí)別領(lǐng)域， 并且取得了顯著的成效。Lenet-5 可謂是最早的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，由LeCun 等人首先提出，他們最早將其應(yīng)用在文本識(shí)別領(lǐng)域，在 mnist 手寫(xiě)數(shù)字?jǐn)?shù)據(jù)庫(kù)上， Lenet-5 的識(shí)別率可以達(dá)到 99.8%，這是使用傳統(tǒng)模式識(shí)別方法所不能比擬的。卷積神經(jīng)網(wǎng)絡(luò)的另一大優(yōu)勢(shì)在于，它可以將原始圖片直接輸入網(wǎng)絡(luò)，自動(dòng)訓(xùn)練特征，不同于很多傳統(tǒng)的模式識(shí)別方法，無(wú)需對(duì)圖片進(jìn)行繁復(fù)的預(yù)處理工作或人為指定特征。

近期研究表明，識(shí)別的準(zhǔn)確率與神經(jīng)網(wǎng)絡(luò)的深度有很大關(guān)系，一般情況下，深層網(wǎng)絡(luò)相較于淺層都可以取得較高的準(zhǔn)確率。所以本文在傳統(tǒng)的Lenet-5上做了改進(jìn)，通過(guò)增加它的層數(shù)來(lái)提升識(shí)別效果，并應(yīng)用于實(shí)景交通標(biāo)志的識(shí)別中。經(jīng)驗(yàn)證，這些改進(jìn)取得了不錯(cuò)的效果。

1 實(shí)景交通標(biāo)志識(shí)別神經(jīng)網(wǎng)絡(luò)模型

傳統(tǒng)的Lenet-5 網(wǎng)絡(luò)一共包含 7 層，含有卷積、下采樣和池化三種操作。卷積層使用 5 5 的卷積核，卷積步長(zhǎng)為1 ；池化層使用max-pooling，池化窗口大小 2 2，步長(zhǎng)為 1。傳統(tǒng)網(wǎng)絡(luò)由于受到網(wǎng)絡(luò)層數(shù)的限制，導(dǎo)致識(shí)別率難以再提升，現(xiàn)做如下改進(jìn)：

(1) 增加了網(wǎng)絡(luò)層數(shù)，增加了兩個(gè)卷積層，并把卷積核大小改為 3 3；

(2) 在全連接層之后加入Dropout操作，以防止網(wǎng)絡(luò)訓(xùn)練過(guò)擬合；

(3) 使用Softmax層作為輸出層，將結(jié)果映射為概率的形式。

改進(jìn)的網(wǎng)絡(luò)結(jié)構(gòu)見(jiàn)表 1 所列。

在該網(wǎng)絡(luò)模型中，使用了4 個(gè)卷積層，每一層的卷積核 大小均為 3×3，前兩個(gè)卷積層含有 64 個(gè) FeatureMap，后兩個(gè) 卷積層含有 128 個(gè) FeatureMap。每隔兩個(gè)卷積層會(huì)緊跟一個(gè) 池化層，池化窗口為 2×2，步長(zhǎng)為 2。神經(jīng)網(wǎng)絡(luò)的末端是兩個(gè) 全連接層和一個(gè) Softmax 層，全連接層的神經(jīng)元個(gè)數(shù)分別為 786 和 500，每個(gè)全連接層均采用 Dropout 操作，即隨機(jī)去掉 一些神經(jīng)元的連接，Dropout 概率取 0.5。

2 訓(xùn)練集

訓(xùn)練集包含 10 萬(wàn)張訓(xùn)練圖片和 2萬(wàn)張測(cè)試圖片，包含100種交通標(biāo)志分類，所以每個(gè)目標(biāo)分類對(duì)應(yīng) 1000張訓(xùn)練圖片和 200 張測(cè)試圖片。這些圖片是在不同時(shí)段選擇各種不同角度拍攝的實(shí)景圖片，更能真實(shí)反映實(shí)景圖識(shí)別中光照、天氣等復(fù)雜情況的影響。每張圖片都是 64 64 的RGB 三通道圖片。在訓(xùn)練網(wǎng)絡(luò)過(guò)程中，這些圖片不需做任何預(yù)處理，可直接輸入網(wǎng)絡(luò)進(jìn)行訓(xùn)練。常見(jiàn)的交通標(biāo)志如圖 1 所示，交通標(biāo)志圖例如圖 2 所示。

3 深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程

一直以來(lái)深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練都被公認(rèn)為是一件很困難的事情，隨著網(wǎng)絡(luò)深度的增加，訓(xùn)練難度會(huì)越來(lái)越大。網(wǎng)絡(luò)權(quán)重的初始化不理想或者訓(xùn)練參數(shù)設(shè)置不合理，都會(huì)導(dǎo)致網(wǎng)絡(luò)訓(xùn)練過(guò)程中出現(xiàn)過(guò)擬合，進(jìn)而致使訓(xùn)練失敗。因此，選擇一套好的訓(xùn)練方法十分必要?？梢詫⑸窠?jīng)網(wǎng)絡(luò)看作一個(gè)關(guān)于輸入向量 x、權(quán)重 w 和偏執(zhí) b 的非線性函數(shù)，用 F(x，w, b) 表示。使用交叉熵函數(shù)來(lái)計(jì)算網(wǎng)絡(luò)的輸出 F(x，w, b) 與真實(shí)標(biāo)簽 L(x) 的誤差值：

其中，n 表示訓(xùn)練樣本的個(gè)數(shù)，x 表示某一個(gè)樣本，F(xiàn)(x，w, b) 表示該樣本經(jīng)過(guò)神經(jīng)網(wǎng)絡(luò)后的輸出，L(x) 表示該樣本的標(biāo)簽。 我們的優(yōu)化目標(biāo)是最小化該損失函數(shù) C（x, w, b）。

目前對(duì)于神經(jīng)網(wǎng)絡(luò)的訓(xùn)練均采用基于梯度的優(yōu)化算法， 這種算法分為以下兩步：

（2）利用梯度更新 w 和 b 的值，從而使 C（x, w, b）逐步趨于最小化。

反向傳播算法是一種利用誤差反向傳播來(lái)求取梯度的方法。當(dāng)網(wǎng)絡(luò)獲得一個(gè)輸入向量時(shí)，該向量會(huì)通過(guò)前向傳播經(jīng)過(guò)網(wǎng)絡(luò)的每一層，直到其到達(dá)輸出層。這時(shí)，輸出層會(huì)將當(dāng)前向量與期望輸出向量進(jìn)行比對(duì)，并使用一個(gè)誤差函數(shù)以計(jì)算得到網(wǎng)絡(luò)中每層存在的誤差值。這些誤差將被反向傳播回網(wǎng)絡(luò)中的每一層，我們可以認(rèn)為這些誤差值便是該輸入向量對(duì)網(wǎng)絡(luò)的貢獻(xiàn)。反向傳播算法使用這些誤差值與相應(yīng)的權(quán)重值進(jìn)行損失函數(shù)的梯度計(jì)算。當(dāng)梯度計(jì)算好之后，使用 伴隨沖量的隨機(jī)梯度下降算法 來(lái)優(yōu)化權(quán)重 w 和偏執(zhí) b ：

其中， >0 是學(xué)習(xí)率，m∈[0, 1] 是沖量系數(shù)，?wC x( , w b, ) 是損 失函數(shù) C 關(guān)于權(quán)重 w 的梯度。偏執(zhí) b 的更新和權(quán)重 w 的更新 類似，需要計(jì)算損失函數(shù) C 關(guān)于偏執(zhí) b 的梯度。 

網(wǎng)絡(luò)中的權(quán)重 w 使用 Xavier 方法初始化，而偏執(zhí) b 則統(tǒng) 一初始化為 0。在訓(xùn)練過(guò)程中，將沖量系數(shù) m 設(shè)置為 0.9，學(xué) 習(xí)率 設(shè)置為 0.001，min-batch 設(shè)置為 100，經(jīng)歷一個(gè) epoch 需要 1 000 次迭代。

4 實(shí)驗(yàn)結(jié)果 

在大約 60 個(gè) epoch 之后，準(zhǔn)確率和誤差值基本收斂， 實(shí)驗(yàn)結(jié)果如圖 3 和圖 4 所示。圖 3 中兩條曲線分別表示訓(xùn)練 數(shù)據(jù)和測(cè)試數(shù)據(jù)的準(zhǔn)確率，圖 4 表示訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)的 誤差值。由圖可以看到，隨著迭代次數(shù)的增加，識(shí)別率在逐 步增加，而誤差值在逐漸減小，最終的準(zhǔn)確率可以達(dá)到 85%。