[[181397]]

引言

自2006年Hinton提出神經(jīng)網(wǎng)絡(luò)新的訓(xùn)練方法起，深度學(xué)習(xí)發(fā)展迅速，促使人工智能在圖像、語(yǔ)音、自然語(yǔ)言處理等多個(gè)領(lǐng)域有了實(shí)質(zhì)性的突破，達(dá)到產(chǎn)業(yè)應(yīng)用標(biāo)準(zhǔn)。然而，深度學(xué)習(xí)作為人工智能領(lǐng)域的一項(xiàng)前瞻技術(shù)，實(shí)踐性強(qiáng)，入門門檻高，關(guān)于深度學(xué)習(xí)的研究與應(yīng)用，現(xiàn)在仍有很多問(wèn)題沒(méi)有找到滿意的答案，這些都給深度學(xué)習(xí)的廣泛應(yīng)用帶來(lái)挑戰(zhàn)。本文旨在提供一份清晰、簡(jiǎn)潔的深度學(xué)習(xí)實(shí)踐說(shuō)明，以便從事深度學(xué)習(xí)研究與工程技術(shù)人員能夠快速掌握深度學(xué)習(xí)的實(shí)際經(jīng)驗(yàn)。

第一節(jié)：深度學(xué)習(xí)概述

深度學(xué)習(xí)是模擬人腦進(jìn)行分析學(xué)習(xí)的多層神經(jīng)網(wǎng)絡(luò)，它模仿人腦的機(jī)制來(lái)解釋數(shù)據(jù)，處理數(shù)據(jù)，通過(guò)組合低層特征形成更加抽象的高層表示屬性類別或特征，以發(fā)現(xiàn)數(shù)據(jù)的分布式特征表示。深度學(xué)習(xí)本質(zhì)上是機(jī)器學(xué)習(xí)技術(shù)的一種，根據(jù)一般的機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的工作方法和我們的經(jīng)驗(yàn)，我們認(rèn)為采用深度學(xué)習(xí)技術(shù)解決實(shí)際業(yè)務(wù)問(wèn)題的完整過(guò)程主要包括五個(gè)方面：?jiǎn)栴}理解與分析、訓(xùn)練環(huán)境構(gòu)建、數(shù)據(jù)管理、模型訓(xùn)練以及生產(chǎn)應(yīng)用。基于此，我們對(duì)每個(gè)環(huán)節(jié)分別闡述最佳實(shí)踐，作為研究與工程應(yīng)用的參考指南。

圖一：深度學(xué)習(xí)解決問(wèn)題的五個(gè)基本環(huán)節(jié) 

第二節(jié)：?jiǎn)栴}理解與分析

深度學(xué)習(xí)不是一項(xiàng)“放之四海而皆準(zhǔn)”的技術(shù)，采用深度學(xué)習(xí)解決復(fù)雜問(wèn)題，首先需對(duì)實(shí)際問(wèn)題全面剖析：?jiǎn)栴}是否適合采用深度學(xué)習(xí)解決，是否具備深度學(xué)習(xí)應(yīng)用的數(shù)據(jù)條件，如何將實(shí)際業(yè)務(wù)問(wèn)題轉(zhuǎn)換成深度學(xué)習(xí)可以解決的技術(shù)問(wèn)題等。

2.1場(chǎng)景分析

原則上，傳統(tǒng)機(jī)器學(xué)習(xí)能夠解決的問(wèn)題，深度學(xué)習(xí)都能夠解決，譬如傳統(tǒng)機(jī)器學(xué)習(xí)主要面向?qū)W習(xí)類問(wèn)題，包括有監(jiān)督學(xué)習(xí)(分類和回歸場(chǎng)景)，無(wú)監(jiān)督學(xué)習(xí)(聚類等)，均能夠采用深度學(xué)習(xí)網(wǎng)絡(luò)訓(xùn)練模型和應(yīng)用，但是兩者應(yīng)用效果會(huì)有所差異。依據(jù)實(shí)踐，在如下場(chǎng)景，可以優(yōu)先考慮采用深度學(xué)習(xí)：

(1)業(yè)界提供了公開成熟的深度學(xué)習(xí)網(wǎng)絡(luò)模型的細(xì)分場(chǎng)景。面對(duì)這些場(chǎng)景的業(yè)務(wù)問(wèn)題，可以基于公開的網(wǎng)絡(luò)模型進(jìn)行網(wǎng)絡(luò)權(quán)重微調(diào)(fine-tune)，能夠達(dá)到不錯(cuò)效果。以圖像識(shí)別為例，業(yè)界已經(jīng)公開了AlexNet，ResNet等深度網(wǎng)絡(luò)模型，在解決實(shí)際圖像分類問(wèn)題時(shí)可避免從頭訓(xùn)練深度模型，在該模型的基礎(chǔ)上, 使用樣本數(shù)據(jù)進(jìn)行模型參數(shù)優(yōu)化(fine-tune)即可。

(2)深度學(xué)習(xí)應(yīng)用成功的行業(yè)，譬如，深度學(xué)習(xí)在圖像分類、語(yǔ)音識(shí)別、自然語(yǔ)言處理等感知領(lǐng)域均取得實(shí)際應(yīng)用效果，并在行業(yè)內(nèi)得到驗(yàn)證，因此如果問(wèn)題域?qū)儆趫D像、語(yǔ)音、視頻等領(lǐng)域的問(wèn)題，深度學(xué)習(xí)應(yīng)用效果往往比較理想。

(3)業(yè)務(wù)問(wèn)題本身復(fù)雜，樣本數(shù)據(jù)充足，但問(wèn)題本身又無(wú)法或者難以用人工的方式提取特征，此時(shí)傳統(tǒng)機(jī)器學(xué)習(xí)無(wú)法進(jìn)行模型訓(xùn)練，采用深度學(xué)習(xí)，可以有效發(fā)揮深度學(xué)習(xí)自動(dòng)提取特征的價(jià)值。

與此同時(shí)，某些場(chǎng)景并不適合采用深度學(xué)習(xí)來(lái)解決問(wèn)題，譬如在小規(guī)模的數(shù)據(jù)場(chǎng)景下，深度學(xué)習(xí)容易過(guò)擬合(Overfitting)，正如奧卡姆剃刀原則所說(shuō)，“如無(wú)必要，勿增實(shí)體”。

此外，深度學(xué)習(xí)模型訓(xùn)練過(guò)程中，需要大量的浮點(diǎn)計(jì)算以及矩陣運(yùn)算，若問(wèn)題解決方不具備高效的計(jì)算環(huán)境以及海量樣本數(shù)據(jù)的客觀條件，也不推薦使用深度學(xué)習(xí)解決問(wèn)題。

2.2數(shù)據(jù)評(píng)估

無(wú)論是有監(jiān)督學(xué)習(xí)，還是無(wú)監(jiān)督學(xué)習(xí)，深度學(xué)習(xí)的模型訓(xùn)練都建立在大量樣本的迭代訓(xùn)練基礎(chǔ)之上，在采用深度學(xué)習(xí)解決實(shí)際問(wèn)題之前，需對(duì)問(wèn)題領(lǐng)域數(shù)據(jù)仔細(xì)分析，衡量數(shù)據(jù)規(guī)模與質(zhì)量。以下提供幾條基本原則供借鑒：

(1)深度學(xué)習(xí)能夠從樣本數(shù)據(jù)自動(dòng)提取特征，但在實(shí)際考查準(zhǔn)備樣本數(shù)據(jù)集時(shí)，建議盡可能與問(wèn)題領(lǐng)域的業(yè)務(wù)專家充分交流，洞察問(wèn)題與數(shù)據(jù)的相關(guān)性，剔除噪聲數(shù)據(jù)，這樣可以大大提高模型訓(xùn)練的效率，少走彎路。

(2)考察問(wèn)題領(lǐng)域的存量數(shù)據(jù)后，若發(fā)現(xiàn)不是特別充裕，可考慮如下方法進(jìn)行數(shù)據(jù)擴(kuò)充：爬取公共數(shù)據(jù);對(duì)已有數(shù)據(jù)進(jìn)行變換，擴(kuò)充數(shù)據(jù)，譬如利用反射變化擴(kuò)充圖片數(shù)據(jù);人工制造，譬如人工拍攝圖像數(shù)據(jù)等;與產(chǎn)業(yè)界公司進(jìn)行數(shù)據(jù)合作等。詳見4.1節(jié)。

(3)當(dāng)采用業(yè)界公開的網(wǎng)絡(luò)模型進(jìn)行微調(diào)(fine-tune)，需要進(jìn)一步驗(yàn)證問(wèn)題數(shù)據(jù)類型與公開網(wǎng)絡(luò)模型訓(xùn)練數(shù)據(jù)類型的相似性。若兩者數(shù)據(jù)類型差距比較大，采用微調(diào)(fine-tune)的方法訓(xùn)練出來(lái)的模型效果往往不理想，可能需要考慮從頭開始訓(xùn)練新的模型。

(4)樣本數(shù)據(jù)在整個(gè)深度學(xué)習(xí)模型訓(xùn)練過(guò)程不是一成不變的，模型實(shí)際訓(xùn)練過(guò)程中，會(huì)視模型的訓(xùn)練效果，不斷進(jìn)行多輪數(shù)據(jù)的迭代優(yōu)化等，讓樣本數(shù)據(jù)類型覆蓋更多的實(shí)際測(cè)試數(shù)據(jù)的類型，降低噪聲數(shù)據(jù)。因此，需要牢記，數(shù)據(jù)考量會(huì)貫穿整個(gè)模型訓(xùn)練過(guò)程。

2.3問(wèn)題抽象

在利用傳統(tǒng)機(jī)器學(xué)習(xí)分析具體問(wèn)題時(shí)，需要將問(wèn)題抽象為有監(jiān)督學(xué)習(xí)問(wèn)題或者無(wú)監(jiān)督問(wèn)題。如果是有監(jiān)督問(wèn)題，還需要進(jìn)一步抽象成分類或回歸問(wèn)題，最后再選擇適合的算法來(lái)訓(xùn)練模型。深度學(xué)習(xí)本質(zhì)上仍屬機(jī)器學(xué)習(xí)范疇，因此利用深度學(xué)習(xí)解決實(shí)際問(wèn)題，需要同樣的問(wèn)題抽象過(guò)程：

與傳統(tǒng)機(jī)器學(xué)習(xí)一樣，有監(jiān)督學(xué)習(xí)問(wèn)題和無(wú)監(jiān)督學(xué)習(xí)問(wèn)題主要由樣本數(shù)據(jù)是否需要標(biāo)簽來(lái)決定：

(1)有監(jiān)督學(xué)習(xí)問(wèn)題通過(guò)有標(biāo)簽訓(xùn)練數(shù)據(jù)集的形式，在輸入和輸出的數(shù)據(jù)之間建立相關(guān)性。

(2)無(wú)監(jiān)督學(xué)習(xí)問(wèn)題通過(guò)分析非標(biāo)記數(shù)據(jù)，幫助檢測(cè)數(shù)據(jù)的相似性和差異性，譬如圖片搜索和欺詐檢測(cè)等應(yīng)用場(chǎng)景。

當(dāng)問(wèn)題定位為有監(jiān)督問(wèn)題后，需進(jìn)一步確認(rèn)是分類問(wèn)題還是回歸問(wèn)題，判斷原則如下：

(1)回歸問(wèn)題通常用來(lái)預(yù)測(cè)一個(gè)值，如預(yù)測(cè)下一季度銀行卡消費(fèi)金額、交易筆數(shù)等等，回歸是對(duì)真實(shí)值的一種逼近預(yù)測(cè)。

(2)分類問(wèn)題是用于將數(shù)據(jù)打上一個(gè)標(biāo)簽，通常結(jié)果為離散值，分類并沒(méi)有逼近的概念，最終正確結(jié)果只有一個(gè)，錯(cuò)誤的就是錯(cuò)誤的，不會(huì)有相近的概念。

當(dāng)實(shí)際問(wèn)題抽象成具體深度學(xué)習(xí)技術(shù)問(wèn)題后，即可以結(jié)合問(wèn)題的數(shù)據(jù)類型選擇合適的深度網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行模型訓(xùn)練，譬如圖像數(shù)據(jù)處理，選擇卷積神經(jīng)網(wǎng)絡(luò)(CNN)等，詳見5.2節(jié)。

第三節(jié)：訓(xùn)練環(huán)境構(gòu)建

構(gòu)建深度學(xué)習(xí)研究環(huán)境首先要考慮硬件環(huán)境的支持，這也是深度學(xué)習(xí)算法區(qū)別于其他機(jī)器學(xué)習(xí)算法的重要一點(diǎn)，同時(shí)還要依據(jù)實(shí)際需求對(duì)深度學(xué)習(xí)軟件框架進(jìn)行規(guī)劃和選擇。

3.1硬件環(huán)境選擇

深度學(xué)習(xí)需要很高的內(nèi)在并行度、大量的浮點(diǎn)計(jì)算能力以及矩陣運(yùn)算，傳統(tǒng)的基于CPU集群的云計(jì)算技術(shù)并不擅長(zhǎng)處理這類問(wèn)題，例如，斯坦福大學(xué)的研究人員Adam Coates采用GPU將三臺(tái)計(jì)算機(jī)連貫在一起進(jìn)行深度學(xué)習(xí)實(shí)驗(yàn)，結(jié)果卻得到了與Google數(shù)千臺(tái)計(jì)算機(jī)一樣的效果。由此可見，只有更好的硬件加速條件，才能滿足現(xiàn)有數(shù)據(jù)和模型規(guī)模繼續(xù)擴(kuò)大的需求。

目前，最主流的硬件加速器件非GPU莫屬。最重要的是GPU出色的浮點(diǎn)計(jì)算性能特別提高了深度學(xué)習(xí)兩大關(guān)鍵活動(dòng)：分類和卷積的性能，同時(shí)又達(dá)到所需的精準(zhǔn)度，并且在相同的精度下，相對(duì)傳統(tǒng)CPU的方式，擁有更快的處理速度、更少的服務(wù)器投入和更低的功耗。因此，Google和Facebook等巨頭也在轉(zhuǎn)向使用GPU作為硬件加速的基礎(chǔ)原件。

此外，業(yè)界也出現(xiàn)了其他進(jìn)行深度學(xué)習(xí)硬件加速的方案。比如，部分公司正在研究采用FPGA作為進(jìn)行深度學(xué)習(xí)加速，以期使其對(duì)深度學(xué)習(xí)領(lǐng)域經(jīng)常使用的上層軟件兼容性更強(qiáng)，并行訓(xùn)練架構(gòu)更加靈活。同時(shí)，F(xiàn)PGA在單位能耗下性能更強(qiáng)，這對(duì)大規(guī)模服務(wù)器部署或資源有限的嵌入式應(yīng)用的研究而言也至關(guān)重要。

建設(shè)深度學(xué)習(xí)硬件加速環(huán)境需要較大的資金和技術(shù)投入，需要進(jìn)行精細(xì)研究并審慎選擇，建議遵循以下原則：

1、選擇硬件加速環(huán)境時(shí)盡量采用具備更多用戶友好開發(fā)工具的芯片，這樣能夠很好的降低學(xué)習(xí)門檻。

2、建立龐大且需要平行的深度網(wǎng)絡(luò)，需要考慮硬件的開放性、數(shù)據(jù)并行和模型并行支持度，以及單位能耗特點(diǎn)。

3、深度學(xué)習(xí)模型訓(xùn)練過(guò)程中需對(duì)深度網(wǎng)絡(luò)進(jìn)行多次反向傳導(dǎo)運(yùn)算計(jì)算量大，而深度模型進(jìn)行生產(chǎn)應(yīng)用時(shí)只需進(jìn)行前向傳播計(jì)算，因此建議在訓(xùn)練環(huán)境中采用硬件加速，生產(chǎn)應(yīng)用環(huán)境無(wú)需進(jìn)行硬件加速。

3.2常用深度學(xué)習(xí)軟件框架簡(jiǎn)介

深度學(xué)習(xí)是一個(gè)發(fā)展迅速的領(lǐng)域，除了眾多學(xué)術(shù)界專家在理論方面的貢獻(xiàn)之外，工業(yè)界也為深度學(xué)習(xí)提供了很多工具框架，例如，伯克利視覺(jué)和學(xué)習(xí)中心開發(fā)的Caffe，微軟推出的開源深度學(xué)習(xí)框架CNTK，LISA開發(fā)的基于Python的Theano，Google主推的TensorFlow、以及Torch、MxNet等。目前來(lái)看，業(yè)界使用最多的是Caffe、Theano和TensorFlow。

(1)Caffe

Caffe是由伯克利視覺(jué)和學(xué)習(xí)中心(Berkeley Vision and Learning Center，BVLC)開發(fā)的基于C++/CUDA/Python實(shí)現(xiàn)的卷積神經(jīng)網(wǎng)絡(luò)框架，提供了面向命令行、Matlab和Python的綁定接口。Caffe 遵循BSD-2協(xié)議，代碼組織良好，可讀性強(qiáng)。同時(shí)，Caffe提供了一整套工具集，可用于模型訓(xùn)練、預(yù)測(cè)、微調(diào)、發(fā)布、數(shù)據(jù)預(yù)處理，以及良好的自動(dòng)測(cè)試。

(2)Theano

Theano是由LISA開發(fā)的基于Python的深度學(xué)習(xí)框架，可以定義數(shù)學(xué)表達(dá)式并高效地優(yōu)化、求值。Theano支持機(jī)器學(xué)習(xí)中的邏輯回歸(LR)、多層感知器(MLP)、深度卷積網(wǎng)絡(luò)等監(jiān)督學(xué)習(xí)方法，以及自編碼器(AE)、降噪自編碼器、受限玻爾茲曼機(jī)(RBM)、深度置信網(wǎng)絡(luò)(DBN)等非監(jiān)督/半監(jiān)督學(xué)習(xí)方法。但是Theano計(jì)算速度慢，雖然有GPU加速，但仍然不如其他框架高效。

(3)TensorFlow

TensorFlow是Google在2015 Google Research Blog宣布推出的新一代人工智能學(xué)習(xí)系統(tǒng)。TensorFlow是一個(gè)異構(gòu)分布式學(xué)習(xí)系統(tǒng)上的大規(guī)模機(jī)器學(xué)習(xí)框架，移植性好，小到移動(dòng)設(shè)備如手機(jī)，大到規(guī)模集群，都能支持。同時(shí)TensorFlow支持多種深度學(xué)習(xí)模型，隨著TensorFlow源碼不斷開放，對(duì)新硬件、新設(shè)備、新的加速庫(kù)如cuDNN的支持力度也在不斷提升。

3.3深度學(xué)習(xí)軟件框架選擇

通過(guò)對(duì)Caffe、Theano、TensorFlow的研究經(jīng)驗(yàn)，其優(yōu)勢(shì)與缺陷可歸納為下表所示：

在實(shí)際的工作中，需要依據(jù)問(wèn)題特征和業(yè)務(wù)需求進(jìn)行深度學(xué)習(xí)框架工具的選擇，以下是挑選工具框架的幾點(diǎn)建議：

(1)進(jìn)行數(shù)據(jù)特征提取或基于現(xiàn)有模型進(jìn)行微調(diào)選用Caffe。

(2)需要對(duì)預(yù)訓(xùn)練模型進(jìn)行復(fù)雜處理選用Theano。

(3)處理適用于RNN模型的問(wèn)題，選用Theano或者TensorFlow。

(4)建立龐大且需要平行的深度網(wǎng)絡(luò)模型時(shí)選用TensorFlow。

(5)Caffe、Theano、TensorFlow各有自身獨(dú)特優(yōu)勢(shì)，在選擇某一深度學(xué)習(xí)框架時(shí)要保持對(duì)其他工具技術(shù)發(fā)展的關(guān)注。

第四節(jié)：數(shù)據(jù)管理

深度學(xué)習(xí)是建立在對(duì)大量訓(xùn)練數(shù)據(jù)進(jìn)行學(xué)習(xí)、特征提取等基礎(chǔ)之上的實(shí)踐性方法,深度學(xué)習(xí)模型只有在海量數(shù)據(jù)輸入下才能達(dá)到最好的性能，可見有效的數(shù)據(jù)對(duì)深度學(xué)習(xí)的重要性。同時(shí)，數(shù)據(jù)管理中的數(shù)據(jù)的采集、處理等各環(huán)節(jié)也很有講究，有些實(shí)踐性的技巧。

4.1數(shù)據(jù)獲取

依據(jù)獲取數(shù)據(jù)的成本可將市場(chǎng)上的數(shù)據(jù)劃分為三類：免費(fèi)公開數(shù)據(jù)、付費(fèi)公開數(shù)據(jù)以及私有數(shù)據(jù)。以下列舉了不同類型數(shù)據(jù)的獲取渠道：

(1)免費(fèi)公開數(shù)據(jù)源

(a)公開的數(shù)據(jù)庫(kù)

公開數(shù)據(jù)庫(kù)是獲取海量數(shù)據(jù)最簡(jiǎn)單有效的方式。公開數(shù)據(jù)庫(kù)基本按照學(xué)術(shù)問(wèn)題、行業(yè)應(yīng)用劃分針對(duì)性較強(qiáng)，而且數(shù)據(jù)庫(kù)中數(shù)據(jù)大都經(jīng)過(guò)人工整理和標(biāo)注，規(guī)范性和易用性更強(qiáng)。以下是一些常用的公開數(shù)據(jù)庫(kù)資源列表：

(b)網(wǎng)絡(luò)爬蟲

網(wǎng)絡(luò)爬蟲是獲取各類網(wǎng)站公開數(shù)據(jù)的有效工具，使用網(wǎng)絡(luò)爬蟲是研究深度學(xué)習(xí)技術(shù)的一項(xiàng)必備技能。網(wǎng)絡(luò)采集器屬于網(wǎng)絡(luò)爬蟲的一種，通過(guò)軟件的形式實(shí)現(xiàn)簡(jiǎn)單快捷地采集網(wǎng)絡(luò)上分散的內(nèi)容，具有很好的內(nèi)容收集作用，而且不需要技術(shù)成本，可被用作為初級(jí)的數(shù)據(jù)采集工具，例如火車采集器、八爪魚、集搜客等。此外，針對(duì)特定網(wǎng)站的特定數(shù)據(jù)采集需求，也可結(jié)合開源系統(tǒng)自行開發(fā)爬蟲工具，這樣具有更高的自由性和自主性。利用爬蟲可以獲取一些從其它渠道獲取不到的數(shù)據(jù)資源，更重要的是幫助研究者打開尋找和搜集數(shù)據(jù)的思路。

(2)付費(fèi)公開數(shù)據(jù)源

(a)商業(yè)化數(shù)據(jù)交易平臺(tái)

數(shù)據(jù)交易平臺(tái)是一些專注于互聯(lián)網(wǎng)綜合數(shù)據(jù)交易和服務(wù)的公司，其致力于融合和盤活各類大數(shù)據(jù)資源?？梢酝ㄟ^(guò)數(shù)據(jù)購(gòu)買的方式在數(shù)據(jù)交易平臺(tái)上獲取深度學(xué)習(xí)訓(xùn)練和測(cè)試數(shù)據(jù)。國(guó)內(nèi)知名的商業(yè)化數(shù)據(jù)交易憑條有優(yōu)易數(shù)據(jù)、數(shù)據(jù)堂等,其提供的服務(wù)和數(shù)據(jù)資源各有特色：

(b)政府性數(shù)據(jù)交易平臺(tái)

隨著國(guó)家十三五規(guī)劃中提出的國(guó)家大數(shù)據(jù)戰(zhàn)略的實(shí)施，各地方政府對(duì)大數(shù)據(jù)產(chǎn)業(yè)發(fā)展高度重視，因而國(guó)內(nèi)政府性交易平臺(tái)建設(shè)也蓬勃發(fā)展，成為重要的數(shù)據(jù)源頭：

(3)私有數(shù)據(jù)源

(a)商業(yè)合作交換

目前產(chǎn)業(yè)發(fā)展已經(jīng)進(jìn)入大數(shù)據(jù)時(shí)代，數(shù)據(jù)是企業(yè)生存的核心競(jìng)爭(zhēng)力之一，因而各行各業(yè)對(duì)自身數(shù)據(jù)的保護(hù)都倍加關(guān)注，想通過(guò)付費(fèi)或爬取的方式獲得企業(yè)的核心數(shù)據(jù)就變得更加困難。然而，如果行業(yè)間的數(shù)據(jù)合作能夠給雙方帶來(lái)巨大的數(shù)據(jù)增值收益，則可以通過(guò)推動(dòng)跨領(lǐng)域商業(yè)合作的方式進(jìn)行數(shù)據(jù)互換，從而完成數(shù)據(jù)收集形成完整的數(shù)據(jù)鏈。

(b)自建數(shù)據(jù)庫(kù)

在有些數(shù)據(jù)是外界無(wú)法獲取的情況下有可能需要自主進(jìn)行數(shù)據(jù)采集并維護(hù)一個(gè)小型的數(shù)據(jù)庫(kù)。為了保證數(shù)據(jù)采集的有效性在進(jìn)行數(shù)據(jù)采集的過(guò)程中關(guān)鍵是明確數(shù)據(jù)要求。以銀行卡分類問(wèn)題為例，通常采用照片拍攝與視頻拍攝，為了避免拍攝之后復(fù)雜的裁剪旋轉(zhuǎn)工作，設(shè)定如下拍攝要求：

a)在拍攝板中央固定一個(gè)卡槽，相機(jī)固定在中央上方并與板面保持平行;

b)選擇陽(yáng)光、陰天、夜晚三個(gè)場(chǎng)景于室內(nèi)室外分別拍攝。

c)增加可變燈光進(jìn)行場(chǎng)景模擬。

4.2數(shù)據(jù)預(yù)處理

獲取數(shù)據(jù)后需要進(jìn)行數(shù)據(jù)處理，在深度學(xué)習(xí)中，常常面臨數(shù)據(jù)不足的問(wèn)題，在這種情形下，深度學(xué)習(xí)算法往往難以達(dá)到最優(yōu)的效果，因此需要對(duì)現(xiàn)有的原始數(shù)據(jù)源進(jìn)行必要的擴(kuò)充與拓展或稱為數(shù)據(jù)合成。以圖片數(shù)據(jù)處理為例，常見的數(shù)據(jù)擴(kuò)充方法大致有如下幾種：

(1)旋轉(zhuǎn)|反射變換(rotation/reflection): 隨機(jī)旋轉(zhuǎn)圖像一定角度，改變圖像內(nèi)容的朝向。

(2)翻轉(zhuǎn)變換(flip)：沿著水平或者垂直方向翻轉(zhuǎn)圖像。

(3)縮放變換(zoom)：按照一定的比例放大或者縮小圖像。

(4)平移變換(shift)：在圖像平面上對(duì)圖像以一定方式進(jìn)行平移，可以采用隨機(jī)或人為定義的方式指定平移范圍和平移步長(zhǎng)，沿水平或豎直方向進(jìn)行平移，改變圖像內(nèi)容的位置。

(5)尺度變換(scale)：對(duì)圖像按照指定的尺度因子, 進(jìn)行放大或縮小; 或者參照SIFT特征提取思想, 利用指定的尺度因子對(duì)圖像濾波構(gòu)造尺度空間. 改變圖像內(nèi)容的大小或模糊程度。

(6)對(duì)比度和亮度變換: 在圖像的HSV顏色空間，改變飽和度S和V亮度分量，保持色調(diào)H不變。對(duì)每個(gè)像素的S和V分量進(jìn)行指數(shù)運(yùn)算(指數(shù)因子在0.25到4之間), 增加光照變化。

(7)噪聲擾動(dòng)(noise): 對(duì)圖像的每個(gè)像素RGB進(jìn)行隨機(jī)擾動(dòng), 常用的噪聲模式是椒鹽噪聲和高斯噪聲。

此外，從視頻中提取圖片也是獲取大量數(shù)據(jù)的有效途徑，通過(guò)自制視頻轉(zhuǎn)換工具可將上述圖片預(yù)處理方法進(jìn)行集成，這樣能夠有效擴(kuò)大數(shù)據(jù)采集量。

4.3數(shù)據(jù)標(biāo)注

對(duì)于有監(jiān)督的分類任務(wù)一項(xiàng)重要的工作就是數(shù)據(jù)標(biāo)注。目前數(shù)據(jù)標(biāo)注的方法可劃分為人工標(biāo)記與自動(dòng)化標(biāo)記。

(1)人工標(biāo)注

對(duì)于分類問(wèn)題，可以人工將類別相同的數(shù)據(jù)放在一個(gè)文件夾中，然后通過(guò)代碼遍歷訪問(wèn)數(shù)據(jù)形成分類標(biāo)簽。對(duì)于檢測(cè)問(wèn)題，需要人工用矩形框來(lái)標(biāo)記圖片中的物體，往往會(huì)采用標(biāo)注工具，比如LabelImg，輔助完成。

(2)自動(dòng)化標(biāo)記

自動(dòng)化標(biāo)記則是通過(guò)少量樣本人工標(biāo)記，然后提取傳統(tǒng)特征(比如SIFT、LBP等)并訓(xùn)練分類器，接著對(duì)大量待標(biāo)記樣本進(jìn)行分類標(biāo)記。經(jīng)過(guò)一次分類器分類的樣本標(biāo)記往往錯(cuò)誤較多，對(duì)于這批標(biāo)記數(shù)據(jù)進(jìn)行抽樣訓(xùn)練另一個(gè)分類器進(jìn)行分類，對(duì)于兩次具有不同標(biāo)簽的數(shù)據(jù)進(jìn)行人工修正，則可以以少量人力得到精度較高的標(biāo)記數(shù)據(jù)。

第五節(jié)：模型訓(xùn)練5.1常用深度網(wǎng)絡(luò)簡(jiǎn)介

深度學(xué)習(xí)技術(shù)的核心基礎(chǔ)是深度網(wǎng)絡(luò)模型，在其產(chǎn)生和發(fā)展演進(jìn)的過(guò)程產(chǎn)生了諸多網(wǎng)絡(luò)結(jié)構(gòu)，目前常用的深度網(wǎng)絡(luò)結(jié)構(gòu)有DBN、CNN、RNN。下表對(duì)DBN、CNN、RNN的網(wǎng)絡(luò)結(jié)構(gòu)和特特性進(jìn)行了簡(jiǎn)要對(duì)比。

5.2深度網(wǎng)絡(luò)模型選擇

學(xué)界對(duì)深度網(wǎng)絡(luò)所使用的問(wèn)題已經(jīng)有了基本的認(rèn)識(shí)，下表給出了一些深度學(xué)習(xí)算法和對(duì)應(yīng)的領(lǐng)域：

因而，建議從問(wèn)題特征出發(fā)選擇對(duì)應(yīng)的深度網(wǎng)絡(luò)結(jié)構(gòu)，并遵循如下原則：

(1)對(duì)于文本領(lǐng)域，整體選擇RNTN(遞歸張量神經(jīng)網(wǎng)絡(luò))或DBN來(lái)處理，RNTN是RNN(循環(huán)神經(jīng)網(wǎng)絡(luò))的一個(gè)變種。

(2)對(duì)于文檔(相對(duì)于文本更大)，選擇自編碼器或者DBN解決問(wèn)題。

(3)對(duì)于圖像來(lái)說(shuō)，DBN或CNN應(yīng)用更多，處理圖像搜索或圖片語(yǔ)義問(wèn)題采用自編碼器更好。

(4)處理聲音問(wèn)題，選擇RNN或CNN。

(5)處理時(shí)間序列問(wèn)題，比如預(yù)測(cè)分析，選擇DBN或DNN。

5.3參數(shù)調(diào)優(yōu)技巧

在確定深度網(wǎng)絡(luò)結(jié)構(gòu)后，需要通過(guò)大量訓(xùn)練和測(cè)試以獲取有效的模型，以下是一些常用的參數(shù)設(shè)定和調(diào)優(yōu)原則。

(1)盡量基于成熟模型進(jìn)行微調(diào)(fine-tune)

深度網(wǎng)絡(luò)參數(shù)訓(xùn)練優(yōu)化是一項(xiàng)冗長(zhǎng)而復(fù)雜的工作，若技術(shù)人員的經(jīng)驗(yàn)不足，則容易導(dǎo)致訓(xùn)練過(guò)程參數(shù)不收斂或者陷入局部最優(yōu)而得不到很好的結(jié)果。因此，基于前人已經(jīng)訓(xùn)練好的網(wǎng)絡(luò)參數(shù)模型進(jìn)行微調(diào)是目前通行的良好實(shí)踐原則。

(2)權(quán)重初始化策略

在開始訓(xùn)練深度網(wǎng)絡(luò)之前，需要對(duì)網(wǎng)絡(luò)連接權(quán)值進(jìn)行初始化，目前在神經(jīng)網(wǎng)絡(luò)中建議使用的權(quán)重初始化策略是將值歸一化到范圍[-b,b]，b為：  

和分別是權(quán)值向量之前和之后的隱藏層大小，這樣有助于加速網(wǎng)絡(luò)參數(shù)收斂，避免局部最優(yōu)或網(wǎng)絡(luò)失靈。

(3)高維度網(wǎng)絡(luò)結(jié)構(gòu)克服局部最小

深層網(wǎng)絡(luò)由于是高度非線性的，有著太多的局部極值，傳統(tǒng)觀念認(rèn)為在這樣的條件下很難保證能夠得到一個(gè)可以接受的好的解，容易陷入局部最小。實(shí)際上通過(guò)增加深度網(wǎng)絡(luò)的維度和訓(xùn)練時(shí)間，陷入局部最優(yōu)解的概率會(huì)越小。當(dāng)損失函數(shù)接近全局最小時(shí)，如果我們找到了真正的局部最小，那么它將非常接近全局最小，這種差異是無(wú)關(guān)緊要的。比如從alexnet、VGG、googlenet、resnet等卷積模型中進(jìn)行選擇并在自己的數(shù)據(jù)集進(jìn)行微調(diào)。這些網(wǎng)絡(luò)效果隨層數(shù)遞增，因而采用resnet或者更新的googlenet-v4將會(huì)發(fā)現(xiàn)測(cè)試結(jié)果會(huì)更令人滿意。

(4)數(shù)據(jù)批量大小設(shè)定

增加網(wǎng)絡(luò)強(qiáng)度的一種方式(受計(jì)算而不是內(nèi)存限制)是，將數(shù)據(jù)分成小批量。這可以避免一些內(nèi)存操作，GPU也擅長(zhǎng)并行處理大矩陣計(jì)算。然而，增加批次的大小的話可能會(huì)對(duì)訓(xùn)練算法有影響，并且合并需要更多時(shí)間。重要的是要找到一個(gè)很好的平衡點(diǎn)，以在最短的時(shí)間內(nèi)獲得最好的效果。此外，使用小批量的數(shù)據(jù)，梯度會(huì)更加穩(wěn)定。

(5)訓(xùn)練誤差衡量準(zhǔn)則

在訓(xùn)練與測(cè)試一個(gè)深度神經(jīng)網(wǎng)絡(luò)模型時(shí)，我們通常使用三個(gè)數(shù)據(jù)集，即訓(xùn)練集、開發(fā)集、測(cè)試集。模型對(duì)應(yīng)這三個(gè)數(shù)據(jù)集有三個(gè)誤差，訓(xùn)練集誤差、開發(fā)集誤差、與測(cè)試集誤差，另外還有一個(gè)人類梳理這類問(wèn)題的誤差值—人類水平誤差?；诖说闹钠?方差權(quán)衡理論是指導(dǎo)我們調(diào)參的準(zhǔn)則：

人類誤差與訓(xùn)練集誤差之間的差距稱為可避免的偏差，這部分誤差可以通過(guò)進(jìn)一步學(xué)習(xí)及模型調(diào)優(yōu)來(lái)避免。而訓(xùn)練集和開發(fā)集之間的差距稱為方差，它是訓(xùn)練集與開發(fā)集的分布差異造成的。

當(dāng)訓(xùn)練誤差較大時(shí)，是指模型并未達(dá)到最優(yōu)解(陷入局部最優(yōu))或者模型不夠表達(dá)你的數(shù)據(jù)集。這時(shí)需要更換更深的模型，或者訓(xùn)練更長(zhǎng)的時(shí)間。當(dāng)訓(xùn)練誤差較小，而開發(fā)集誤差較大，則是模型過(guò)擬合，即訓(xùn)練樣本并未完全包含目標(biāo)任務(wù)的數(shù)據(jù)類型，這時(shí)候需要增加訓(xùn)練樣本或者使用正則化來(lái)防止過(guò)擬合。

如果訓(xùn)練集誤差與開發(fā)集誤差都很小，測(cè)試集誤差較大，那么是開發(fā)集與測(cè)試集的分配不合適，需要增大開發(fā)集所占的比例。

(6)其他訓(xùn)練技巧

a)歸一化實(shí)值數(shù)據(jù)，減去平均值，再除以標(biāo)準(zhǔn)差。

b)降低訓(xùn)練過(guò)程中的學(xué)習(xí)率。

c)使用動(dòng)量，幫助參數(shù)通過(guò)停滯區(qū)。

第六節(jié)：生產(chǎn)應(yīng)用

上述幾個(gè)小節(jié)介紹的都是在深度學(xué)習(xí)研究過(guò)程中需要注意的事項(xiàng)，本節(jié)將討論如何將深度網(wǎng)絡(luò)模型與生產(chǎn)系統(tǒng)進(jìn)行無(wú)縫對(duì)接。

6.1訓(xùn)練環(huán)境與生產(chǎn)環(huán)境的數(shù)據(jù)接口

實(shí)現(xiàn)深度學(xué)習(xí)訓(xùn)練模型到生產(chǎn)系統(tǒng)的遷移，需要在屏蔽訓(xùn)練環(huán)境和生產(chǎn)應(yīng)用環(huán)境的軟硬件環(huán)境的基礎(chǔ)上實(shí)現(xiàn)網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)數(shù)據(jù)的無(wú)縫兼容。目前通行的原則是網(wǎng)絡(luò)定義文件、網(wǎng)絡(luò)參數(shù)文件分離。

(1)深度網(wǎng)絡(luò)定義文件

用于定義深度網(wǎng)絡(luò)的節(jié)點(diǎn)設(shè)置和節(jié)點(diǎn)間連接結(jié)構(gòu)的參數(shù)文件，例如采用Caffe的prototext文件。

(2)深度網(wǎng)絡(luò)參數(shù)文件

用于保存訓(xùn)練結(jié)束時(shí)得到的深度網(wǎng)絡(luò)各連接之間加權(quán)值，以二進(jìn)制流形式存儲(chǔ)，例如采用caffe的caffemodel文件。

6.2生產(chǎn)應(yīng)用環(huán)境服務(wù)接口

深度學(xué)習(xí)的理論模型投入生產(chǎn)仍需要“IT團(tuán)隊(duì)”花費(fèi)大量時(shí)間進(jìn)行系統(tǒng)性的改變和優(yōu)化，因此在深度學(xué)習(xí)生產(chǎn)應(yīng)用環(huán)境中，通過(guò)Restful API向企業(yè)其他生產(chǎn)系統(tǒng)提供服務(wù)是很好的形式，這樣既可以屏蔽內(nèi)部實(shí)現(xiàn)細(xì)節(jié)，又可以在產(chǎn)生模型變動(dòng)時(shí)實(shí)現(xiàn)平滑的遷移。在API的規(guī)劃中需包含如下必要接口：

6.3模型退化的解決方法

深度學(xué)習(xí)問(wèn)題建模的過(guò)程中，訓(xùn)練數(shù)據(jù)集是固定的，大部分?jǐn)?shù)據(jù)由數(shù)據(jù)合成產(chǎn)生，數(shù)據(jù)質(zhì)地和分布可能與實(shí)際生產(chǎn)應(yīng)用不一致，容易導(dǎo)致訓(xùn)練集誤差、開發(fā)集誤差、與測(cè)試集誤差。因而在生產(chǎn)環(huán)境中進(jìn)行模型應(yīng)用時(shí)，隨著調(diào)用案例的增加，會(huì)產(chǎn)生模型退化問(wèn)題，即訓(xùn)練模型分類錯(cuò)誤增多。要解決這一問(wèn)題，可以采取以下措施：

(1)對(duì)判別置信度低或用戶反饋出現(xiàn)判別錯(cuò)誤的數(shù)據(jù)進(jìn)行保存收集。

(2)定期利用收集到的數(shù)據(jù)對(duì)原有模型進(jìn)行微調(diào)并在生產(chǎn)應(yīng)用環(huán)境進(jìn)行模型更新。

作者介紹

電子商務(wù)與電子支付國(guó)家工程實(shí)驗(yàn)室人工智能研究團(tuán)隊(duì)：費(fèi)志軍、劉想、王宇、華錦芝。電子商務(wù)與電子支付國(guó)家工程實(shí)驗(yàn)室：2013年經(jīng)國(guó)家發(fā)展改革委審批認(rèn)定，中國(guó)銀聯(lián)成為金融行業(yè)第一家獲得批復(fù)建設(shè)電子商務(wù)與電子支付國(guó)家工程實(shí)驗(yàn)室的企業(yè)。實(shí)驗(yàn)室的建設(shè)目標(biāo)是建成國(guó)內(nèi)一 流、國(guó)際知名的電子商務(wù)與電子支付研究基地，全面加強(qiáng)技術(shù)攻關(guān)，力爭(zhēng)在全球電子商務(wù)、電子貨幣和電子支付技術(shù)領(lǐng)域占據(jù)領(lǐng)先地位。人工智能研究團(tuán)隊(duì)：立足于金融支付領(lǐng)域，推動(dòng)人工智能在金融領(lǐng)域的應(yīng)用與推廣。近期，重點(diǎn)研究圖像識(shí)別、語(yǔ)音識(shí)別技術(shù)以及自然語(yǔ)言處理等人工智能技術(shù)在金融產(chǎn)品創(chuàng)新、信用風(fēng)險(xiǎn)防控、智能化運(yùn)營(yíng)、客戶服務(wù)等領(lǐng)域的前瞻性應(yīng)用。