在剛剛落幕的第20屆Blackhat大會(huì)上，“機(jī)器學(xué)習(xí)”被反復(fù)提及，人工智能在網(wǎng)絡(luò)安全各個(gè)領(lǐng)域得到廣泛探索和應(yīng)用嘗試。人工智能在網(wǎng)絡(luò)安全領(lǐng)域已經(jīng)從早期的概念炒作，向方案落地轉(zhuǎn)變。

當(dāng)人工智能遇上網(wǎng)絡(luò)安全，在紛繁復(fù)雜的技術(shù)與應(yīng)用方案背后，可以歸納成執(zhí)行層、感知層、任務(wù)層和戰(zhàn)略層四大層面的智能化，不僅幫助解決現(xiàn)有的一些安全難題，未來(lái)的發(fā)展也非常有想象空間。

[[200124]]

網(wǎng)絡(luò)安全新戰(zhàn)場(chǎng)需要AI填補(bǔ)人才緊缺

目前網(wǎng)絡(luò)安全已經(jīng)進(jìn)入了一個(gè)嶄新的時(shí)代，面向各種新戰(zhàn)場(chǎng)，需要新的架構(gòu)、新的方法、新的編程語(yǔ)言來(lái)支撐我們應(yīng)對(duì)越來(lái)越艱巨的戰(zhàn)斗。新戰(zhàn)場(chǎng)以黑產(chǎn)對(duì)抗、反勒索軟件、反Insider-based APT、物聯(lián)網(wǎng)/車(chē)聯(lián)網(wǎng)這些新方向?yàn)榇?。比如很多攝像頭、智能門(mén)鎖、兒童手表，都是成批次的被攻破，車(chē)聯(lián)網(wǎng)與智能車(chē)的安全問(wèn)題也引起業(yè)界的嚴(yán)重關(guān)注和顧慮。

眾所周知，在移動(dòng)互聯(lián)網(wǎng)時(shí)代，安卓的碎片化生態(tài)幾乎已經(jīng)失控了。不少手機(jī)廠商對(duì)某些低版本的手機(jī)系統(tǒng)都不再進(jìn)行升級(jí)，盡管還有很多用戶(hù)在用，這就帶來(lái)了嚴(yán)重的安全隱患，惡意代碼可以輕易通過(guò)攻擊幾年前的安卓漏洞來(lái)獲利。進(jìn)入物聯(lián)網(wǎng)時(shí)代，這種情況會(huì)更加嚴(yán)重。很多硬件廠商在開(kāi)發(fā)產(chǎn)品的時(shí)候完全沒(méi)有考慮引入專(zhuān)業(yè)安全服務(wù)，最終面臨嚴(yán)峻的安全漏洞時(shí)卻難以應(yīng)對(duì)。

一方面是新的攻擊不斷涌現(xiàn)，另一方面防守方卻顯得捉襟見(jiàn)肘了。安全的核心是對(duì)抗，而對(duì)抗是多維度的、持續(xù)的。為了進(jìn)行有威懾力的對(duì)抗，最大的挑戰(zhàn)還是缺少高素質(zhì)安全專(zhuān)業(yè)人才。在這種情況下，我們只能靠AI，也就是靠人工智能來(lái)填補(bǔ)人才空缺。

對(duì)于人工智能的看法業(yè)界出現(xiàn)兩極分化：一種觀點(diǎn)認(rèn)為AI可以幫人類(lèi)完成一切工作，另一種認(rèn)為AI會(huì)毀滅人類(lèi)。事實(shí)上沒(méi)有絕對(duì)的黑白，AI的作用也遠(yuǎn)遠(yuǎn)沒(méi)有這么極端。AI能做什么?吳恩達(dá)教授給出了很好的解釋?zhuān)阂环矫?，正常人?lèi)1秒內(nèi)能做出的判斷，AI也能做的很好。比如無(wú)人駕駛時(shí)代已經(jīng)悄然來(lái)臨,人臉識(shí)別、語(yǔ)音識(shí)別，現(xiàn)在機(jī)器也能夠做到很高的準(zhǔn)確率。另一方面，通過(guò)大量已經(jīng)發(fā)生過(guò)的具體重復(fù)事件，AI能很好的預(yù)測(cè)即將發(fā)生的事情。

當(dāng)AI遇到網(wǎng)絡(luò)安全

當(dāng)AI遇到網(wǎng)絡(luò)安全時(shí)，又會(huì)發(fā)生什么樣的化學(xué)反應(yīng)呢?

網(wǎng)絡(luò)安全是一個(gè)非常復(fù)雜的體系，可以分為執(zhí)行層、感知層、任務(wù)層和戰(zhàn)略層?，F(xiàn)在AI已經(jīng)可以在執(zhí)行層和感知層有不錯(cuò)的應(yīng)用，同時(shí)在任務(wù)層和戰(zhàn)略層已經(jīng)開(kāi)始摸索，但還處于比較初期的階段。

(一) 執(zhí)行層：顯著提高安全運(yùn)維效率

在執(zhí)行層，AI可以顯著提升安全工具的規(guī)則運(yùn)維效率。規(guī)則體系的觸角在整個(gè)安全網(wǎng)絡(luò)體系里面的延伸非常廣泛，包括像殺毒、WAF、反SPAM、反欺詐等。這些領(lǐng)域在傳統(tǒng)模式中需要大量的人力來(lái)維護(hù)，比如像反欺詐系統(tǒng)里面可能有上千條規(guī)則，這些規(guī)則之間存在著很多的沖突，某些規(guī)則組合甚至超出了人的理解能力，人在維護(hù)這些規(guī)則的時(shí)候也常常會(huì)出現(xiàn)問(wèn)題。

而依靠AI，就可以很好的解決這些情況，機(jī)器學(xué)習(xí)已經(jīng)展示出非常強(qiáng)大的價(jià)值。它可以自動(dòng)生成規(guī)則，不用依靠龐大的人力資源來(lái)維護(hù)。而且安全事件通常是大量發(fā)生的，所以AI能夠比較好的識(shí)別判斷下一次事件。

AI是如何做到的呢?機(jī)器學(xué)習(xí)能自動(dòng)生成規(guī)則，但是其中的學(xué)習(xí)深度還是有一定的區(qū)分。“淺學(xué)習(xí)”以SVM、Random Forrest、GBDT等算法為代表，它還需要很多的人工特征工程來(lái)準(zhǔn)備特征向量，然后由算法自動(dòng)完成分類(lèi)識(shí)別。在風(fēng)控領(lǐng)域，運(yùn)用最廣泛的是GBDT(很多比賽的冠軍都是用GBDT)，但是當(dāng)特征維度上升到數(shù)千維后，深度學(xué)習(xí)的優(yōu)勢(shì)就開(kāi)始慢慢展現(xiàn)出來(lái)。深度學(xué)習(xí)和“淺學(xué)習(xí)”存在一個(gè)很大的區(qū)別，就是深度學(xué)習(xí)對(duì)特征工程的依賴(lài)減弱很多，它能比較好的自動(dòng)提取特征，可以生成深度學(xué)習(xí)模型，比如CNN(卷積神經(jīng)網(wǎng)絡(luò))和RNN(循環(huán)神經(jīng)網(wǎng)絡(luò))技術(shù)等。

舉例而言，AI在移動(dòng)殺毒引擎的應(yīng)用效果明顯。眾所周知，現(xiàn)在病毒種類(lèi)的變形越來(lái)越多，大多數(shù)黑產(chǎn)都會(huì)進(jìn)行不同的嘗試。如果用人工來(lái)構(gòu)建那些惡意代碼的識(shí)別特征，就需要構(gòu)建一套非常龐大的體系，不僅慢而且難以維護(hù)。百度利用深度學(xué)習(xí)技術(shù)在這方面取得了非常出色的成果，在歷次AV Test測(cè)試中長(zhǎng)期保持第一。去年百度安全在頂級(jí)安全工業(yè)界會(huì)議 Blackhat Europe 上就此成果做了專(zhuān)題報(bào)告，也是目前全球安全工業(yè)界第一個(gè)有實(shí)質(zhì)性進(jìn)展的深度學(xué)習(xí)應(yīng)用技術(shù)報(bào)告。

另一個(gè)例子是AI在網(wǎng)頁(yè)安全中的應(yīng)用，效果也非常顯著。目前網(wǎng)頁(yè)安全的威脅主要包括三類(lèi)：第一種欺詐類(lèi)網(wǎng)站，包括虛假高校、虛假藥品、假冒貸款、仿冒火車(chē)票、虛假金融證券、仿冒飛機(jī)票、虛假中獎(jiǎng)、仿冒登錄、虛假招聘等;第二類(lèi)是存在風(fēng)險(xiǎn)的網(wǎng)站，主要包括網(wǎng)頁(yè)掛馬、惡意代碼、隱私竊取、惡意跳轉(zhuǎn)、僵尸網(wǎng)絡(luò)通信、木馬下載主機(jī)等;第三類(lèi)是違法網(wǎng)站，包括色情和博彩等。

百度每天爬取索引的數(shù)據(jù)中，有1%~5%的URL包含不同程度的惡意信息，如果不加防護(hù)將會(huì)對(duì)網(wǎng)民帶來(lái)巨大的傷害。百度安全通過(guò)規(guī)則體系、機(jī)器學(xué)習(xí)(淺層模型)、深度學(xué)習(xí)(文本)、深度學(xué)習(xí)(圖片)以及威脅情報(bào)挖掘等網(wǎng)址安全復(fù)合檢測(cè)算法來(lái)保障網(wǎng)站的安全。目前，百度安全利用機(jī)器學(xué)習(xí)進(jìn)行網(wǎng)頁(yè)檢測(cè)，對(duì)惡意信息的防護(hù)已經(jīng)取得了很好的成果。單條樣本檢測(cè)時(shí)延已經(jīng)小于10ms，對(duì)非法網(wǎng)站的識(shí)別準(zhǔn)確率已經(jīng)超過(guò)99%。百度安全團(tuán)隊(duì)也受?chē)?guó)際安全學(xué)術(shù)泰斗 UC Berkley Prof. Dawn Song 邀請(qǐng)，在 Singapore Cyber security Consortium (SGCSC) 上就此成果做了專(zhuān)題報(bào)告。

(二) 感知層：生物特征識(shí)別與對(duì)抗的興起

在感知層，當(dāng)下最重要的應(yīng)用就是生物特征認(rèn)證。人臉認(rèn)證是目前AI在安全領(lǐng)域最成功的一個(gè)應(yīng)用。整個(gè)認(rèn)證流程看起來(lái)簡(jiǎn)單，其實(shí)里面的技術(shù)相當(dāng)復(fù)雜：首先需要在各種環(huán)境下準(zhǔn)確追蹤人臉，如果有偏差能夠給予及時(shí)有效的提示;其次要在最小用戶(hù)打擾的情況下完成可靠的活體識(shí)別，而不被虛假照片或化妝欺騙，能高速完成可信人臉數(shù)據(jù)對(duì)比。第三，設(shè)備和應(yīng)用的安全狀態(tài)也需要可靠的保障，一旦發(fā)現(xiàn)惡意攻擊可以即時(shí)進(jìn)行取證。最后，還必須要在云端對(duì)用戶(hù)隱私信息有著嚴(yán)格的保護(hù)。因此，要實(shí)現(xiàn)順滑的人臉認(rèn)證體驗(yàn)，必須要有AI技術(shù)和系統(tǒng)化安全技術(shù)做全面支撐。

為什么要在安全過(guò)程中用AI感知來(lái)做人臉識(shí)別?因?yàn)殂y行或者運(yùn)營(yíng)商對(duì)于客戶(hù)的實(shí)名認(rèn)證環(huán)節(jié)，傳統(tǒng)上是要靠人來(lái)完成的。但是人其實(shí)是在整個(gè)安全過(guò)程中最容易被攻破的一環(huán)，攻擊者可以找到很多理由，比如最近胖了/瘦了/病了等來(lái)蒙混過(guò)關(guān)。如果是AI來(lái)做這件事，反而鐵面無(wú)私，能夠把這個(gè)體系構(gòu)建的更加標(biāo)準(zhǔn)化，并隨著技術(shù)的進(jìn)步不斷完善。

目前，百度的人臉認(rèn)證已經(jīng)能夠在秒級(jí)內(nèi)完成超過(guò)90%的高可信驗(yàn)證比率，顯著高于業(yè)界平均水平，并且已經(jīng)在實(shí)戰(zhàn)中積累了很多活體識(shí)別對(duì)抗的經(jīng)驗(yàn)和能力。除此之外，我們也在聲紋識(shí)別、用戶(hù)行為識(shí)別等領(lǐng)域做了很多應(yīng)用探索和嘗試。

(三) 任務(wù)層和戰(zhàn)略層：尚處在初級(jí)探索階段

將AI應(yīng)用于網(wǎng)絡(luò)安全任務(wù)層和戰(zhàn)略層，在某些國(guó)際大賽上已經(jīng)開(kāi)始嘗試，但目前還只是封閉空間的自動(dòng)對(duì)抗。其中最著名的就是 DARPA 主辦的 CGC 大賽，比賽讓7個(gè)頂級(jí)團(tuán)隊(duì)構(gòu)建自動(dòng)化系統(tǒng)，對(duì)有缺陷的服務(wù)程序做自動(dòng)加固，然后相互攻擊，不僅要抵抗外來(lái)攻擊，同時(shí)還要反擊對(duì)手。但是，這個(gè)還不能說(shuō)是人工智能，因?yàn)樗械倪壿嫸际侨祟A(yù)先設(shè)定好的。也就是說(shuō)，目前仍然停留在自動(dòng)化階段，還在向AI方向摸索。

在安全的任務(wù)層和戰(zhàn)略層要真正達(dá)到人工智能的高級(jí)階段，首先要解決人工智能對(duì)開(kāi)放空間的認(rèn)知問(wèn)題，包括世界認(rèn)知、人性弱點(diǎn)、創(chuàng)造力、跨維打擊等方面，其實(shí)還有很長(zhǎng)一段距離。不過(guò)最近在相對(duì)封閉的任務(wù)空間中的人工智能探索研究，已經(jīng)取得了很好的進(jìn)展，相信在不遠(yuǎn)的將來(lái)會(huì)有一些顛覆性的應(yīng)用產(chǎn)生。

總結(jié)

人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用，執(zhí)行層上面已經(jīng)實(shí)用化，可以顯著的提升規(guī)則化安全工作的效率，彌補(bǔ)專(zhuān)業(yè)人員人手的不足;在感知層面，可以把原本依賴(lài)于人(不可靠)的安全體系標(biāo)準(zhǔn)化，現(xiàn)在已經(jīng)開(kāi)始實(shí)現(xiàn)大規(guī)模的推廣，包括人臉識(shí)別和圖象識(shí)別等也等;AI在任務(wù)層上的摸索剛剛開(kāi)始，在某些封閉任務(wù)領(lǐng)域已經(jīng)展現(xiàn)出很好的潛力;在戰(zhàn)略層，由于開(kāi)放空間的特性，AI的路還比較遙遠(yuǎn)，所以大家還不用擔(dān)心“天啊，人類(lèi)要?dú)缌?rdquo;這樣的問(wèn)題。同時(shí)，隨著人工智能在安全領(lǐng)域的應(yīng)用，圍繞著人工智能技術(shù)本身的攻防對(duì)抗也成為學(xué)術(shù)界的研究熱點(diǎn)，相信其中的研究成果很快也會(huì)在安全實(shí)踐中得到應(yīng)用。