機(jī)器學(xué)習(xí)，以及人工智能，最近都頗受關(guān)注，人們對(duì)該技術(shù)熱情高漲。機(jī)器學(xué)習(xí)的發(fā)展，讓安全系統(tǒng)更容易被訓(xùn)練，處理動(dòng)態(tài)情況也更靈活，但并非所有的用例都以同樣的效率令人受益。

[[177035]]

副作用之一，就是什么都被重新貼上“機(jī)器學(xué)習(xí)”的標(biāo)簽，讓該術(shù)語(yǔ)很難被確定。就像“云”這個(gè)字眼兒被拿來(lái)指任何發(fā)生在網(wǎng)上的事一樣，“人工智能”也很快達(dá)到幾乎任何涉及到計(jì)算機(jī)的東西都被拍上這一標(biāo)簽的程度。

普華永道美國(guó)分析創(chuàng)新主管阿南德·勞說(shuō)：“炒作太多，都在說(shuō)AI正變得超級(jí)智能，將替代人類和人類決策等等。”

安全工作一項(xiàng)常見(jiàn)任務(wù)，就是確定新下載或安裝的應(yīng)用程序是否惡意。傳統(tǒng)方法是非?；A(chǔ)的專家系統(tǒng)——該應(yīng)用程序的特征是否符合已知惡意軟件的?

這種標(biāo)準(zhǔn)反病毒方法的缺點(diǎn)，是需要隨新惡意軟件的出現(xiàn)而經(jīng)常更新升級(jí)，而且防范非常脆弱。惡意軟件只要做極微小的修改，就很容易逃過(guò)檢測(cè)。

Deep Instinct，一家初創(chuàng)公司，正在將深度學(xué)習(xí)技術(shù)應(yīng)用到該問(wèn)題上，利用的是現(xiàn)有近10億已知惡意軟件樣本可供用于訓(xùn)練目的的事實(shí)。

該公司CTO艾利·大衛(wèi)說(shuō)：“深度學(xué)習(xí)革新了很多領(lǐng)域。計(jì)算機(jī)視野每年提升20%到30%，到超人類視野也就是分分鐘的事。還有語(yǔ)音識(shí)別。難道網(wǎng)絡(luò)安全上就不行嗎?”

甚至基于概率的機(jī)器學(xué)習(xí)系統(tǒng)也有極限。有太多因素可被專家識(shí)別、衡量，再為了更好的結(jié)果而進(jìn)行微調(diào)。同時(shí)，無(wú)數(shù)的其他因素因?yàn)樘^(guò)微小或不相關(guān)而被舍棄。

你扔掉的數(shù)據(jù)是大多數(shù)。

Deep Instinct 的模式是，深度學(xué)習(xí)系統(tǒng)在實(shí)驗(yàn)室被訓(xùn)練，饋送進(jìn)去的是所有已知惡意軟件的樣本。訓(xùn)練過(guò)程耗時(shí)一天，需要功率強(qiáng)勁的圖形處理器(GPU)來(lái)分析數(shù)據(jù)。

經(jīng)過(guò)訓(xùn)練的系統(tǒng)大約有1GB大，對(duì)大多數(shù)應(yīng)用來(lái)說(shuō)都太大了，然后該公司將之縮減至只有20MB大小。任何終端設(shè)備都可輕松安裝上，包括移動(dòng)設(shè)備，最慢的機(jī)器也能在幾毫秒內(nèi)分析進(jìn)入系統(tǒng)的威脅。

1MB大小的普通文件，分析時(shí)間不超過(guò)1毫秒。實(shí)驗(yàn)室里的超高端的基礎(chǔ)設(shè)施做了全部復(fù)雜的工作，客戶拿到的，是濃縮過(guò)的“大腦”。同時(shí)，在實(shí)驗(yàn)室，新惡意軟件樣本不斷被加入數(shù)據(jù)集中，每3到4個(gè)月左右，終端設(shè)備上運(yùn)行的所有大腦就會(huì)收到一次更新升級(jí)。

但即便大腦6個(gè)月沒(méi)更新，也能繼續(xù)檢測(cè)新文件。深度學(xué)習(xí)對(duì)新修改或變種非常敏感。

每天出現(xiàn)的數(shù)百萬(wàn)新惡意軟件樣本中的大多數(shù)，不過(guò)是已有惡意軟件的微小變種而已。

“即使是出自高級(jí)威脅黑客和民族國(guó)家黑客之手的全新零日漏洞利用程序，也有80%與舊版相似。傳統(tǒng)方法檢測(cè)不出它們。但深度學(xué)習(xí)可以輕易檢出。”

該公司正與獨(dú)立測(cè)試實(shí)驗(yàn)室合作，量化檢測(cè)結(jié)果。不過(guò)，對(duì)財(cái)富500強(qiáng)客戶的早期測(cè)試顯示，該公司的深度學(xué)習(xí)方法相比已有解決方案，在惡意軟件檢測(cè)率上高出20%到30%。

“我們最近對(duì)美國(guó)一家大銀行的100000個(gè)文件做了測(cè)試?，F(xiàn)有解決方案是測(cè)試當(dāng)天更新的，我們的是2個(gè)月前的版本。我們的解決方案得到了99.9%的檢出率，他們的是40%。”

找出原因

最新深度學(xué)習(xí)系統(tǒng)的缺點(diǎn)之一，是它們可以給出答案，但未必能解釋是怎么得出的。

不過(guò)，也不總是這樣。事實(shí)上，Nutonian公司專利AI引擎Eureqa的主要工作，就是找到為什么這些事情會(huì)發(fā)生的解釋。比如說(shuō)，面對(duì)物理數(shù)據(jù)，Eureqa能重新發(fā)現(xiàn)牛頓定律。

該公司創(chuàng)始人兼CTO邁克爾·施密特說(shuō)：“它能找出最簡(jiǎn)單最優(yōu)雅的方式來(lái)描述發(fā)生的事情，以及其間的關(guān)系。”

該公司將此引擎對(duì)研究人員免費(fèi)開(kāi)放，至少為500篇期刊論文提供了幫助。例如，在醫(yī)學(xué)方面，該引擎幫助發(fā)現(xiàn)了黃斑變異和闌尾炎等疾病的診斷新模式。在網(wǎng)絡(luò)安全上也有該引擎的引用。

“最困難的問(wèn)題之一，是剖析網(wǎng)絡(luò)攻擊。Eureqa的一個(gè)AI應(yīng)用，就是自動(dòng)完成該過(guò)程。”

客戶一旦注冊(cè)該基于云的系統(tǒng)，大約會(huì)花1小時(shí)左右的時(shí)間等待引擎分析數(shù)據(jù)，然后各種答案就能很快出來(lái)了。

“他們?cè)瓉?lái)用了 數(shù)月或數(shù)年才得到的結(jié)果，我們只用幾分鐘就重現(xiàn)了。”

本地和全球訓(xùn)練

在網(wǎng)絡(luò)安全界，因?yàn)閼B(tài)勢(shì)改變太快，任何機(jī)器學(xué)習(xí)系統(tǒng)都需要經(jīng)常性的更新。

缺了經(jīng)常性更新，所有系統(tǒng)都將過(guò)時(shí)，因?yàn)槿祟惪偸怯龅叫聳|西。員工又開(kāi)始玩新玩意兒了，廠商又改變他們的應(yīng)用了，客戶的消費(fèi)模式又變了等等等等。當(dāng)然，黑客也不例外，專門設(shè)計(jì)出繞過(guò)已有系統(tǒng)的新惡意軟件，是黑客的日常。

同時(shí)，下一次更新出現(xiàn)前，總會(huì)有感染窗口期的。尤其是，壞人也能購(gòu)買安全軟件并測(cè)試他們的攻擊，直到找出能有效規(guī)避的方法。

托管網(wǎng)絡(luò)公司 Masergy Communications 的首席科學(xué)家麥克·司徒特警告道：“惡意軟件變種就能用到廠商的客戶身上，直到下一波更新出爐。”解決方案之一，就是轉(zhuǎn)變很多安全系統(tǒng)廠商慣用的“均碼”方式。

“可以設(shè)置本地模式、對(duì)等模式、全行業(yè)模式等等，以不同的速率進(jìn)行更新。”

Masergy公司采用一系列全球因素來(lái)查找可疑事件的發(fā)生，然后將之與特定本地指標(biāo)綁定。全球系統(tǒng)可以只關(guān)注有限的輸入。范圍實(shí)在是太大了，找那些最經(jīng)常發(fā)生的特征就好。

另外的本地焦點(diǎn)允許添加更多輸入。在本地模式下，不用將輸入壓縮到更小的特征集。這不僅會(huì)帶來(lái)獨(dú)特性，還能引入更好的準(zhǔn)確性。

本地和全球模式的結(jié)合，也是 Acuity Solutions 公司采用的方法，其 BluVector 產(chǎn)品就采用機(jī)器學(xué)習(xí)來(lái)檢測(cè)網(wǎng)絡(luò)威脅。

在美國(guó)政府機(jī)構(gòu)高級(jí)研究項(xiàng)目的基礎(chǔ)上，該系統(tǒng)開(kāi)啟了數(shù)年的良好軟件產(chǎn)出，知曉良性代碼的方方面面。

Acuity首席執(zhí)行官克里斯·樂(lè)福喬伊說(shuō)：“我們的引擎精于代碼分析，可指出給定代碼是否缺乏良性代碼的特征。”該引擎也結(jié)合了來(lái)自個(gè)人客戶的新知識(shí)。

我們?cè)诮桓督o客戶前已經(jīng)對(duì)引擎進(jìn)行了預(yù)訓(xùn)練，它就像是已離巢的孩子，將在客戶環(huán)境中繼續(xù)學(xué)習(xí)。

主引擎還會(huì)基于全球數(shù)據(jù)進(jìn)行季度性更新，但客戶相關(guān)的獨(dú)特?cái)?shù)據(jù)是不會(huì)跨系統(tǒng)共享的。

這使得每個(gè)產(chǎn)品的部署都略有不同，為每一位客戶進(jìn)行特別定制。即便攻擊者購(gòu)買了一套系統(tǒng)，開(kāi)發(fā)出可以規(guī)避代碼，也不會(huì)有什么卵用。

“這是運(yùn)動(dòng)防御戰(zhàn)，不可能被逆向工程，因?yàn)檫@些技術(shù)是特定于客戶環(huán)境的。”