機(jī)器學(xué)習(xí)和人工智能（AI）正成為一些威脅檢測(cè)與響應(yīng)工具的核心技術(shù)。其即時(shí)學(xué)習(xí)和自動(dòng)適應(yīng)網(wǎng)絡(luò)威脅動(dòng)態(tài)的能力令安全團(tuán)隊(duì)如虎添翼。

然而，一些惡意黑客也會(huì)利用機(jī)器學(xué)習(xí)和AI擴(kuò)大其網(wǎng)絡(luò)攻擊，規(guī)避安全控制措施，以前所未有的速度找出新漏洞并帶來(lái)毀滅性的后果。黑客利用這兩種技術(shù)的常見方法有如下幾種。

1. 垃圾郵件

Omida分析師Fernando Montenegro表示，防疫人員采用機(jī)器學(xué)習(xí)技術(shù)檢測(cè)垃圾郵件的歷史已經(jīng)有幾十年之久了?！袄]件預(yù)防是機(jī)器學(xué)習(xí)最成功的初始用例。”

如果所用垃圾郵件過(guò)濾器提供了未放行電子郵件或給出某個(gè)分?jǐn)?shù)的原因，那么攻擊者就可以調(diào)整自己的行為。他們會(huì)使用合法工具來(lái)讓自己的攻擊更加成功?！爸灰峤坏膲蚨?，你就可以還原出模型是什么，然后你就可以調(diào)整攻擊，繞過(guò)這個(gè)模型?！?/p>

脆弱的不僅僅是垃圾郵件過(guò)濾器。提供評(píng)分或其他某種輸出的任何安全供應(yīng)商，都可能被濫用?！安皇撬腥硕即嬖谶@個(gè)問題，但只要你不小心，有人就會(huì)惡意利用這種輸出?！?/p>

2. 更精致的網(wǎng)絡(luò)釣魚電子郵件

攻擊者不僅僅采用機(jī)器學(xué)習(xí)安全工具來(lái)測(cè)試自己的郵件能否通過(guò)垃圾郵件過(guò)濾器。他們還會(huì)使用機(jī)器學(xué)習(xí)來(lái)編造這些電子郵件。安永技術(shù)咨詢合伙人Adam Malone稱：“他們?cè)诜缸镎搲习l(fā)布售賣這些服務(wù)的廣告。他們利用這些技術(shù)生成更精致的網(wǎng)絡(luò)釣魚電子郵件，編造虛假人設(shè)來(lái)推進(jìn)詐騙活動(dòng)?！?/p>

這些服務(wù)打廣告時(shí)的宣傳重點(diǎn)就是使用了機(jī)器學(xué)習(xí)，而且可能不僅僅是營(yíng)銷辭藻，而是真的如此?！霸囘^(guò)就知道了?！盡alone稱，“效果那是真的好?！?/p>

攻擊者可以利用機(jī)器學(xué)習(xí)創(chuàng)造性地定制網(wǎng)絡(luò)釣魚電子郵件，防止這些郵件被標(biāo)記為垃圾郵件，從而讓目標(biāo)用戶有機(jī)會(huì)點(diǎn)進(jìn)去。他們定制的可不僅僅是郵件文本。攻擊者會(huì)利用AI生成看起來(lái)非常真實(shí)的照片、社交媒體資料和其他材料，讓交流看起來(lái)盡可能真實(shí)可信。

3. 更高效的密碼猜解

網(wǎng)絡(luò)罪犯還會(huì)采用機(jī)器學(xué)習(xí)來(lái)猜解密碼?！拔覀冇凶C據(jù)顯示他們使用密碼猜解引擎的頻率更高了，猜解成功率也更高?！本W(wǎng)絡(luò)罪犯正在編造更好的字典來(lái)破解被盜散列。

他們還利用機(jī)器學(xué)習(xí)識(shí)別安全控制措施，以便能夠以更少的嘗試次數(shù)猜中密碼，提高成功入侵系統(tǒng)的概率。

4. 深度偽造

人工智能最令人驚恐的濫用方式是深度偽造工具：生成能夠以假亂真的視頻或音頻的工具。“能夠模擬他人聲音或相貌騙人非常有效?！盡ontenegro稱，“要是有人偽裝我的聲音，估計(jì)你也會(huì)中招?！?/p>

事實(shí)上，過(guò)去幾年里披露的一系列重大案件顯示，偽造的音頻可致使公司損失成百上千乃至數(shù)百萬(wàn)美元。德克薩斯大學(xué)計(jì)算機(jī)科學(xué)教授Murat Kantarcioglu表示：“人們會(huì)接到老板打來(lái)的電話——那是假的?！?/p>

更為常見的是，騙子用AI生成看起來(lái)很真實(shí)的照片、用戶資料和網(wǎng)絡(luò)釣魚郵件，讓他們郵件看起來(lái)更可信。這是門大生意。根據(jù)FBI的報(bào)告，2016年至今，商務(wù)電郵欺詐已導(dǎo)致超過(guò)430億美元的損失。去年秋天，媒體報(bào)道稱，香港一家銀行被騙轉(zhuǎn)賬給犯罪團(tuán)伙3500萬(wàn)美元，僅僅是因?yàn)橐幻y行職員接到了自己認(rèn)識(shí)的公司董事的電話。他認(rèn)出了董事的聲音，毫不懷疑地授權(quán)了轉(zhuǎn)賬。

5. 無(wú)效化現(xiàn)成安全工具

當(dāng)前常用的很多安全工具都內(nèi)置了某種形式的人工智能或機(jī)器學(xué)習(xí)。比如說(shuō)，殺毒軟件在查找可疑行為時(shí)就不止依賴基本的特征碼?！熬W(wǎng)上任何可用的東西，尤其是開源的東西，都會(huì)被壞人利用?！?/p>

攻擊者可以使用這些工具，不是用來(lái)抵御攻擊，而是用來(lái)調(diào)整自己的惡意軟件，直到能夠繞過(guò)檢測(cè)為止?！癆I模型都有很多盲點(diǎn)?！盞antarcioglu稱，“你可以通過(guò)改變攻擊的特征加以調(diào)整，比如發(fā)送數(shù)據(jù)包的個(gè)數(shù)、攻擊的資源等等?！?/p>

而且，攻擊者利用的可不僅僅是AI賦能的安全工具。AI只是大堆不同技術(shù)之一。舉個(gè)例子，用戶常能學(xué)會(huì)通過(guò)找尋語(yǔ)法錯(cuò)誤來(lái)識(shí)別網(wǎng)絡(luò)釣魚郵件。而AI賦能的語(yǔ)法檢查器，比如Grammarly，可以幫助攻擊者改善他們的寫作。

6. 偵察

機(jī)器學(xué)習(xí)可用于偵察，攻擊者可以之查看目標(biāo)的流量模式、防御措施和潛在的漏洞。偵察不是件容易的事，普通網(wǎng)絡(luò)罪犯干不了。“想要利用AI偵察，你得具備一定的技能。所以，我認(rèn)為，只有高級(jí)的國(guó)家黑客才會(huì)用這些技術(shù)?！?/p>

但是，一旦某種程度上商業(yè)化了，這種技術(shù)通過(guò)地下黑市以服務(wù)的形式提供，那就很多人都可以利用了。“如果某個(gè)黑客國(guó)家隊(duì)開發(fā)了一套使用機(jī)器學(xué)習(xí)的工具包，并且發(fā)布到犯罪社區(qū)，這種情況也可能出現(xiàn)。”Mellen稱，“但網(wǎng)絡(luò)罪犯仍需了解機(jī)器學(xué)習(xí)應(yīng)用程序的作用和有效利用方式，這就是利用的門檻?！?/p>

7. 自治代理

如果企業(yè)發(fā)覺自己正遭受攻擊，斷開受影響系統(tǒng)的互聯(lián)網(wǎng)連接，那么惡意軟件可能就無(wú)法回連其命令與控制（C2）服務(wù)器接收進(jìn)一步的指令?！肮粽呖赡芟胍愠鲆惶字悄苣Ｐ停词乖跓o(wú)法直接控制的情況下也能長(zhǎng)期駐留。”Kantarcioglu稱，“但對(duì)于普通網(wǎng)絡(luò)犯罪，我認(rèn)為這一點(diǎn)不是特別重要。”

8. AI投毒

攻擊者可以通過(guò)饋送新信息來(lái)欺騙機(jī)器學(xué)習(xí)模型。全球風(fēng)險(xiǎn)研究所高級(jí)副研究員Alexey Rubtsov稱：“對(duì)手可以操縱訓(xùn)練數(shù)據(jù)集。例如，他們故意讓模型產(chǎn)生偏向，讓機(jī)器學(xué)習(xí)錯(cuò)誤的方式?！?/p>

舉個(gè)例子，黑客可以操縱被劫持的用戶賬戶每天凌晨2點(diǎn)登錄系統(tǒng)進(jìn)行無(wú)害的工作，導(dǎo)致系統(tǒng)認(rèn)為凌晨2點(diǎn)工作沒有任何可疑之處，從而減少用戶必須通過(guò)的安全關(guān)卡。

2016年微軟Tay聊天機(jī)器人被教成種族主義者就是類似的原因。同樣的方法可用于訓(xùn)練系統(tǒng)認(rèn)為特點(diǎn)類型的惡意軟件是安全的，或者特定爬蟲行為是完全正常的。

9. AI模糊測(cè)試

合法軟件開發(fā)人員和滲透測(cè)試人員使用模糊測(cè)試軟件生成隨機(jī)樣本輸入，嘗試搞崩應(yīng)用程序或者找出漏洞。此類軟件的加強(qiáng)版利用機(jī)器學(xué)習(xí)以更具針對(duì)性、更有條理的方式產(chǎn)生輸入，例如優(yōu)先考慮最有可能導(dǎo)致問題的文本字符串。這類模糊測(cè)試工具為企業(yè)所用能取得更好的測(cè)試效果，但在攻擊者手中也更為致命。

以上這些技術(shù)都是安全補(bǔ)丁、反網(wǎng)絡(luò)釣魚教育和微分隔等網(wǎng)絡(luò)安全手段依然至關(guān)重要的原因之一。佛瑞斯特研究所的Mellen稱：“深度防御為什么如此重要？這也是其中一個(gè)原因。你得設(shè)置多重路障，而不是僅僅采用攻擊者反用來(lái)對(duì)付你的那一種?！?/p>

缺乏專業(yè)知識(shí)阻礙了惡意黑客利用機(jī)器學(xué)習(xí)和AI

投資機(jī)器學(xué)習(xí)需要大量的專業(yè)知識(shí)，而機(jī)器學(xué)習(xí)相關(guān)專業(yè)知識(shí)目前是稀缺技能。而且，由于很多漏洞都沒修復(fù)，攻擊者可以用來(lái)突破企業(yè)防線的便捷途徑多的是。

“唾手可得的目標(biāo)多的是，不必使用機(jī)器學(xué)習(xí)和人工智能發(fā)起攻擊也能賺錢的其他渠道也大把抓?！盡ellen表示，“根據(jù)我的經(jīng)驗(yàn)，絕大多數(shù)情況下，攻擊者并沒有利用這些技術(shù)?！辈贿^(guò)，隨著企業(yè)防御的提升，網(wǎng)絡(luò)罪犯和黑客國(guó)家隊(duì)也會(huì)繼續(xù)投入攻擊開發(fā)，這種平衡可能很快就會(huì)開始轉(zhuǎn)變了。