人工智能(AI)和機(jī)器學(xué)習(xí)(ML)技術(shù)如今已經(jīng)成為人們?nèi)粘Ｉ畹囊徊糠?，其中包括網(wǎng)絡(luò)安全。在網(wǎng)絡(luò)安全人員的手中，人工智能/機(jī)器學(xué)習(xí)(ML)可以識(shí)別漏洞并縮短事件響應(yīng)時(shí)間。但在網(wǎng)絡(luò)罪犯手中，人工智能/機(jī)器學(xué)習(xí)(ML)則可能會(huì)造成重大傷害。

以下是人工智能/機(jī)器學(xué)習(xí)影響網(wǎng)絡(luò)安全的七種積極方式和七種消極方式。

[[413058]]

人工智能/機(jī)器學(xué)習(xí)對(duì)網(wǎng)絡(luò)安全的7個(gè)積極影響

(1) 欺詐和異常檢測(cè)：這是人工智能工具在網(wǎng)絡(luò)安全領(lǐng)域進(jìn)行救援的最常見(jiàn)方式。復(fù)合人工智能欺詐檢測(cè)引擎在識(shí)別復(fù)雜的騙局模式方面表現(xiàn)出色。欺詐檢測(cè)系統(tǒng)的高級(jí)分析儀表板提供有關(guān)攻擊事件的全面詳細(xì)信息。這是異常檢測(cè)的一般領(lǐng)域中極其重要的領(lǐng)域。

(2) 電子郵件垃圾郵件過(guò)濾器：防御性規(guī)則過(guò)濾掉帶有可疑詞語(yǔ)的郵件，以識(shí)別危險(xiǎn)的電子郵件。此外，垃圾郵件過(guò)濾器可以保護(hù)電子郵件用戶，并減少處理不需要的通信所需的時(shí)間。

(3) 僵尸網(wǎng)絡(luò)檢測(cè)：有監(jiān)督和無(wú)監(jiān)督的機(jī)器學(xué)習(xí)算法不僅有助于檢測(cè)，還能防止復(fù)雜的機(jī)器人攻擊。它們還有助于識(shí)別用戶行為模式，以極低的誤報(bào)率識(shí)別未檢測(cè)到的網(wǎng)絡(luò)攻擊。

(4) 漏洞管理：管理漏洞(人工管理或使用工具)可能很困難，但人工智能系統(tǒng)使其變得更容易。人工智能工具通過(guò)分析用戶行為、端點(diǎn)、服務(wù)器甚至暗網(wǎng)上的討論來(lái)尋找潛在漏洞，以識(shí)別代碼漏洞并預(yù)測(cè)攻擊。

(5) 防惡意軟件：人工智能技術(shù)幫助防病毒軟件檢測(cè)正常文件和不良文件，從而可以識(shí)別新形式的惡意軟件，即使以前從未見(jiàn)過(guò)。雖然用基于人工智能的技術(shù)完全替代傳統(tǒng)技術(shù)可以加快檢測(cè)速度，但也會(huì)增加誤報(bào)率。結(jié)合傳統(tǒng)方法和人工智能可以檢測(cè)100%的惡意軟件。

(6) 數(shù)據(jù)泄漏預(yù)防：人工智能幫助識(shí)別文本和非文本文檔中的特定數(shù)據(jù)類型?？梢杂?xùn)練可訓(xùn)練的分類器來(lái)檢測(cè)不同的敏感信息類型。這些人工智能方法可以使用適當(dāng)?shù)淖R(shí)別算法搜索圖像、語(yǔ)音記錄或視頻中的數(shù)據(jù)。

(7) SIEM和SOAR：機(jī)器學(xué)習(xí)可以使用安全信息和事件管理(SIEM)以及安全編排、自動(dòng)化和響應(yīng)(SOAR)工具來(lái)改進(jìn)數(shù)據(jù)自動(dòng)化和情報(bào)收集、檢測(cè)可疑行為模式，以及根據(jù)輸入自動(dòng)響應(yīng)。

人工智能/機(jī)器學(xué)習(xí)用于網(wǎng)絡(luò)流量分析、入侵檢測(cè)系統(tǒng)、入侵防御系統(tǒng)、安全訪問(wèn)服務(wù)邊緣、用戶和實(shí)體行為分析以及Gartner公司所描述的大多數(shù)技術(shù)領(lǐng)域。事實(shí)上，很難想象現(xiàn)代安全工具沒(méi)有采用某種人工智能/機(jī)器學(xué)習(xí)技術(shù)。

人工智能/機(jī)器學(xué)習(xí)對(duì)網(wǎng)絡(luò)安全的7個(gè)消極影響

(1) 數(shù)據(jù)收集：通過(guò)社會(huì)工程和其他技術(shù)，采用機(jī)器學(xué)習(xí)技術(shù)用于更好地分析受害者，網(wǎng)絡(luò)犯罪分子利用這些信息加速攻擊。例如，在2018年，WordPress網(wǎng)站經(jīng)歷了大規(guī)模的基于機(jī)器學(xué)習(xí)的僵尸網(wǎng)絡(luò)感染，黑客可以訪問(wèn)用戶的個(gè)人信息。

(2) 勒索軟件：勒索軟件正在快速增長(zhǎng)。犯罪成功案例很多;最嚴(yán)重的事件之一導(dǎo)致Colonial 輸油管道中斷6天，并不得不支付了440萬(wàn)美元的勒索贖金。

(3) 垃圾郵件、網(wǎng)絡(luò)釣魚和魚叉式網(wǎng)絡(luò)釣魚：機(jī)器學(xué)習(xí)算法可以創(chuàng)建看起來(lái)像真實(shí)消息的虛假消息，旨在竊取用戶憑據(jù)。在BlackHat會(huì)議的一次演講中，John Seymour和Philip Tully詳細(xì)介紹了機(jī)器學(xué)習(xí)算法如何生成帶有虛假網(wǎng)絡(luò)釣魚鏈接的病毒式推文，其攻擊效果是人工創(chuàng)建的網(wǎng)絡(luò)釣魚消息的四倍。

(4) Deepfakes：在語(yǔ)音網(wǎng)絡(luò)釣魚中，詐騙者使用機(jī)器學(xué)習(xí)生成的Deepfake音頻技術(shù)來(lái)制造更成功的網(wǎng)絡(luò)攻擊。例如深度語(yǔ)音等現(xiàn)代算法只需要幾秒鐘的語(yǔ)音就可以模仿受害者的語(yǔ)音、口音和語(yǔ)調(diào)。

(5) 惡意軟件：機(jī)器學(xué)習(xí)可以隱藏跟蹤節(jié)點(diǎn)和端點(diǎn)行為的惡意軟件，并構(gòu)建模仿受害者網(wǎng)絡(luò)上合法網(wǎng)絡(luò)流量的模式。它還可以在惡意軟件中加入一種自毀機(jī)制，以放大網(wǎng)絡(luò)攻擊速度。人工智能算法經(jīng)過(guò)訓(xùn)練可以比人類更快地提取數(shù)據(jù)，這使得它更難預(yù)防。

(6) 密碼和驗(yàn)證碼：采用神經(jīng)網(wǎng)絡(luò)驅(qū)動(dòng)的軟件聲稱可以輕松破解人類識(shí)別系統(tǒng)。機(jī)器學(xué)習(xí)技術(shù)使網(wǎng)絡(luò)犯罪分子能夠分析大量密碼數(shù)據(jù)集，以更好地定位密碼猜測(cè)。例如，PassGAN使用機(jī)器學(xué)習(xí)算法比使用傳統(tǒng)技術(shù)的流行密碼破解工具更準(zhǔn)確地猜測(cè)密碼。

(7) 攻擊人工智能/機(jī)器學(xué)習(xí)本身：濫用在醫(yī)療保健、軍事和其他高價(jià)值部門核心工作的算法可能會(huì)導(dǎo)致災(zāi)難。Berryville機(jī)器學(xué)習(xí)研究所的機(jī)器學(xué)習(xí)系統(tǒng)架構(gòu)風(fēng)險(xiǎn)分析有助于分析已知的機(jī)器學(xué)習(xí)攻擊分類法，并對(duì)機(jī)器學(xué)習(xí)算法進(jìn)行架構(gòu)風(fēng)險(xiǎn)分析。安全工程師必須學(xué)習(xí)如何在其生命周期的每個(gè)階段保護(hù)機(jī)器學(xué)習(xí)算法。

人們很容易理解為什么人工智能/機(jī)器學(xué)習(xí)受到如此多的關(guān)注。而對(duì)抗復(fù)雜的網(wǎng)絡(luò)攻擊的唯一方法是利用人工智能的防御潛力。業(yè)界人士必須注意到機(jī)器學(xué)習(xí)在檢測(cè)異常(例如，流量模式或人為錯(cuò)誤)方面的強(qiáng)大功能。通過(guò)采用適當(dāng)?shù)膶?duì)策和措施，可以防止或顯著減少可能的損害。

總體而言，人工智能/機(jī)器學(xué)習(xí)在防范網(wǎng)絡(luò)威脅方面具有巨大價(jià)值。一些政府和企業(yè)正在使用或討論使用人工智能/機(jī)器學(xué)習(xí)來(lái)打擊網(wǎng)絡(luò)犯罪分子。雖然圍繞人工智能/機(jī)器學(xué)習(xí)的隱私和道德問(wèn)題是合理的，但政府部門必須確保人工智能/機(jī)器學(xué)習(xí)法規(guī)不會(huì)阻止企業(yè)使用人工智能/機(jī)器學(xué)習(xí)進(jìn)行保護(hù)。因?yàn)楸娝苤?，網(wǎng)絡(luò)犯罪分子并不會(huì)遵守這些法規(guī)。