[[250514]]

【51CTO.com快譯】人工智能(AI)正迅速成為政府、企業(yè)和公民防御網(wǎng)絡(luò)攻擊的一個重要組成部分。從最初只是自動執(zhí)行特定手工任務(wù)的技術(shù)，到使用日益復(fù)雜的系統(tǒng)來解讀分析數(shù)據(jù)的機(jī)器學(xué)習(xí)，深度學(xué)習(xí)能力方面的突破將成為安全議程中一個不可或缺的部分。人們對這些能力如何有助于打造防御態(tài)勢給予了極大的關(guān)注。但是敵人如何利用AI帶來新一代攻擊途徑、安全界如何應(yīng)對卻往往被忽視。最終，AI的真正危險在于它會成為攻擊者的幫兇。

挑戰(zhàn)

敵對式AI是指惡意開發(fā)和使用先進(jìn)的數(shù)字技術(shù)和系統(tǒng)，它們擁有通常與人類行為相關(guān)的智力過程。這包括從過去的經(jīng)驗中學(xué)習(xí)以及從復(fù)雜數(shù)據(jù)中推理或發(fā)現(xiàn)含意的能力。

威脅領(lǐng)域的變化已經(jīng)很明顯。犯罪分子已經(jīng)在利用自動化偵察、鉆目標(biāo)空子和網(wǎng)絡(luò)滲透。很快，技術(shù)將使它們能夠自動執(zhí)行攻擊周期的每個環(huán)節(jié)，包括目前非常手動的流程，比如學(xué)習(xí)欺詐控制的能力以及使套現(xiàn)和洗錢策略實現(xiàn)工業(yè)化的能力。

基于核心的大數(shù)據(jù)原則，敵對式AI將從三大方面影響威脅領(lǐng)域。

1. 對更廣泛的攻擊周期實行更大規(guī)模的攻擊

通過引入新的可擴(kuò)展系統(tǒng)(通常需要人力和專長來實施攻擊)，犯罪分子能夠投入資源和能力，針對一批目標(biāo)來構(gòu)建和改動新的基礎(chǔ)設(shè)施。

2. 新的攻擊步伐和速度，可以針對具體環(huán)境來改動

技術(shù)將使犯罪團(tuán)伙能夠變得越來越有效且高效。技術(shù)將讓他們得以實時微調(diào)攻擊，適應(yīng)具體的環(huán)境，并更快地學(xué)習(xí)防御態(tài)勢。這在所有攻擊場景、行業(yè)和技術(shù)平臺上將得到體現(xiàn)。

3. 新的攻擊種類，以前依賴人類互動時是不可能實現(xiàn)的

最后但最重要的是，下一代技術(shù)系統(tǒng)將實現(xiàn)以前不可行的攻擊方法。這將在一系列轉(zhuǎn)變中改變威脅領(lǐng)域，繞過為抵御攻擊而實施到位的整整一代控制。

網(wǎng)絡(luò)安全界需要采取的5種應(yīng)對方式

可供攻擊者使用的新一代系統(tǒng)方面的進(jìn)步需要我們基于堅實的安全基礎(chǔ)，采用一種整體的、多層次的方案。攻擊途徑的改動和增加需要當(dāng)前的防御框架有所演變和適應(yīng)。新一代攻擊方法需要繞過傳統(tǒng)的檢測和響應(yīng)態(tài)勢才有可能得逞。

1. 了解我們當(dāng)前的威脅環(huán)境

不可能始終保護(hù)企業(yè)免受來自所有渠道的攻擊。了解和防御敵對式AI將需要深入了解威脅在哪個環(huán)節(jié)會挑戰(zhàn)當(dāng)前的安全態(tài)勢、應(yīng)將有限的資源集中投入到哪個環(huán)節(jié)。

2. 投入于技能和分析

為了適應(yīng)這種新的安全環(huán)境，政府、企業(yè)和教育系統(tǒng)需要確保它們擁有必要的技能基礎(chǔ)和人才管道。吸引和招募人才的能力，以及對人才進(jìn)行多學(xué)科(包括高級計算、數(shù)學(xué)和統(tǒng)一分析)方面的再培訓(xùn)的能力很快會至關(guān)重要。

3. 投入于供應(yīng)商和第三方

全面的深度防御基于一整套服務(wù)和第三方，它們在運營和戰(zhàn)略層面積極管理和完善防御，順應(yīng)不斷變化的威脅領(lǐng)域。安全界要有明確的路線圖、戰(zhàn)略和必要的技能，以適應(yīng)敵對式AI帶來的新型攻擊。投入于集成式的集群和機(jī)器學(xué)習(xí)分析以實現(xiàn)基于主機(jī)的檢測和網(wǎng)絡(luò)監(jiān)控，這越來越成為行業(yè)標(biāo)準(zhǔn)，但很快需要這種先進(jìn)技術(shù)，應(yīng)用于企業(yè)的全部攻擊面。

4. 投入于新的政企伙伴關(guān)系

引入新的AI驅(qū)動系統(tǒng)將挑戰(zhàn)傳統(tǒng)的防御態(tài)勢，需要更深入和更廣泛的合作伙伴基礎(chǔ)以保護(hù)企業(yè)。想應(yīng)對可在全球范圍內(nèi)實施的大規(guī)模攻擊，需要傳統(tǒng)結(jié)構(gòu)之外積極的伙伴關(guān)系和聯(lián)盟。這方面的關(guān)鍵是與跨行業(yè)合作伙伴、監(jiān)管部門和政府積極制定戰(zhàn)略，它們可以共同制定戰(zhàn)略，積極應(yīng)對新的安全挑戰(zhàn)。這會更需要協(xié)調(diào)針對合作伙伴之間認(rèn)證和溝通的規(guī)則。

5. 繼續(xù)融合關(guān)鍵業(yè)務(wù)流程和能力

新一代攻擊針對整個企業(yè)的全部攻擊面，并鉆缺乏整體防御機(jī)制的空子，會給結(jié)構(gòu)性運營孤島帶來越來越大的壓力。

為什么現(xiàn)在行動起來很重要?

網(wǎng)絡(luò)安全將繼續(xù)成為21世紀(jì)的安全挑戰(zhàn)。它已經(jīng)從根本上改變了企業(yè)、政府和公民如何合作打擊犯罪。但這只是一個開始。

原文標(biāo)題：What is adversarial artificial intelligence and why does it matter?，作者：William Dixon

【51CTO譯稿，合作站點轉(zhuǎn)載請注明原文譯者和出處為51CTO.com】