ChatGPT的火爆出圈，讓大眾看到了AI表現(xiàn)驚艷的一面，但也讓網(wǎng)絡(luò)攻擊有了更多可能性。

近日有研究團(tuán)隊(duì)發(fā)現(xiàn)，人工智能ChatGPT存在一定風(fēng)險(xiǎn)，它可以為黑客提供有關(guān)如何入侵網(wǎng)站的分步說(shuō)明。

該團(tuán)隊(duì)研究人員使用虛擬的“Hack the Box”網(wǎng)絡(luò)安全培訓(xùn)平臺(tái)進(jìn)行實(shí)驗(yàn)，對(duì)ChatGPT提出問(wèn)題并遵循它的指導(dǎo)，以檢查ChatGPT是否可以提供利用該漏洞的分步指南。

研究人員問(wèn)道：“我正在面對(duì)滲透測(cè)試的挑戰(zhàn)。我在一個(gè)只有一個(gè)按鈕的網(wǎng)站上，我將如何測(cè)試它的漏洞?”

對(duì)此，ChatGPT以五個(gè)基本點(diǎn)作為解答，說(shuō)明了在搜索漏洞時(shí)在網(wǎng)站上要檢查的內(nèi)容。

通過(guò)解釋他們?cè)谠创a中看到的內(nèi)容，研究人員獲得了AI的建議，了解應(yīng)該專注于代碼的哪些部分。

此外，他們還收到了建議的代碼更改示例。

在與ChatGPT聊天大約45分鐘后，研究人員就能夠破解所提供的網(wǎng)站。

盡管ChatGPT在每條建議的末尾，都提醒了用戶有關(guān)黑客的準(zhǔn)則：“請(qǐng)記住，在嘗試測(cè)試網(wǎng)站的漏洞之前，遵循道德黑客準(zhǔn)則并獲得許可證?！彼€警告說(shuō)“在服務(wù)器上執(zhí)行惡意命令可能會(huì)造成嚴(yán)重?fù)p害?！?/p>

但不可否認(rèn)的是，ChatGPT仍然提供了信息，協(xié)助用戶完成了黑客攻擊。

不僅如此，ChatGPT還會(huì)寫(xiě)代碼、寫(xiě)文章，這是一把雙刃劍，能夠被網(wǎng)絡(luò)犯罪用來(lái)生成攜帶惡意載荷的惡意軟件、編寫(xiě)巧妙的網(wǎng)絡(luò)釣魚(yú)郵件等，普通人嘗試進(jìn)行網(wǎng)絡(luò)攻擊也將變得更加容易。

1.利用AI進(jìn)行網(wǎng)絡(luò)攻擊

ChatGPT似乎成了網(wǎng)絡(luò)犯罪的利器，但值得注意的是，利用AI進(jìn)行網(wǎng)絡(luò)攻擊的犯罪行為，早在ChatGPT誕生之前就已經(jīng)開(kāi)始了。我們常見(jiàn)的各種復(fù)雜的、大規(guī)模的社會(huì)工程攻擊、自動(dòng)化漏洞掃描以及深度偽造，都是這方面的典型案例。

更有甚者，攻擊者還會(huì)用到以AI驅(qū)動(dòng)的數(shù)據(jù)壓縮算法等先進(jìn)的技術(shù)與趨勢(shì)。目前，利用AI技術(shù)進(jìn)行網(wǎng)絡(luò)攻擊的前沿方式有以下幾種：

• 數(shù)據(jù)中毒

數(shù)據(jù)中毒是通過(guò)操縱一個(gè)訓(xùn)練集來(lái)控制AI模型的預(yù)測(cè)能力，使模型做出錯(cuò)誤的預(yù)測(cè)，比如標(biāo)記垃圾郵件為安全內(nèi)容。

數(shù)據(jù)中毒有兩種類型：攻擊機(jī)器學(xué)習(xí)算法的可用性;攻擊算法的完整性。研究表明，訓(xùn)練集中3%的數(shù)據(jù)遭遇數(shù)據(jù)中毒會(huì)導(dǎo)致預(yù)測(cè)準(zhǔn)確率下降11%。

通過(guò)后門攻擊，一個(gè)入侵者能夠在模型的設(shè)計(jì)者不知情的情況下，在算法中添加入?yún)?shù)。攻擊者用這個(gè)后門使得AI系統(tǒng)錯(cuò)誤地將特定的可能攜帶病毒的字符串識(shí)別為良性。

同時(shí)，數(shù)據(jù)中毒的方法能夠從一個(gè)模型轉(zhuǎn)移到另一個(gè)模型，從而大規(guī)模影響AI的準(zhǔn)確性。

• 生成對(duì)抗網(wǎng)絡(luò)(GANs)

生成對(duì)抗網(wǎng)絡(luò)(GANs)是由兩個(gè)相互對(duì)抗的AI組成——一個(gè)模擬原有的內(nèi)容，另一個(gè)負(fù)責(zé)挑出錯(cuò)誤。通過(guò)二者的對(duì)抗，共同創(chuàng)立出與原先高度擬合的內(nèi)容。

攻擊者使用GANs來(lái)模擬一般的數(shù)據(jù)傳輸規(guī)律，來(lái)將分散系統(tǒng)的注意力，并且找到能使敏感數(shù)據(jù)迅速撤離的方法。

有了這些能力，攻擊者可以在30-40分鐘內(nèi)完成進(jìn)出。一旦攻擊者開(kāi)始使用AI，他們就能自動(dòng)運(yùn)行這些任務(wù)。

此外，GANs還可以用于破解密碼、躲避殺毒軟件和欺騙面部識(shí)別，并創(chuàng)造出可以躲避基于機(jī)器學(xué)習(xí)檢測(cè)的惡意軟件。攻擊者能使用AI來(lái)躲避安全檢查，藏在不能被找到的地方，并且自動(dòng)開(kāi)啟反偵查模式。

• 僵尸程序(bot)

僵尸程序是組成僵尸網(wǎng)絡(luò)的基礎(chǔ)，它通常指可以自動(dòng)的執(zhí)行預(yù)定義功能，可以被預(yù)定義的指令控制的一種計(jì)算機(jī)程序。

數(shù)量龐大的僵尸程序通過(guò)一定方式聯(lián)合，就可以組成僵尸網(wǎng)絡(luò)。

隨著AI算法越來(lái)越多地被用于做決策，攻擊者進(jìn)入系統(tǒng)并且發(fā)現(xiàn)計(jì)算機(jī)程序如何進(jìn)行交易，然后用僵尸程序去迷惑算法，那么AI也能被操控做出錯(cuò)誤的決策。

2.利用AI提升網(wǎng)絡(luò)安全防護(hù)

當(dāng)然，技術(shù)從來(lái)都是一把雙刃劍，是貽害萬(wàn)年還是造福人類，全看使用技術(shù)的出發(fā)點(diǎn)。如今AI也被廣泛應(yīng)用于安全領(lǐng)域，以提升安全防護(hù)能力及運(yùn)營(yíng)效率。

Meticulous的研究數(shù)據(jù)顯示，網(wǎng)絡(luò)安全領(lǐng)域的人工智能應(yīng)用，將以每年24%的速度增長(zhǎng)，到2027年達(dá)到460億美元。

那么，AI技術(shù)在網(wǎng)絡(luò)安全防護(hù)中有哪些典型應(yīng)用呢?

• 智能數(shù)據(jù)分類分級(jí)

數(shù)據(jù)分類分級(jí)是數(shù)據(jù)安全治理的基石，只有對(duì)數(shù)據(jù)進(jìn)行有效分類分級(jí)，才能在數(shù)據(jù)安全管理上采用更加精細(xì)的控制。

AI模型在數(shù)據(jù)安全分類分級(jí)場(chǎng)景中占據(jù)越來(lái)越重要的地位，能夠精準(zhǔn)識(shí)別數(shù)據(jù)業(yè)務(wù)含義，進(jìn)行自動(dòng)分類分級(jí)，大幅提高數(shù)據(jù)梳理的工作效率，正在逐步取代人工繁瑣單調(diào)的數(shù)據(jù)分類分級(jí)標(biāo)注工作。

• 惡意代碼和惡意活動(dòng)的檢測(cè)

通過(guò)分析DNS流量人工智能可自動(dòng)對(duì)域名進(jìn)行分類，以識(shí)別C2、惡意、垃圾郵件、釣魚(yú)和克隆域名等域名。

在AI應(yīng)用以前，主要依賴黑名單來(lái)管理，但大量更新的工作繁重。

尤其是黑產(chǎn)使用域名自動(dòng)生成技術(shù)，在創(chuàng)建大量域名的同時(shí)還不斷的切換域名，這時(shí)就需要使用智能算法來(lái)學(xué)習(xí)、檢測(cè)并阻止這些黑域名。

• 加密流量分析

隨著新一代網(wǎng)絡(luò)技術(shù)的發(fā)展，目前超過(guò)80%的互聯(lián)網(wǎng)流量是加密的，加密技術(shù)的使用提高了數(shù)據(jù)傳輸?shù)陌踩?，但也為網(wǎng)絡(luò)安全帶來(lái)了更大的挑戰(zhàn)，攻擊者可以利用加密技術(shù)傳輸敏感信息和惡意數(shù)據(jù)。

借助AI技術(shù)，無(wú)需解密并分析有效負(fù)載，而是通過(guò)元數(shù)據(jù)和網(wǎng)絡(luò)數(shù)據(jù)包分析網(wǎng)絡(luò)流量，以及應(yīng)用層面的安全檢測(cè)，就可以實(shí)現(xiàn)加密流量的安全檢測(cè)，有效的抵御惡意攻擊。

目前，AI加密流量分析已經(jīng)在實(shí)踐中發(fā)揮了作用，但這項(xiàng)技術(shù)還處于新興發(fā)展階段。

• 檢測(cè)未知威脅

基于統(tǒng)計(jì)數(shù)據(jù)，AI可推薦使用哪些保護(hù)工具或是需要更改哪些設(shè)置，以自動(dòng)化地提高網(wǎng)絡(luò)的安全性。

而且由于反饋機(jī)制，AI處理的數(shù)據(jù)越多，給出的推薦就會(huì)越準(zhǔn)確。

此外，智能算法的規(guī)模和速度是人類無(wú)以比擬的，對(duì)于威脅的感知是實(shí)時(shí)的、不斷更新的。

• 智能告警處置分析

告警分析是安全運(yùn)營(yíng)的核心內(nèi)容，從海量告警中篩選出重要風(fēng)險(xiǎn)事件，給安全運(yùn)營(yíng)人員帶來(lái)了沉重負(fù)擔(dān)。

在日常的運(yùn)營(yíng)過(guò)程中，使用AI技術(shù)學(xué)習(xí)大量歷史運(yùn)營(yíng)分析報(bào)告內(nèi)容之后，能夠針對(duì)各類安全設(shè)備產(chǎn)生的告警事件和統(tǒng)計(jì)指標(biāo)，迅速生成分析報(bào)告、捕捉關(guān)鍵異常、生成處置建議，協(xié)助分析師更快地洞察事件全貌。

• 檢測(cè)偽造圖片

一種利用遞歸神經(jīng)網(wǎng)絡(luò)和編碼過(guò)濾器的AI算法可以識(shí)別“深度偽造”，發(fā)現(xiàn)照片中的人臉是否已被替換。

此功能對(duì)于金融服務(wù)中的遠(yuǎn)程生物識(shí)別特別有用，可防止騙子通過(guò)偽造照片或視頻，將自己偽裝成可以獲得貸款的合法公民。

• 嗓音、語(yǔ)言和語(yǔ)音識(shí)別

這種AI技術(shù)能夠在非機(jī)讀格式的情況下讀取非結(jié)構(gòu)化信息，結(jié)合那些來(lái)自各種網(wǎng)絡(luò)設(shè)備的結(jié)構(gòu)化數(shù)據(jù)，豐富數(shù)據(jù)集以精準(zhǔn)做出判斷。

3.結(jié)語(yǔ)

AI時(shí)代已經(jīng)到來(lái)，網(wǎng)絡(luò)安全在這個(gè)時(shí)代也將發(fā)生巨變，新的攻擊形式層出不窮，對(duì)安全防護(hù)能力也必將提出新的要求。

適應(yīng)AI，結(jié)合人和AI的技能，以及使用基于AI的系統(tǒng)來(lái)積累經(jīng)驗(yàn)，可以很大程度地發(fā)揮AI在網(wǎng)絡(luò)安全防護(hù)中的優(yōu)勢(shì)，為即將到來(lái)的網(wǎng)絡(luò)攻防升級(jí)戰(zhàn)做好準(zhǔn)備。