有網(wǎng)絡(luò)安全專(zhuān)家表示，雖然企業(yè)組織并不總是能夠準(zhǔn)確指出生成式AI在網(wǎng)絡(luò)攻擊中發(fā)揮的作用，但可以假設(shè)它在網(wǎng)絡(luò)釣魚(yú)和社會(huì)工程攻擊中已經(jīng)變得無(wú)處不在了。隨著OpenAI ChatGPT等工具的出現(xiàn)以及對(duì)攻擊者用戶(hù)的突顯，“你可以假設(shè)復(fù)雜性和準(zhǔn)確性都有所提高，以及網(wǎng)絡(luò)釣魚(yú)和社會(huì)工程中語(yǔ)言學(xué)發(fā)生的變化，”托管檢測(cè)和響應(yīng)提供商Blackpoint Cyber安全副總裁MacKenzie Brown這樣表示。

但有專(zhuān)家稱(chēng)，盡管生成式AI應(yīng)用無(wú)疑是目前對(duì)攻擊者“最有用處的”，但仍有許多新興威脅利用這項(xiàng)技術(shù)來(lái)加快攻擊的速度和復(fù)雜性。

有專(zhuān)家表示，對(duì)于大多數(shù)組織來(lái)說(shuō)，最重要的是，即使生成式AI在防御方面取得了進(jìn)展，但威脅環(huán)境仍將繼續(xù)受到AI攻擊的影響。

歸根結(jié)底，對(duì)于那些擁有成熟安全計(jì)劃的組織來(lái)說(shuō)，生成式AI的到來(lái)“只是加速和改進(jìn)了他們多年來(lái)已知的攻擊媒介”，總部位于丹佛的Optiv公司大數(shù)據(jù)和分析業(yè)務(wù)總監(jiān)Randy Lariar這樣表示。

然而“我認(rèn)為，更大的問(wèn)題可能是企業(yè)在安全領(lǐng)域落后了，或者沒(méi)有將安全與業(yè)務(wù)使命完全結(jié)合起來(lái)，”Lariar說(shuō)。“如果只是完成了一個(gè)選項(xiàng)或者滿(mǎn)足了保險(xiǎn)要求，那么就是可能存在一些差距的?！?/p>

下面就讓我們來(lái)看看2024年生成式AI帶來(lái)的五種新型安全威脅。

加速攻擊

安全專(zhuān)家表示，生成式AI帶來(lái)的最大威脅并不是新的策略或技術(shù)，而是讓網(wǎng)絡(luò)犯罪分子和黑客使用的現(xiàn)有方法進(jìn)一步加速了。網(wǎng)絡(luò)安全巨頭Sophos的全球首席技術(shù)官Chester Wisniewski表示，生成式AI讓威脅行為者“可以做他們一直在做的事情，但速度要快得多了”。

“以前一天的窗口期，現(xiàn)在可能只需要四小時(shí)。以前四小時(shí)的窗口期，現(xiàn)在可能只需要十分鐘，”Wisniewski說(shuō)。他表示，過(guò)去攻擊者攻擊10萬(wàn)個(gè)受害者所需的工作量，現(xiàn)在可能足以在同樣的時(shí)間內(nèi)攻擊1000萬(wàn)個(gè)受害者。

例如，根據(jù)Sophos X-Ops的研究，攻擊者在實(shí)施所謂的“殺豬”騙局時(shí)，已經(jīng)能夠使用新的AI功能來(lái)擴(kuò)大范圍，以前“必須向每個(gè)受害者發(fā)送短信，然后找出哪些人會(huì)回復(fù)并回復(fù)他們。這是一個(gè)速度慢得多、規(guī)模小得多的過(guò)程，”Wisniewski。但是現(xiàn)在，“我們有證據(jù)表明ChatGPT正被用于自動(dòng)化這些對(duì)話的初始階段?！?/p>

最終，“通過(guò)自動(dòng)化進(jìn)行的這些 [攻擊] 的規(guī)模和范圍使更多的人面臨比我們?cè)?AI 出現(xiàn)之前看到的更多此類(lèi)威脅，”Wisniewski 說(shuō)?！拔业拇致杂?jì)算表明，我們從一個(gè)人每天可以嘗試欺騙 1,000 人，到一個(gè)人通過(guò)自動(dòng)化每天可以欺騙 100,000 人。”

惡意軟件更容易躲避檢測(cè)

據(jù)專(zhuān)家稱(chēng)，AI生成的代碼大體上是現(xiàn)有惡意軟件的衍生品，通常會(huì)讓安全工具很容易檢測(cè)到。這意味著生成式AI工具在生成惡意軟件方面的用處是有限的，Wisniewski說(shuō)。

與此同時(shí)，根據(jù)Blackpoint Cyber公司的Brown稱(chēng)，生成式AI可以更有效地改進(jìn)現(xiàn)有惡意軟件以繞過(guò)檢測(cè)。她說(shuō)：“我們發(fā)現(xiàn)威脅行為者現(xiàn)在使用AI來(lái)幫助修改現(xiàn)有的惡意軟件，而這些惡意軟件不一定附帶簽名。如果他們可以修改簽名的顯示方式，就可以通過(guò)這種方式逃避[防病毒軟件]。他們正在利用生成式AI來(lái)操控惡意軟件，重新打造新的惡意軟件。”

攻擊行為更加個(gè)性化

專(zhuān)家表示，威脅行為者可以利用生成式AI來(lái)改善針對(duì)性攻擊的個(gè)性化，范圍十分廣泛。Brown表示，生成式AI在“研究和偵察方面發(fā)揮著巨大作用，就像我們使用AI來(lái)提高效率一樣，威脅行為者也使用AI來(lái)提高效率?！?/p>

換句話說(shuō)，攻擊者能夠通過(guò)互聯(lián)網(wǎng)上的個(gè)人研究減少他們需要收集的大部分信息，“他們能夠以更有效的方式做到這一點(diǎn)。”

Brown表示：“現(xiàn)在他們可以根據(jù)實(shí)際組織、行業(yè)本身來(lái)定制攻擊。他們正在利用能夠收集到的一切信息，從而減少研究和偵察的工作量，讓初始訪問(wèn)變得更快。他們知道要攻擊哪些外部系統(tǒng)，知道要攻擊哪些目標(biāo)，知道什么能讓他們通過(guò)社交工程進(jìn)入，或者創(chuàng)建一些腳本和自動(dòng)化，這樣他們一旦進(jìn)入環(huán)境就能更快地傳播出去?！?/p>

音頻偽造進(jìn)一步升級(jí)

根據(jù)身份驗(yàn)證供應(yīng)商Regula最近的一份報(bào)告，受訪企業(yè)中有近半數(shù)表示，在過(guò)去兩年中，他們成為音頻偽造攻擊的目標(biāo)，這表明，語(yǔ)音克隆攻擊已經(jīng)變得如此普遍。毫無(wú)疑問(wèn)，語(yǔ)音克隆技術(shù)已經(jīng)發(fā)展到既易于使用又能夠制作令人信服的假音頻的地步，Wisniewski表示。

相比之下，“一年前的[克隆技術(shù)]，如果不下功夫就不會(huì)足夠好，”Wisniewski說(shuō)。然而，最近，他能夠在五分鐘內(nèi)制作出令人信服的偽造音頻。

“既然現(xiàn)在都實(shí)現(xiàn)了，犯罪分子就更容易獲得它了，”Wisniewski說(shuō)。

Palo Alto Networks 42號(hào)部門(mén)威脅研究技術(shù)總監(jiān)Kyle Wilhoit表示，雖然這項(xiàng)技術(shù)還不足以實(shí)時(shí)生成深度偽造音頻，但會(huì)繼續(xù)改進(jìn)。“我想說(shuō)，將來(lái)這種可能性會(huì)更大，”Wilhoit說(shuō)。

更容易利用漏洞

Wisniewski還認(rèn)為，生成式AI可以在幫助攻擊者開(kāi)發(fā)新漏洞方面發(fā)揮作用。他指出，雖然現(xiàn)有工具已經(jīng)可以自動(dòng)生成軟件中可能被利用的漏洞，但人類(lèi)仍然必須確定是否真的有可能被利用。

然而，現(xiàn)在生成式AI工具可以通過(guò)幫助分析潛在漏洞的變體來(lái)加快處理速度，Wisniewski說(shuō)：“AI可能會(huì)說(shuō)，‘這是一個(gè)很有潛力的漏洞’。”

最終，“這將是我會(huì)關(guān)注的一個(gè)領(lǐng)域——是否存在一種服務(wù)經(jīng)濟(jì)體，主要針對(duì)高端行為者的，他們可以付給某人5萬(wàn)美金，讓他們完成25種不同的攻擊行為？”Wisniewski說(shuō)。