AI的強大和快速發(fā)展正在迅速改變網(wǎng)絡(luò)安全格局，給網(wǎng)絡(luò)安全捍衛(wèi)者帶來機遇和挑戰(zhàn)。隨著ChatGPT等流行的AI工具以及最近更強大的GenAI系統(tǒng)成為數(shù)字生態(tài)系統(tǒng)的中流砥柱，網(wǎng)絡(luò)安全專業(yè)人員將越來越多地應(yīng)對新的威脅，同時也轉(zhuǎn)向AI技術(shù)來識別和抵御這些威脅。

安全公司Axonius發(fā)布了一項關(guān)于IT和安全團(tuán)隊狀況的調(diào)查，其中揭示了AI如何上升到網(wǎng)絡(luò)安全議程的首位，以實現(xiàn)AI時代的希望和應(yīng)對危險。Axonius調(diào)查了美國、英國和澳大利亞擁有500名或更多員工的950家公司的IT和安全決策者。

調(diào)查發(fā)現(xiàn)，76%的受訪者表示，與12個月前相比，他們的企業(yè)在AI或ML方面的支出更多，超過85%的受訪者表示，他們有興趣在來年將AI應(yīng)用于企業(yè)的IT和安全運營。Axonius還發(fā)現(xiàn)，近39%的IT和安全決策者表示，他們的企業(yè)在過去12個月中減少了IT或安全員工人數(shù)，他們的企業(yè)采用了基于AI的工具來簡化任務(wù)，以跟上減少的員工人數(shù)而帶來的工作量相對增加的趨勢。

這些調(diào)查結(jié)果與另一項調(diào)查結(jié)果相吻合：近72%的IT和安全決策者報告擔(dān)心GenAI對其企業(yè)的網(wǎng)絡(luò)安全的潛在不利影響。

正如調(diào)查顯示的那樣，網(wǎng)絡(luò)防御者將越來越多地使用AI技術(shù)來防御AI帶來的網(wǎng)絡(luò)威脅。Axonius高級安全總監(jiān)Daniel Trauner告訴記者：“如果這項技術(shù)讓攻擊者可以更快或更便宜地做一些事情，那么防御者也必須考慮如何才能更快、成本更低地做一些事情，并有效地利用我們擁有的資源做更多的事情。”

網(wǎng)絡(luò)攻擊者越來越善于利用由AI支持的惡意軟件進(jìn)行網(wǎng)絡(luò)攻擊

在AI技術(shù)采用的早期，可能會使天平傾向于惡意行為者的一個因素是，防御者采用最新AI防御工具的速度相對較慢，也更單一，這至少讓攻擊者獲得了暫時的優(yōu)勢。Phylum的CSO Peter Morgan告訴記者：“AI的進(jìn)步如此之快，我們不可能希望所有使用它的人都能完全理解正在發(fā)生的事情?！薄皶r間上的差異現(xiàn)在是個大問題?！?/p>

“與建立攻擊者可以使用的東西相比，建立網(wǎng)絡(luò)防御系統(tǒng)需要很長時間，比如說，1%的時間是有效的。如果他們追求的是1000、10000或100000個目標(biāo)，那么很容易計算出1%的成功會給你帶來多少，但作為一名防守者，1%的成功對你幫助不大。真的，你想要的東西產(chǎn)品化，并在可靠的意義上擺在客戶或用戶面前，這需要很長的時間?！?/p>

一些專家認(rèn)為，網(wǎng)絡(luò)攻擊者擁有不對稱的優(yōu)勢是網(wǎng)絡(luò)安全專業(yè)人士已經(jīng)習(xí)慣并已經(jīng)處理了很長時間的問題。“每個從事網(wǎng)絡(luò)安全防護(hù)工作的人，我們不可能只看到好的一面而不看到不好的一面，對吧?”CrowdSec的合作主管Andrea Hervier告訴記者，“我們總是試圖思考一項潛在的新技術(shù)可能會帶來什么后果，但當(dāng)我們此刻審視AI在網(wǎng)絡(luò)安全方面的好處時，我們也可以說，許多好處同時也是缺陷?！?/p>

Hervier說，“AI的出現(xiàn)代表了一枚硬幣的兩面。我可以肯定地說，一邊GenAI可以自動完成很多日常任務(wù)，它可以大規(guī)模地完成它們，并且可以非常快地完成它們，這可以被視為一件好事。如果它掌握在網(wǎng)絡(luò)罪犯手中，也可以被視為一件壞事?！?/p>

Viking Cloud的全球安全架構(gòu)師Fayyaz Makhani告訴記者，“即使AI目前是一個不對稱的威脅，防御者也沒有什么可害怕的。我們不需要害怕AI，我們可以用幾種不同的方式來看待它，如果我們把它視為工具，并將其視為對我們所做的任何事情的支持，無論它是網(wǎng)絡(luò)安全的白色一面還是非白色一面，我認(rèn)為無論哪種方式，我們都有能力以許多不同的方式利用AI?！?/p>

AI防御者將面臨的網(wǎng)絡(luò)威脅

盡管很難預(yù)見隨著AI技術(shù)的發(fā)展，防御者將面臨哪些類型的威脅，但攻擊者大規(guī)模生成合成內(nèi)容的能力是一個最令人擔(dān)憂的問題?！熬C合生成新的或看似真實的內(nèi)容的能力將非常具有危害性。如果你舉一個發(fā)生在民族國家層面的事情為例，如果一個民族國家攻擊者試圖為一系列賬戶在網(wǎng)上建立一個存在，讓它們看起來像是真實的，那就有一個完整的過程?！?/p>

“你創(chuàng)建一個新的賬戶，在里面放一堆內(nèi)容，然后讓它互動。通常情況下，威脅參與者多年來一直讓人們這樣做，在網(wǎng)上建立這些身份，它看起來像是真人，花了大量的人類時間和精力來綜合創(chuàng)造這些東西，并在這些時間段里讓它們成熟，ChatGPT的內(nèi)容生成可以為你完成所有這些工作?，F(xiàn)在，它只是編寫一些代碼來自動化處理，它正在改變攻擊者在音量水平上所能做的事情的格局?！?/p>

當(dāng)談到攻擊者目前使用的最常見的惡意AI用例——改進(jìn)釣魚電子郵件的語言時，網(wǎng)絡(luò)防御者正在迅速應(yīng)對這一挑戰(zhàn)。Makhani說：“釣魚的例子是一個很好的例子，說明了一種對雙方都有效的技術(shù)?！币虼耍皭旱挠脩羰褂肁I、ChatGPT或其他生成模型來創(chuàng)建更好的釣魚電子郵件，但另一方面，我們正在開發(fā)的工具采用了許多類似的技術(shù)來檢測這些網(wǎng)絡(luò)釣魚電子郵件或其他類型的垃圾郵件中的模式。“。

“AI將使攻擊者更容易進(jìn)行更好的釣魚攻擊，但它也不可避免地會使防御變得更強大?！盡organ說。

需要謹(jǐn)慎實施AI技術(shù)

AI技術(shù)快速、復(fù)雜，而且在運營中往往不透明，如果不仔細(xì)實施，會不會給網(wǎng)絡(luò)捍衛(wèi)者帶來負(fù)擔(dān)?包括三星、蘋果、Spotify、Verizon和亞馬遜在內(nèi)的越來越多的公司正在限制員工使用ChatGPT，以避免一種這樣的責(zé)任：泄露敏感的客戶或企業(yè)數(shù)據(jù)。

自美國證交會10月下旬指控SolarWinds及其CISO在涉嫌已知的網(wǎng)絡(luò)安全風(fēng)險和漏洞方面存在欺詐和內(nèi)部控制失誤以來，圍繞組織網(wǎng)絡(luò)安全做法的質(zhì)疑進(jìn)一步加劇，這一事態(tài)發(fā)展在信息安全界引發(fā)了激烈辯論。Phylum的Morgan說：“將會出現(xiàn)涉及AI的新攻擊，我認(rèn)為你不能指望或合理地起訴一個沒有防御的人，因為它們可能是全新的?！?/p>

Axonius的Trauner認(rèn)為，該行業(yè)已經(jīng)在主動監(jiān)控AI風(fēng)險和責(zé)任。只需看看一堆已經(jīng)出來的框架，你就能看出安全行業(yè)對這里的風(fēng)險和責(zé)任給予了非常仔細(xì)的關(guān)注。對于大型語言模型應(yīng)用程序，已經(jīng)有了OWASP前10名。NIST發(fā)布了其AI風(fēng)險管理框架，還有拜登的行政命令。

AI發(fā)展如此之快，Trauner說：“關(guān)于這項技術(shù)，我要說的是，它與我親身經(jīng)歷過的許多其他技術(shù)不同，它的進(jìn)步速度是獨一無二的，我還沒有見過任何東西發(fā)展得如此之快?！?/p>