回顧2023年，AI被譽(yù)為最具影響力的新興技術(shù)，公司正在尋找包含AI的新方法，以提高工作效率并確保可擴(kuò)展性。隨著威脅參與者意識(shí)到這項(xiàng)技術(shù)的潛力，各公司也渴望使AI成為其網(wǎng)絡(luò)安全戰(zhàn)略的基石。

在我們結(jié)束這一年的時(shí)候，了解即將到來(lái)的一年關(guān)于AI在網(wǎng)絡(luò)安全中的作用是明智的。展望未來(lái)，本文為你帶來(lái)關(guān)于2024年網(wǎng)絡(luò)安全預(yù)期的專(zhuān)家見(jiàn)解。

專(zhuān)家預(yù)測(cè)2024年AI在網(wǎng)絡(luò)安全中的應(yīng)用

1.Portal26的首席執(zhí)行官兼創(chuàng)始人Arti Raman談AI采用

Raman說(shuō)：“到2024年，對(duì)AI治理和可見(jiàn)性技術(shù)的投資將在AI的廣泛采用中發(fā)揮重要作用?！彼麖?qiáng)調(diào)了正確使用AI的重要性，并在最大限度地減少濫用的同時(shí)獲得有價(jià)值的洞察力和可見(jiàn)性。

在公司能夠有效和安全地使用GenAI工具之前，必須對(duì)員工進(jìn)行利用最佳實(shí)踐的教育：編寫(xiě)達(dá)到預(yù)期結(jié)果的提示，在輸入數(shù)據(jù)時(shí)牢記數(shù)據(jù)安全和隱私，識(shí)別AI的質(zhì)量和安全性，驗(yàn)證AI輸出，等等。

通過(guò)投資AI治理工具和開(kāi)發(fā)免費(fèi)的護(hù)欄，公司可以避免最終可能成為2024年最大的誤解：假設(shè)你可以控制AI的采用。

2. Aiden的高管講述公司如何在網(wǎng)絡(luò)安全中使用AI

Aiden的首席執(zhí)行官Josh Aaron表示：“2024年，AI和ML將在增強(qiáng)終端管理和漏洞管理的各個(gè)方面發(fā)揮關(guān)鍵作用，這包括將重點(diǎn)放在軟件的部署階段?！?/p>

“AI驅(qū)動(dòng)的工具將有助于在開(kāi)發(fā)期間仔細(xì)檢查代碼是否存在潛在的安全缺陷，并確保在部署期間的安全配置，這種加強(qiáng)的審查對(duì)于以更高的效率部署軟件至關(guān)重要，確保在漏洞成為威脅之前識(shí)別和緩解它們?！?/p>

“此外，AI的作用擴(kuò)展到事件響應(yīng)能力，一旦發(fā)生入侵，AI可以促進(jìn)快速行動(dòng)，如擦除和重建受影響的系統(tǒng)或重新配置設(shè)置，以消除威脅和恢復(fù)安全，這種快速響應(yīng)將停機(jī)時(shí)間降至最低，并降低了進(jìn)一步利用漏洞的風(fēng)險(xiǎn)?！?/p>

Aiden的法律技術(shù)布道者Joe Fousek強(qiáng)調(diào)，隨著壞人學(xué)習(xí)使用AI，利用AI的周轉(zhuǎn)時(shí)間預(yù)計(jì)將大幅下降。

“手動(dòng)打補(bǔ)丁和通用部署工具將難以跟上不斷升級(jí)的更新周期和新的攻擊載體，然而，利用AI和超自動(dòng)化進(jìn)行持續(xù)更新可以降低服務(wù)中斷的嚴(yán)重程度和頻率?！币环N可能的解決方案是迫使人們安裝安全更新，比如蘋(píng)果。

Aaron補(bǔ)充說(shuō)：“此外，將AI融入開(kāi)發(fā)過(guò)程，特別是在CI/CD管道中，是至關(guān)重要的。在這些早期階段，AI技術(shù)允許及早發(fā)現(xiàn)和緩解軟件供應(yīng)鏈中的漏洞，這種主動(dòng)的方法確保了軟件從一開(kāi)始就從根本上是安全的。AI在軟件部署、漏洞緩解和事件響應(yīng)方面的應(yīng)用相結(jié)合，展示了一種全面和先進(jìn)的網(wǎng)絡(luò)安全方法。”

3.Lineaje的首席執(zhí)行官兼聯(lián)合創(chuàng)始人Javed Hasan談AI對(duì)軟件供應(yīng)鏈的影響

Hasan預(yù)測(cè)說(shuō)：“公司無(wú)法識(shí)別AI的譜系，這將導(dǎo)致2024年軟件供應(yīng)鏈攻擊的增加?！?/p>

“在過(guò)去的一年里，公司一直高度關(guān)注如何防止對(duì)AI的網(wǎng)絡(luò)攻擊。只有一個(gè)問(wèn)題：每個(gè)人都把注意力放在了錯(cuò)誤的方面。許多安全團(tuán)隊(duì)都將重點(diǎn)放在了AI部署后面臨的威脅上。公司擔(dān)心威脅參與者使用AI來(lái)促使工程、IT或安全采取可能導(dǎo)致妥協(xié)的行動(dòng)。”

“事實(shí)是，妥協(xié)AI的最佳時(shí)機(jī)是在它正在建造的時(shí)候。就像今天的大多數(shù)軟件一樣，AI主要是由開(kāi)源軟件構(gòu)建的?？偟膩?lái)說(shuō)，確定是誰(shuí)創(chuàng)建了最初的AI模型，有什么偏見(jiàn)，以及哪個(gè)開(kāi)發(fā)人員有什么意圖，對(duì)于防止公司的安全態(tài)勢(shì)中的漏洞要關(guān)鍵得多?！?/p>

“我懷疑很少有公司考慮過(guò)這種方法，因此，我們將在未來(lái)幾個(gè)月看到各種有趣的挑戰(zhàn)和問(wèn)題出現(xiàn)?！?/p>

4.IANS Research的教員Ed Skoudis談AI和選舉

GenAI的復(fù)雜性，特別是多模式AI，從幾個(gè)被篡改的視頻、音頻和消息充斥著社交媒體的情況下可見(jiàn)一斑。根據(jù)Skoudis的說(shuō)法，這一數(shù)字只會(huì)在明年上升。

“2024年，我們可以預(yù)計(jì)惡意AI生成的內(nèi)容將激增。在大選年的背景下，邪惡的個(gè)人將創(chuàng)造虛假內(nèi)容，包括深度虛假和大量誤導(dǎo)性的文本和照片信息，這一猛烈抨擊旨在迷惑和操縱選民，后果可能包括謠言、影射、潛在的魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)和其他針對(duì)政黨和候選人的有針對(duì)性的攻擊?！?/p>

5. Securin的威脅管理總監(jiān)Ravi Pandey談未來(lái)的網(wǎng)絡(luò)攻擊和防御

“預(yù)計(jì)網(wǎng)絡(luò)攻擊總體上會(huì)增加，勒索軟件公司的目標(biāo)是美國(guó)的供應(yīng)商、政府機(jī)構(gòu)和關(guān)鍵基礎(chǔ)設(shè)施。在過(guò)去五年里，網(wǎng)絡(luò)攻擊激增，隨著網(wǎng)絡(luò)犯罪分子以無(wú)情的貪婪將目標(biāo)對(duì)準(zhǔn)供應(yīng)鏈和零日漏洞，這一趨勢(shì)并未顯示出放緩的跡象。像MOVEit文件傳輸工具這樣的入侵將繼續(xù)產(chǎn)生持久的影響，并對(duì)整個(gè)公司產(chǎn)生連鎖反應(yīng)?！?/p>

AI如何幫助威脅參與者：“在AI，特別是GenAI技術(shù)的幫助下，攻擊者將能夠改進(jìn)他們的技術(shù)，提高他們的速度和有效性。GenAI將使犯罪網(wǎng)絡(luò)公司能夠快速編造令人信服的釣魚(yú)電子郵件和消息，以獲得對(duì)公司的初始訪問(wèn)權(quán)限?！?/p>

AI如何幫助公司網(wǎng)絡(luò)防御：預(yù)防措施的自動(dòng)化，包括攻擊面管理、資產(chǎn)發(fā)現(xiàn)、事件披露和威脅暴露管理?！癆I應(yīng)用程序的專(zhuān)門(mén)測(cè)試將很快成為評(píng)估其安全性的標(biāo)準(zhǔn)做法，并將被用來(lái)發(fā)現(xiàn)公司網(wǎng)絡(luò)中的潛在漏洞?！?/p>

對(duì)2024年網(wǎng)絡(luò)安全的其他預(yù)測(cè)

1.Axio的首席執(zhí)行官兼聯(lián)合創(chuàng)始人Scott Kannry談CISO的角色

在黑帽歐洲2023大會(huì)上，Uber前CSO Joe Sullivan強(qiáng)調(diào)了安全領(lǐng)導(dǎo)層的不安，因?yàn)檎诰W(wǎng)絡(luò)安全問(wèn)題上的嚴(yán)厲立場(chǎng)雖然顯而易見(jiàn)，但也引起了一些不安。他分享了自己被定罪但被判最低刑期的經(jīng)歷，并將其與正在進(jìn)行的針對(duì)SolarWinds CISO Tim Brown的訴訟進(jìn)行了比較。

Kannry分享了他關(guān)于CISO/CSO角色在2024年將如何演變的兩點(diǎn)看法?！?024年，CISO將在董事會(huì)中占據(jù)更高的位置——無(wú)論他們喜歡與否。2023年，CISO的角色發(fā)生了結(jié)構(gòu)性轉(zhuǎn)變，SEC的網(wǎng)絡(luò)規(guī)則和SEC針對(duì)SolarWinds的最新行動(dòng)突顯了這一點(diǎn)。SolarWinds案是一條大新聞，導(dǎo)致了針對(duì)SEC的負(fù)面評(píng)論。SolarWinds自己警告說(shuō)，SEC的行為將對(duì)網(wǎng)絡(luò)安全專(zhuān)業(yè)造成損害?！?/p>

“現(xiàn)實(shí)情況是，網(wǎng)絡(luò)安全將在2024年取代公司的受托責(zé)任，使個(gè)人與首席財(cái)務(wù)官、首席執(zhí)行官和公司的其他董事和官員(他們屬于D&O責(zé)任保險(xiǎn))在同一層面上對(duì)網(wǎng)絡(luò)安全負(fù)有最終責(zé)任?！?/p>

在黑帽歐洲2023年期間，Sullivan指出，安全領(lǐng)導(dǎo)角色必須演變，以適應(yīng)公司董事會(huì)與網(wǎng)絡(luò)安全相關(guān)的技術(shù)細(xì)節(jié)。Kannry對(duì)此表示同意。

“如果網(wǎng)絡(luò)領(lǐng)導(dǎo)者想要承擔(dān)這一責(zé)任(和負(fù)擔(dān))，他們將必須被合理地告知該公司面臨的網(wǎng)絡(luò)風(fēng)險(xiǎn)，并能夠?qū)⑦@些風(fēng)險(xiǎn)傳達(dá)給投資者?！?Kannry繼續(xù)說(shuō)。

“如果他們不承擔(dān)責(zé)任，公司將被迫任命某人來(lái)承擔(dān)這一負(fù)擔(dān)，這一角色將負(fù)責(zé)了解網(wǎng)絡(luò)風(fēng)險(xiǎn)并制定戰(zhàn)略，與技術(shù)領(lǐng)導(dǎo)者密切合作，執(zhí)行該戰(zhàn)略。在這種情況下，業(yè)務(wù)信息安全官(BISO)將成為責(zé)任方，而CISO則擔(dān)任技術(shù)領(lǐng)導(dǎo)者。

2. Alastair Parr的首席運(yùn)營(yíng)官兼首席戰(zhàn)略官Brad Hibbert談第三方風(fēng)險(xiǎn)

隨著MOVEit漏洞和監(jiān)管壓力的上升，Brad Hibbert指出：“第三方風(fēng)險(xiǎn)管理不再是一種試驗(yàn);而是一種期望。這一成熟鞏固了它在公司風(fēng)險(xiǎn)管理決策中作為表賭注因素的地位。因此，盡管存在經(jīng)濟(jì)不確定性、通貨膨脹和勞動(dòng)力短缺，但第三方風(fēng)險(xiǎn)管理(TPRM)方面的投資預(yù)計(jì)將保持一致，直至2024年。”

“由于持續(xù)不斷的第三方安全事件和監(jiān)管壓力，董事會(huì)一級(jí)和高管一級(jí)對(duì)TPRM的參與將繼續(xù)存在。雖然在尋找熟練的TPRM從業(yè)人員方面的挑戰(zhàn)可能會(huì)繼續(xù)存在，但由于GenAI、ML、數(shù)據(jù)分析、增強(qiáng)的自動(dòng)化和程序外包，TPRM計(jì)劃的效率和有效性將得到改善?！?/p>

3.Tigera的總裁兼首席執(zhí)行官Ratan Tipirneni談Kubernetes安全

Tipirneni擔(dān)心Kubernetes的采用與確保容器編排的努力不一致。Tipirneni說(shuō)：“我們將在知名公司看到與Kubernetes有關(guān)的違規(guī)行為?！?/p>

“雖然Kubernetes的采用已經(jīng)開(kāi)始，但大多數(shù)Kubernetes團(tuán)隊(duì)還沒(méi)有實(shí)施足夠的姿勢(shì)管理控制，他們繼續(xù)實(shí)施合規(guī)要求要求的最低安全級(jí)別，這個(gè)泡沫即將破滅?！?/p>

結(jié)束語(yǔ)

SecureWorks和Cybersecurity Ventures在《2023年董事會(huì)網(wǎng)絡(luò)安全報(bào)告》中估計(jì)，2024年網(wǎng)絡(luò)犯罪活動(dòng)預(yù)計(jì)將給公司造成9.5萬(wàn)億美元的損失，2025年將造成10.5萬(wàn)億美元的損失，相比之下，2015年網(wǎng)絡(luò)犯罪造成的損失估計(jì)為3萬(wàn)億美元。

將9.5萬(wàn)億美元細(xì)分為：

• 每月7930億美元
• 每周1825億美元
• 每天260億美元
• 每小時(shí)10億美元
• 每分鐘1800萬(wàn)美元
• 每秒302,000美元

這些成本估計(jì)包括數(shù)據(jù)損壞和銷(xiāo)毀、贓款、生產(chǎn)力損失、知識(shí)產(chǎn)權(quán)盜竊、個(gè)人和財(cái)務(wù)數(shù)據(jù)盜竊、挪用公款、欺詐、攻擊后對(duì)正常業(yè)務(wù)過(guò)程的干擾、法醫(yī)調(diào)查、恢復(fù)和刪除被黑客攻擊的數(shù)據(jù)和系統(tǒng)、聲譽(yù)損害、法律成本，以及可能的監(jiān)管罰款。

為了應(yīng)對(duì)這種情況，預(yù)計(jì)網(wǎng)絡(luò)安全支出將繼續(xù)增長(zhǎng)。Gartner估計(jì)，全球網(wǎng)絡(luò)安全和風(fēng)險(xiǎn)管理支出將同比增長(zhǎng)14.3%，達(dá)到2150億美元。