調(diào)研機(jī)構(gòu)凱捷研究院(Capgemini Research Institute)近期針對(duì)全球范圍內(nèi)13個(gè)國(guó)家的1000家組織開展了一項(xiàng)深入調(diào)查。結(jié)果表明，90%以上的組織在過(guò)去一年中至少經(jīng)歷過(guò)一次網(wǎng)絡(luò)安全漏洞事件，這一比例與2021年的51%相比有了顯著的增長(zhǎng)。

調(diào)查還發(fā)現(xiàn)，在過(guò)去一年中，97%的受訪組織至少經(jīng)歷過(guò)一次與GenAI相關(guān)的安全漏洞攻擊事件。這份名為《新防御、新威脅：AI與GenAI對(duì)網(wǎng)絡(luò)安全的影響》的研究報(bào)告揭示了AI和GenAI在網(wǎng)絡(luò)安全中日益重要的作用，同時(shí)強(qiáng)調(diào)了在采用這些技術(shù)過(guò)程中存在的重大漏洞。

GenAI應(yīng)用風(fēng)險(xiǎn)凸顯：網(wǎng)絡(luò)安全漏洞與經(jīng)濟(jì)損失齊增

這項(xiàng)調(diào)查于2024年5月開展，涵蓋了亞太、歐洲和北美13個(gè)國(guó)家的1000家組織。受訪者來(lái)自銀行、保險(xiǎn)、能源、醫(yī)療保健和航空航天等多個(gè)關(guān)鍵行業(yè)領(lǐng)域，且這些組織的年收入均超過(guò)10億美元。

凱捷網(wǎng)絡(luò)安全、云基礎(chǔ)設(shè)施服務(wù)全球主管Marco Pereira表示：“迄今為止，AI和GenAI的應(yīng)用被證明是一把雙刃劍。雖然它們帶來(lái)了前所未有的風(fēng)險(xiǎn)，但組織也越來(lái)越依賴AI來(lái)更快、更準(zhǔn)確地檢測(cè)網(wǎng)絡(luò)安全事件。AI和GenAI為他們的安全團(tuán)隊(duì)提供了強(qiáng)大的新工具，以緩解這些事件并推動(dòng)防御策略的革新與升級(jí)?！?/p>

超過(guò)90%的受訪者表示，在過(guò)去一年中至少遭遇了一次網(wǎng)絡(luò)安全漏洞事件，與2021年的51%相比，這一數(shù)字大幅上升。其中近一半的組織估計(jì)，在過(guò)去三年中由于漏洞事件導(dǎo)致的財(cái)務(wù)損失超過(guò)5000萬(wàn)美元。數(shù)據(jù)泄露事件的頻發(fā)與GenAI的應(yīng)用呈現(xiàn)出同步增長(zhǎng)的態(tài)勢(shì)，而這些先進(jìn)技術(shù)正逐漸淪為惡意行為者的攻擊工具。

該報(bào)告指出了采用GenAI所帶來(lái)的多重風(fēng)險(xiǎn)，例如數(shù)據(jù)中毒、敏感信息泄露以及深度偽造技術(shù)的濫用。約67%的組織對(duì)這些問(wèn)題表示擔(dān)憂，而43%的組織報(bào)告因涉及深度偽造內(nèi)容的安全事件而造成了直接的經(jīng)濟(jì)損失。

此外其他漏洞也不容忽視，例如AI系統(tǒng)可能產(chǎn)生錯(cuò)誤或誤導(dǎo)性的輸出(這一現(xiàn)象被稱為“幻覺(jué)”)、生成有偏見的內(nèi)容，以及提示注入攻擊等。員工對(duì)GenAI的不當(dāng)使用加劇了這些挑戰(zhàn)，不僅擴(kuò)大了組織的攻擊面，還增加了防御策略的復(fù)雜性。

利用AI與GenAI強(qiáng)化網(wǎng)絡(luò)安全，檢測(cè)與投資策略并行

盡管存在潛要風(fēng)險(xiǎn)，但組織仍在積極利用AI和GenAI來(lái)加強(qiáng)其網(wǎng)絡(luò)安全框架。超過(guò)60%的受訪者表示，AI使他們的威脅檢測(cè)時(shí)間縮短5%以上，而40%的受訪者表示響應(yīng)時(shí)間也有類似的改善。

五分之三的組織認(rèn)為AI對(duì)于有效檢測(cè)威脅和做出響應(yīng)至關(guān)重要。同樣比例的組織預(yù)計(jì)，GenAI將通過(guò)實(shí)現(xiàn)更快識(shí)別和緩解復(fù)雜威脅，進(jìn)一步增強(qiáng)其長(zhǎng)期網(wǎng)絡(luò)安全戰(zhàn)略。

日益嚴(yán)峻的威脅態(tài)勢(shì)促使59%的組織考慮增加網(wǎng)絡(luò)安全預(yù)算，他們重點(diǎn)投資于先進(jìn)的數(shù)據(jù)管理系統(tǒng)、云計(jì)算資源和針對(duì)AI的風(fēng)險(xiǎn)緩解戰(zhàn)略。

凱捷的報(bào)告強(qiáng)調(diào)了采用GenAI帶來(lái)的三個(gè)主要風(fēng)險(xiǎn)領(lǐng)域：日益復(fù)雜的網(wǎng)絡(luò)攻擊、不斷擴(kuò)大的攻擊面，以及自定義GenAI解決方案在整個(gè)生命周期中的漏洞。有效應(yīng)對(duì)這些挑戰(zhàn)對(duì)于保持強(qiáng)有力的安全態(tài)勢(shì)至關(guān)重要。

管理GenAI風(fēng)險(xiǎn)的建議

該報(bào)告概述了組織可以采取的幾種安全措施，以平衡GenAI帶來(lái)的好處與相關(guān)風(fēng)險(xiǎn)。這些措施包括實(shí)施先進(jìn)的數(shù)據(jù)管理系統(tǒng)以保護(hù)敏感信息、制定健全的治理政策以確保合乎道德地使用AI，以及為員工提供有關(guān)AI特定網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的培訓(xùn)。

此外，凱捷還強(qiáng)調(diào)了持續(xù)重新評(píng)估安全框架以適應(yīng)不斷變化的威脅的重要性。通過(guò)采用這些策略，組織可以在利用AI和生成式AI的變革潛力的同時(shí)，緩解新興的安全漏洞。

谷歌云研究人員最近也警告稱，隨著威脅行為者越來(lái)越多地利用基于AI的工具來(lái)推進(jìn)其惡意活動(dòng)，2025年的網(wǎng)絡(luò)攻擊可能呈現(xiàn)更為嚴(yán)峻的態(tài)勢(shì)。谷歌云在其《2025年網(wǎng)絡(luò)安全預(yù)測(cè)》報(bào)告中預(yù)測(cè)，威脅行為者將使用AI和LLM來(lái)策劃并實(shí)施更復(fù)雜的網(wǎng)絡(luò)釣魚攻擊、短信詐騙以及其他社會(huì)工程學(xué)欺詐手段。