隨著人工智能技術(shù)的高歌猛進，各行各業(yè)都在討論即將到來的人工智能(AI)革命。但很少有人注意到，作為AI最大的細分市場之一，網(wǎng)絡(luò)安全行業(yè)正處于這場人工智能革命的“震中”，但與傳統(tǒng)軟件和硬件基礎(chǔ)設(shè)施行業(yè)不同，AI不是網(wǎng)絡(luò)安全行業(yè)/職業(yè)的終結(jié)者，相反，AI正激發(fā)網(wǎng)絡(luò)安全爆發(fā)新一輪的創(chuàng)新投資和市場增長。

2024年，隨著生成式AI新興威脅、網(wǎng)絡(luò)犯罪規(guī)?；?、全球大選與地緣政治動蕩和新型網(wǎng)絡(luò)威脅的快速增長，網(wǎng)絡(luò)安全也將迎來一次重大變革和洗牌。

對于網(wǎng)絡(luò)安全從業(yè)人員來說，一個最迫切的問題是：AI將如何改變網(wǎng)絡(luò)安全行業(yè)?具體來說，AI對網(wǎng)絡(luò)安全行業(yè)是利大于弊還是弊大于利?AI會導(dǎo)致網(wǎng)絡(luò)安全行業(yè)大批裁員嗎?AI將從那些方面改善網(wǎng)絡(luò)安全?AI將如何改變當(dāng)前的安全態(tài)勢和威脅環(huán)境?企業(yè)網(wǎng)絡(luò)安全實施AI的主要挑戰(zhàn)有哪些?

數(shù)月前，CSA曾向近2500名網(wǎng)絡(luò)安全專家分發(fā)了一份在線調(diào)查，旨在深入了解網(wǎng)絡(luò)安全行業(yè)對AI重點關(guān)注的幾個問題：

• 當(dāng)前的安全挑戰(zhàn)
• 對AI在網(wǎng)絡(luò)安全中的看法
• 行業(yè)對AI的熟悉程度
• 行業(yè)對AI使用的計劃
• AI對人員配備和培訓(xùn)的影響

AI是攻擊者的利器還是防御者的盾牌?

CSA的研究表明，大多數(shù)受訪的安全專業(yè)人士(63%)對AI持謹慎樂觀態(tài)度，認為它將增強威脅檢測和響應(yīng)能力。然而，這些受訪者對AI的主要受益者存在分歧：34%認為安全團隊受益最大，25%認為AI將對攻擊者有利。31%的受訪者認為AI給防御者和攻擊者帶來了同等的優(yōu)勢。

AI會導(dǎo)致網(wǎng)絡(luò)安全從業(yè)人員大量失業(yè)嗎?

盡管有人擔(dān)心AI可能會接管大量IT工作崗位，但大多數(shù)網(wǎng)絡(luò)安全專業(yè)人士認為AI將賦能而不是取代他們。

大多數(shù)受訪者認為AI將提升他們的技能(30%)，支持他們的角色(28%)，或自動化大部分任務(wù)并節(jié)省大量時間用于更高級的工作。

只有極少數(shù)(12%)受訪者擔(dān)心AI會完全取代他們。然而，超過一半的受訪安全專業(yè)人士擔(dān)心可能會過度依賴AI，強調(diào)在AI驅(qū)動和人工驅(qū)動的安全方法之間找到平衡的重要性。

企業(yè)安全團隊在2024年會優(yōu)先實施哪些AI?

根據(jù)CSA的報告，截至分發(fā)時，超過一半(55%)的企業(yè)安全團隊計劃在2024年實施生成式AI。他們會優(yōu)先探索或?qū)嵤┮韵掠美?/p>

• 規(guī)則創(chuàng)建–21%
• 攻擊模擬–19%
• 合規(guī)違規(guī)監(jiān)控–19%
• 網(wǎng)絡(luò)檢測–16%
• 減少誤報–16%
• 培訓(xùn)開發(fā)和支持–15%
• 異常分類–14%
• 自然語言搜索–13%
• 威脅摘要–13%
• 數(shù)據(jù)丟失防護，知識產(chǎn)權(quán)保護–13%
• 用戶行為分析–11%
• 自動報告生成–10%
• 端點檢測–10%
• 事件日志摘要–9%
• 法證分析–9%
• 聊天機器人–9%
• 事件摘要–8%
• 配置漂移–8%
• 行動/補救建議–8%
• 代碼分析–7%

實施AI的主要挑戰(zhàn)是什么?

根據(jù)調(diào)查，安全專業(yè)人士認為缺乏掌握AI相關(guān)技能的員工(33%)是在網(wǎng)絡(luò)安全中實施AI的主要挑戰(zhàn)。這包括尋找具備正確技能的新員工以及對現(xiàn)有員工進行技能培訓(xùn)和提升。

其他挑戰(zhàn)包括資源分配(11%)、理解AI風(fēng)險(10%)和實施成本(85%)。有些出乎意料的是，受訪者并不認為傳統(tǒng)的障礙如法規(guī)和數(shù)據(jù)隱私合規(guī)問題是主要挑戰(zhàn)。

高管和員工對AI的看法有何不同?

不出所料，高管們(自認為)比他們的員工更了解AI——51%的C級高管聲稱對AI非常了解，而員工中只有11%。同樣比例的C級高管表示對AI有“清晰”的理解，而員工中只有14%。這些數(shù)字也許并不能真實反映高管與員工對AI了解程度的差異，因為在很多類似調(diào)查中，C級高管都有自大傾向。

有趣的是，關(guān)于AI對安全的影響，大多數(shù)員工(74%)對領(lǐng)導(dǎo)層的認知充滿信心——盡管只有14%的員工表示對AI有清晰的理解。同樣，84%的受訪者表示他們的執(zhí)行領(lǐng)導(dǎo)和董事會提倡采用AI。顯然，高管和董事會還需要做更多工作來教育員工，以實現(xiàn)這一目標(biāo)。

總的來說，網(wǎng)絡(luò)安全專業(yè)人士對AI持謹慎樂觀態(tài)度。然而，他們對這項技術(shù)的理解還有待提高;企業(yè)中這種過度自信和準(zhǔn)備不足的并存狀態(tài)可能會帶來災(zāi)難性后果。C級高管必須確保他們對AI的理解與他們的實際認知水平保持一致，并努力提高員工的知識。盡管企業(yè)渴望將AI應(yīng)用到(網(wǎng)絡(luò)安全)業(yè)務(wù)流程中，但在此之前必須解決員工AI知識和技能的巨大差距。