ChatGPT 等生成式 AI 平臺(tái)正在徹底改變我們獲取信息、回答問題甚至開發(fā)軟件代碼的方式。根據(jù) KPMG 網(wǎng)絡(luò)安全調(diào)查：安全運(yùn)營中心 (SOC) 領(lǐng)導(dǎo)者觀點(diǎn)，三分之二 (66%) 的安全領(lǐng)導(dǎo)者認(rèn)為基于 AI 的自動(dòng)化非常重要，無論是現(xiàn)在還是將來，它都能幫助我們領(lǐng)先于新威脅并提高 SOC 的敏捷性和響應(yīng)能力。雖然基于 AI 的自動(dòng)化提供了許多好處，但 AI 生成的建議的可靠性仍然是網(wǎng)絡(luò)安全領(lǐng)導(dǎo)者最關(guān)心的問題。這就引出了一個(gè)問題：如何才能充分發(fā)揮 AI 在網(wǎng)絡(luò)安全領(lǐng)域的潛力？

任何探索過生成式 AI 平臺(tái)的人都可以看到，AI 有潛力顯著增強(qiáng)網(wǎng)絡(luò)安全，特別是在查詢大型數(shù)據(jù)集、識(shí)別異常以及觸發(fā)基于事件的操作（如分類工單、提醒團(tuán)隊(duì)或減少誤報(bào)）方面。然而，與任何技術(shù)一樣，AI也帶來了必須謹(jǐn)慎管理的新風(fēng)險(xiǎn)和挑戰(zhàn)。

一些關(guān)鍵風(fēng)險(xiǎn)包括：

• 武器化的人工智能：網(wǎng)絡(luò)對(duì)手可以利用人工智能開發(fā)復(fù)雜的攻擊方法，包括將惡意數(shù)據(jù)引入訓(xùn)練數(shù)據(jù)集以破壞人工智能模型，從而導(dǎo)致不正確或危險(xiǎn)的輸出。
• 過度依賴人工智能：組織可能會(huì)過度依賴人工智能系統(tǒng)，認(rèn)為它們是絕對(duì)可靠的，這可能導(dǎo)致對(duì)人工監(jiān)督和手動(dòng)安全檢查的自滿。
• 缺乏透明度：人工智能系統(tǒng)（尤其是基于深度學(xué)習(xí)的系統(tǒng)）可能不透明，難以理解決策的制定方式。這種缺乏透明度可能會(huì)對(duì)事件響應(yīng)和根本原因分析產(chǎn)生負(fù)面影響。
• 數(shù)據(jù)隱私問題：人工智能需要大量數(shù)據(jù)進(jìn)行訓(xùn)練，這引發(fā)了人們對(duì)數(shù)據(jù)隱私和合規(guī)性的擔(dān)憂，尤其是涉及敏感信息時(shí)。此外，人工智能系統(tǒng)可能會(huì)存儲(chǔ)或處理大量數(shù)據(jù)集，這使其成為網(wǎng)絡(luò)犯罪分子竊取或操縱這些數(shù)據(jù)的誘人目標(biāo)。
• 資源密集度：實(shí)施和維護(hù)人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)安全系統(tǒng)可能成本高昂，需要大量計(jì)算資源和熟練的人員。

盡管面臨這些挑戰(zhàn)，人工智能在現(xiàn)代網(wǎng)絡(luò)安全中仍發(fā)揮著至關(guān)重要的作用，它提供了顯著的優(yōu)勢(shì)，幫助組織抵御日益復(fù)雜的威脅。

人工智能在網(wǎng)絡(luò)安全中的一些主要優(yōu)勢(shì)包括：

• 增強(qiáng)威脅檢測(cè)：人工智能可以持續(xù)實(shí)時(shí)監(jiān)控網(wǎng)絡(luò)、系統(tǒng)和設(shè)備，比傳統(tǒng)方法更快地檢測(cè)出威脅。它還可以識(shí)別可能表明存在攻擊的異常行為模式，即使具體威脅未知（例如零日威脅）。此外，機(jī)器學(xué)習(xí)模型可以分析歷史數(shù)據(jù)來預(yù)測(cè)潛在威脅，從而采取主動(dòng)防御措施。
• 安全任務(wù)自動(dòng)化：人工智能可自動(dòng)執(zhí)行日志分析、漏洞掃描和補(bǔ)丁管理等重復(fù)性任務(wù)，從而減少網(wǎng)絡(luò)安全團(tuán)隊(duì)的工作量。它還可以自動(dòng)執(zhí)行對(duì)安全事件的初步響應(yīng)，例如隔離受影響的系統(tǒng)或阻止惡意流量，從而更快地遏制威脅。
• 處理大量數(shù)據(jù)：人工智能擅長處理海量數(shù)據(jù)，使其能夠篩選日志、網(wǎng)絡(luò)流量和安全警報(bào)，以比人類分析師更快、更準(zhǔn)確地識(shí)別潛在威脅。
• 減少誤報(bào)：通過利用機(jī)器學(xué)習(xí)，人工智能可以減少安全警報(bào)中的誤報(bào)數(shù)量，使安全團(tuán)隊(duì)能夠?qū)Ｗ⒂谡嬲耐{并避免警報(bào)疲勞。
• 主動(dòng)威脅搜尋：人工智能可以自動(dòng)搜索組織基礎(chǔ)設(shè)施中的危害指標(biāo)，在潛在威脅造成損害之前識(shí)別它們。
• 資源優(yōu)化：通過自動(dòng)化網(wǎng)絡(luò)安全的許多方面，人工智能可幫助組織優(yōu)化資源，減少對(duì)大型安全團(tuán)隊(duì)的需求，并最大限度地減少網(wǎng)絡(luò)安全技能短缺的影響。通過人工智能處理日常任務(wù)，網(wǎng)絡(luò)安全專業(yè)人員可以專注于更復(fù)雜和更具戰(zhàn)略性的挑戰(zhàn)，從而提高安全運(yùn)營的整體效率。

目前，大多數(shù)人工智能策略都只專注于協(xié)助完成特定任務(wù)，組織仍在評(píng)估這項(xiàng)新興技術(shù)帶來的風(fēng)險(xiǎn)。然而，隨著網(wǎng)絡(luò)對(duì)手越來越多地利用人工智能，安全從業(yè)者也不能落后。相反，他們應(yīng)該在風(fēng)險(xiǎn)和回報(bào)之間取得平衡，以加強(qiáng)威脅搜尋并實(shí)現(xiàn)更高的運(yùn)營效率。