在2024年的黑帽大會(huì)（Black Hat 2024）上，AI驅(qū)動(dòng)的網(wǎng)絡(luò)安全工具和技術(shù)成為焦點(diǎn)，引領(lǐng)了網(wǎng)絡(luò)安全行業(yè)新趨勢。眾多安全廠商和初創(chuàng)公司展示了他們的最新成果，利用生成式AI來管理風(fēng)險(xiǎn)、檢測并對(duì)抗網(wǎng)絡(luò)犯罪，保障企業(yè)安全。以下是大會(huì)上一些備受矚目的AI驅(qū)動(dòng)網(wǎng)絡(luò)安全產(chǎn)品和服務(wù)：

Apiiro：軟件開發(fā)設(shè)計(jì)階段的風(fēng)險(xiǎn)智能檢測

Apiiro推出了一項(xiàng)名為“設(shè)計(jì)階段的風(fēng)險(xiǎn)檢測”的AI驅(qū)動(dòng)功能，旨在分析功能請(qǐng)求，以在應(yīng)用開發(fā)的早期階段識(shí)別風(fēng)險(xiǎn)并啟動(dòng)安全審查或威脅模型。該功能依托Apiiro的專有LLM，使應(yīng)用安全實(shí)踐者能夠在編碼前的設(shè)計(jì)階段緩解安全和合規(guī)風(fēng)險(xiǎn)，從而節(jié)省時(shí)間、減少返工并加速安全軟件交付。主要風(fēng)險(xiǎn)分析領(lǐng)域包括架構(gòu)設(shè)計(jì)、敏感數(shù)據(jù)處理、用戶權(quán)限、生成式AI技術(shù)和第三方集成。

SentinelOne：Purple AI、CIEM、xSPM和SIEM

SentinelOne在其Singularity平臺(tái)中新增了一系列功能，旨在利用生成式AI技術(shù)增強(qiáng)端點(diǎn)、身份和云環(huán)境的安全性。新功能包括Purple AI，它提供自然語言警報(bào)摘要和查詢支持，幫助分析師簡化警報(bào)。云基礎(chǔ)設(shè)施權(quán)限管理（CIEM）幫助控制對(duì)云資源的訪問權(quán)。此外，SentinelOne還推出了擴(kuò)展安全態(tài)勢管理（xSPM）和AI驅(qū)動(dòng)的SIEM，以提供實(shí)時(shí)洞察和可擴(kuò)展的安全解決方案。

Cymulate：AI Copilot

Cymulate宣布推出其AI Copilot，這是一款生成式AI解決方案，旨在啟用針對(duì)實(shí)時(shí)威脅的安全控制。AI Copilot引入了動(dòng)態(tài)攻擊規(guī)劃器，允許用戶通過復(fù)制和粘貼威脅通告、新聞文章和安全研究發(fā)現(xiàn)中的URL或內(nèi)容來執(zhí)行自定義威脅評(píng)估。該功能旨在快速識(shí)別和修復(fù)安全漏洞，減少威脅評(píng)估所需的時(shí)間和專業(yè)知識(shí)。AI Copilot還生成定制的產(chǎn)品文檔并簡化故障排除，優(yōu)化安全驗(yàn)證流程并解放IT資源。

Cequence：生成式AI驅(qū)動(dòng)的統(tǒng)一API保護(hù)（UAP）

Cequence對(duì)其統(tǒng)一API保護(hù)平臺(tái)進(jìn)行了多項(xiàng)更新，重點(diǎn)是安全使用生成式AI應(yīng)用程序和大語言模型。主要增強(qiáng)功能包括針對(duì)OWASP LLM十大威脅的測試套件、自動(dòng)檢測和阻止AI機(jī)器人活動(dòng)、用于可視化API流的流圖以及針對(duì)全面API發(fā)現(xiàn)的新集成。該平臺(tái)還在本地處理API流量，提高效率和隱私，并提供針對(duì)API網(wǎng)關(guān)和基礎(chǔ)設(shè)施的攻擊面檢測。

RAD Security：AI驅(qū)動(dòng)的事件調(diào)查

RAD Security推出了其AI驅(qū)動(dòng)的事件調(diào)查功能，旨在通過行為檢測和響應(yīng)提高云安全性。該方法通過結(jié)合LLM驅(qū)動(dòng)的調(diào)查和行為檢測，減少誤報(bào)并提高事件評(píng)估的準(zhǔn)確性。RAD Security的云檢測和響應(yīng)（CDR）解決方案創(chuàng)建行為基線，以檢測零日攻擊，并通過實(shí)時(shí)身份和基礎(chǔ)設(shè)施上下文豐富檢測。新功能包括Amazon EKS插件、自動(dòng)AI驅(qū)動(dòng)的調(diào)查、用于事件導(dǎo)航的發(fā)現(xiàn)中心和更新的RAD開源目錄，以提高檢測能力。

Code42：Incydr支持生成式AI的數(shù)據(jù)泄漏防護(hù)

Mimecast旗下的Code42，推出了其Incydr解決方案的升級(jí)版，以防止數(shù)據(jù)泄漏到生成式AI工具。Incydr的新數(shù)據(jù)可視化和PRISM系統(tǒng)可以幫助安全團(tuán)隊(duì)定位和響應(yīng)數(shù)據(jù)向ChatGPT和Google Gemini等生成式AI工具的移動(dòng)。該解決方案包括檢測和阻止風(fēng)險(xiǎn)活動(dòng)、為員工提供教育視頻，并即將支持ChatGPT桌面應(yīng)用程序。

Legit Security：AI安全指揮中心

Legit Security推出了AI安全指揮中心，旨在為安全團(tuán)隊(duì)提供一個(gè)控制臺(tái)，以在開發(fā)環(huán)境中實(shí)現(xiàn)AI可見性和保護(hù)。該儀表板將幫助緩解在應(yīng)用代碼中使用AI模型的風(fēng)險(xiǎn)，提供AI模型清單的集中可見性，進(jìn)行風(fēng)險(xiǎn)關(guān)聯(lián)和優(yōu)先級(jí)排序，并擴(kuò)展ASPM控制以包括AI安全態(tài)勢管理。Legit Security還宣布加入安全AI聯(lián)盟（CoSAI），以推動(dòng)軟件開發(fā)中全面的AI安全措施。

Balbix：對(duì)話式AI安全助手

在Black Hat USA 2024上，Balbix推出了BIX，這是一款旨在簡化網(wǎng)絡(luò)風(fēng)險(xiǎn)和暴露管理的對(duì)話式AI助手。BIX旨在通過根據(jù)用戶角色和過去的互動(dòng)提供個(gè)性化、上下文相關(guān)的建議來簡化風(fēng)險(xiǎn)管理。BIX具有移動(dòng)訪問、實(shí)時(shí)更新和與現(xiàn)有網(wǎng)絡(luò)安全和IT系統(tǒng)集成的功能，有助于安全團(tuán)隊(duì)進(jìn)行決策和跨渠道溝通。BIX利用基于RAG的大型語言模型和Nvidia硬件的多代理架構(gòu)，旨在將復(fù)雜任務(wù)分解為可管理的子任務(wù)，以提高運(yùn)營效率并減少響應(yīng)時(shí)間。

Orca Research：AI Goat

Orca Research推出了一種開源AI安全學(xué)習(xí)環(huán)境——AI Goat，旨在解決OWASP十大ML風(fēng)險(xiǎn)。該工具可在Orca Research的GitHub存儲(chǔ)庫中獲得，使用Terraform構(gòu)建了一個(gè)易受攻擊的AI環(huán)境，具有一系列威脅和漏洞，用于安全培訓(xùn)和教育場景。該工具旨在幫助安全專業(yè)人員和滲透測試人員理解和測試AI特定漏洞，并提高防御此類攻擊的能力。在Black Hat USA 2024上，OWASP ML安全十大項(xiàng)目的負(fù)責(zé)人Shain Singh強(qiáng)調(diào)，AI Goat通過模擬現(xiàn)實(shí)世界的漏洞和錯(cuò)誤配置，增強(qiáng)了對(duì)AI風(fēng)險(xiǎn)的理解，并幫助組織更好地防范潛在的AI攻擊。