今年在舊金山舉行的RSAC大會(huì)上有一個(gè)熱門話題：人工智能工具。生成式人工智能在網(wǎng)絡(luò)安全工具中的潛力引發(fā)了網(wǎng)絡(luò)安全專業(yè)人士的興趣。但是人們對(duì)人工智能在網(wǎng)絡(luò)安全中的實(shí)際應(yīng)用，以及用于建立人工智能模型的數(shù)據(jù)的可靠性提出了質(zhì)疑。

網(wǎng)絡(luò)安全戰(zhàn)略顧問、GoogleCloud和Cyversity的董事會(huì)成員M.K. Palmore在采訪中表示：我們目前正處于與人工智能交手的第一局，我們還不知道人工智能對(duì)網(wǎng)絡(luò)安全行業(yè)的影響會(huì)有多大，也不知道我們最終能看到什么結(jié)果。但我們心存希望，整個(gè)公司目前也正朝著一個(gè)方向努力，這也表明我們看到了人工智能對(duì)行業(yè)產(chǎn)生積極影響的價(jià)值和用途。

不過Palmore也承認(rèn)，目前我們?cè)谌斯ぶ悄艿陌l(fā)展方面確實(shí)還有更多的事情要做。他認(rèn)為隨著事物的變化發(fā)展，我們都必須轉(zhuǎn)向適應(yīng)這種新的模式，讓這些大型語(yǔ)言模型(llm)和人工智能可供我們使用。Presidio首席信息安全官Dan Lohrmann認(rèn)為，人工智能在網(wǎng)絡(luò)安全領(lǐng)域還處于早期階段。在RSAC大會(huì)上提及人工智能工具的話題時(shí)，他認(rèn)為這將是一場(chǎng)變革，人工智能將改變很大一部分產(chǎn)品。這可能會(huì)改變進(jìn)攻方和防守方，就像我們?nèi)绾谓M建紅隊(duì)和藍(lán)隊(duì)那樣。

此外他還指出，在精簡(jiǎn)安全團(tuán)隊(duì)使用的工具方面，還有很長(zhǎng)的路要走。他說:“我認(rèn)為我們永遠(yuǎn)無法實(shí)現(xiàn)單一的窗格的資源監(jiān)控和管理，但目前已經(jīng)是我見過最精簡(jiǎn)的程度了。

將AI添加到安全工具

在2023年RSAC大會(huì)期間，不少公司都講述了他們是如何在安全工具中使用生成性人工智能的，例如，谷歌推出了其生成式人工智能工具和安全LLM、Sec-PaLM。Sec-PaLM是基于Mandiant在漏洞、惡意軟件、威脅指標(biāo)和行為威脅參與者概況方面的前沿情報(bào)而構(gòu)建的。

谷歌Cloud的用戶體驗(yàn)總監(jiān)斯蒂芬?海(stephen Hay)表示，LLMs現(xiàn)在達(dá)到了一個(gè)臨界點(diǎn)，它可以以一種以前無法做到的方式將信息語(yǔ)境化。這代表我們現(xiàn)在有了真正的生成式人工智能。

與此同時(shí)，亞馬遜網(wǎng)絡(luò)服務(wù)(Amazon Web Services)首席信息安全官辦公室主任Mark Ryland強(qiáng)調(diào)了如何用生成式人工智能檢測(cè)威脅活動(dòng)。日常中多關(guān)注有意義的數(shù)據(jù)，盡量減少誤報(bào)。且唯一能有效做到這一點(diǎn)的方法就是多多訓(xùn)練機(jī)器學(xué)習(xí)，這也是我們安全服務(wù)的核心。

該公司最近宣布了一種名為Amazon Bedrock的新工具，用于在AWS上進(jìn)行構(gòu)建，其中包含了生成式人工智能。Amazon Bedrock是一項(xiàng)新服務(wù)，可以通過API訪問來自AI21 Labs、Anthropic、Stability AI和Amazon的基礎(chǔ)模型(fm)。此外，Tenable還推出了專門為研究界設(shè)計(jì)的生成式人工智能安全工具。另外，一份名為《生成式人工智能如何改變安全研究》的報(bào)告最近也發(fā)布了，該報(bào)告探討了LLMs如何在逆向工程、調(diào)試代碼、提高web應(yīng)用程序安全性和云工具可見性等研究領(lǐng)域降低復(fù)雜性和提高效率。

該報(bào)告指出，ChatGPT正在以“驚人的速度”發(fā)展。關(guān)于網(wǎng)絡(luò)安全平臺(tái)中的人工智能工具，Tenable首席安全官Bob Huber表示，這些工具允許你建立一個(gè)數(shù)據(jù)庫(kù)，例如，如果你正在尋找滲透測(cè)試，目標(biāo)是X，可能存在哪些漏洞，通常這是一個(gè)手動(dòng)過程，你必須進(jìn)入并進(jìn)行搜索，但人工智能可以幫助你更快地獲取這些東西。

另外，他補(bǔ)充說目前已經(jīng)看到一些公司開始使用LLMs。同時(shí)他也指出，LLMs所基于的數(shù)據(jù)并不一定是經(jīng)過驗(yàn)證的或準(zhǔn)確的，因此需要對(duì)此設(shè)置護(hù)欄。因此用自己的數(shù)據(jù)構(gòu)建的LLMs，更值得信賴。

有人擔(dān)心與GPT這樣的LLMs掛鉤可能會(huì)影響安全性。作為安全從業(yè)者，了解風(fēng)險(xiǎn)是很重要的。但Huber指出，人們目前還沒有足夠的時(shí)間去了解生成式人工智能的風(fēng)險(xiǎn)。這些工具都旨在簡(jiǎn)化防御者的工作，但黑莓威脅研究與情報(bào)副總裁伊斯梅爾·巴倫蘇埃拉指出了生成式人工智能的局限性。

和其他任何工具一樣，我們作為防御者會(huì)使用，其他攻擊者也會(huì)使用它。所以說這些生成式人工智能工具的最佳使用方式就是將其作為助手來使用。很明顯，它的確可以促進(jìn)我們的發(fā)展。但如果是期望它能徹底改變一切，那答案是否定的。