網(wǎng)絡(luò)安全專業(yè)人員在確保人工智能工具安全方面責(zé)無(wú)旁貸，確保這些技術(shù)僅用于社會(huì)公益，這是 RSA 2024 大會(huì)發(fā)出的強(qiáng)烈信息。

人工智能在現(xiàn)實(shí)世界中大有可為，例如可以更快、更準(zhǔn)確地診斷健康狀況。然而，隨著人工智能的創(chuàng)新和應(yīng)用步伐以前所未有的速度加快，許多人呼吁必須及早建立安全防護(hù)措施，以確保人工智能發(fā)揮其巨大潛力。

在這一過程中，必須考慮到隱私和公平等概念。

微軟負(fù)責(zé)安全、合規(guī)、身份和管理的副總裁 Vasu Jakkal 強(qiáng)調(diào)說：”我們有責(zé)任在人工智能快速發(fā)展的時(shí)代探索創(chuàng)造一個(gè)安全可靠的空間?！?/p>

另外，人工智能安全中心創(chuàng)始人 Dan Hendrycks 表示，人工智能存在著巨大的風(fēng)險(xiǎn)，鑒于其在物理世界中日益增長(zhǎng)的影響力和潛力，這些風(fēng)險(xiǎn)既是社會(huì)性的，也是技術(shù)性的。也就是說，人工智能的安全保護(hù)是一個(gè)更廣泛的社會(huì)技術(shù)問題，而不僅僅是技術(shù)問題。

哈佛大學(xué)肯尼迪學(xué)院安全技術(shù)專家、研究員兼講師 Bruce Schneier 指出，現(xiàn)在，人工智能安全和我們的安全緊密相連，因此我們必須更廣泛地思考這些問題。

對(duì)人工智能完整性的威脅

員工正在利用 ChatGPT 等公開可用的生成式人工智能工具開展工作，Presidio 公司的 CISO Dan Lohrmann 將這種現(xiàn)象稱為 “自帶人工智能”。

Secureworks 的首席技術(shù)官 Mike Aiello 認(rèn)為，這與 SASE 服務(wù)剛出現(xiàn)時(shí)的情況類似，當(dāng)時(shí)企業(yè)中的許多員工都訂閱了這些服務(wù)?，F(xiàn)在，企業(yè)在使用人工智能方面也面臨同樣的情況，比如注冊(cè) ChatGPT，對(duì)于企業(yè)來說已經(jīng)有點(diǎn)不受控制。

這種趨勢(shì)給企業(yè)帶來了許多安全和隱私方面的問題，比如敏感的公司數(shù)據(jù)被輸入到這些模型中，可能會(huì)導(dǎo)致信息公開。

其他問題也威脅著人工智能工具輸出結(jié)果的完整性。這些問題包括數(shù)據(jù)中毒，即通過改變模型所訓(xùn)練的數(shù)據(jù)無(wú)意或有意地改變模型的行為；以及提示注入攻擊，即操縱人工智能模型執(zhí)行非預(yù)期的操作。

這些問題有可能破壞人們對(duì)人工智能技術(shù)的信任，造成模糊、偏見和歧視等問題。反過來看，這將限制人工智能技術(shù)的應(yīng)用和解決重大社會(huì)問題的潛力。

人工智能是一項(xiàng)治理問題

在 RSA 大會(huì)上發(fā)言的專家們主張，企業(yè)應(yīng)像對(duì)待其他需要確保安全的應(yīng)用程序一樣對(duì)待人工智能工具。

谷歌安全工程副總裁 Heather Adkins 指出，從本質(zhì)上講，人工智能系統(tǒng)和其他應(yīng)用程序一樣，都有輸入和輸出，過去 30 年里開發(fā)的很多技術(shù)在這里也同樣適用。

Jakkal 認(rèn)為，確保人工智能系統(tǒng)安全的核心是建立一個(gè)強(qiáng)大的風(fēng)險(xiǎn)管理治理體系。她闡述了微軟在這方面的三大支柱：

• 發(fā)現(xiàn)： 了解環(huán)境中使用了哪些人工智能工具，以及員工是如何使用它們的
• 保護(hù)： 降低整個(gè)系統(tǒng)的風(fēng)險(xiǎn)，并加以實(shí)施
• 治理： 遵守監(jiān)管和行為準(zhǔn)則政策，培訓(xùn)員工安全使用人工智能工具

Lohrmann 強(qiáng)調(diào)，企業(yè)要采取的第一步是讓員工了解人工智能的使用情況，在采取行動(dòng)之前，必須知道發(fā)生了什么。

Secureworks 的 Aiello 還主張，在將工作委托給人工智能模型時(shí)，員工應(yīng)該保持高度參與。他解釋說，公司使用工具進(jìn)行數(shù)據(jù)分析，析師也要檢查這些數(shù)據(jù)，并在出現(xiàn)模糊等問題時(shí)提供反饋。

結(jié)論

目前，我們還處于了解人工智能對(duì)社會(huì)真正影響的早期階段。要發(fā)掘人工智能的巨大潛力，這些保護(hù)系統(tǒng)必須具備強(qiáng)大的安全性，否則可能面臨跨組織和跨國(guó)家的限制甚至禁令。

如今，企業(yè)仍在努力應(yīng)對(duì)工作場(chǎng)所生成式人工智能工具的激增，必須迅速制定能夠安全可靠地管理這種使用的政策和工具，而網(wǎng)絡(luò)安全行業(yè)對(duì)這一問題的處理方式很可能會(huì)對(duì)人工智能未來的角色產(chǎn)生重大影響。

參考來源：https://www.infosecurity-magazine.com/news/why-cybersecurity-professionals/