英國國家網(wǎng)絡(luò)安全中心(NCSC)發(fā)布了新的指導(dǎo)方針，可以幫助AI系統(tǒng)的開發(fā)者和提供商“建立按預(yù)期運行的AI系統(tǒng)，在需要時可用，并且在不向未經(jīng)授權(quán)的各方泄露敏感數(shù)據(jù)的情況下工作。”

如何將網(wǎng)絡(luò)安全置于AI系統(tǒng)的核心

安全AI系統(tǒng)開發(fā)指南涵蓋了ML應(yīng)用程序開發(fā)生命周期的四個關(guān)鍵階段。

安全設(shè)計取決于所有相關(guān)人員 - 系統(tǒng)所有者、開發(fā)人員和用戶 - 意識到AI系統(tǒng)面臨的獨特安全風(fēng)險，并被教導(dǎo)如何避免這些風(fēng)險。

指導(dǎo)方針指出：“對系統(tǒng)的威脅進(jìn)行建模，并從安全、功能和性能的角度設(shè)計系統(tǒng)?！贝送?，開發(fā)人員在選擇他們的AI模型時應(yīng)該考慮安全好處和權(quán)衡(越復(fù)雜并不總是更好)。

安全發(fā)展的前提是確保供應(yīng)鏈安全;保護(hù)資產(chǎn)(模型、數(shù)據(jù)、提示、軟件、日志等);記錄模型、數(shù)據(jù)集和元或系統(tǒng)提示;以及管理技術(shù)債務(wù)。

安全部署需要安全的基礎(chǔ)設(shè)施(在系統(tǒng)生命周期的每個部分)，并持續(xù)保護(hù)模式和數(shù)據(jù)不受直接和間接訪問。為了應(yīng)對(不可避免的)安全事件，必須制定全面的事件響應(yīng)、升級和補救計劃。

AI應(yīng)該負(fù)責(zé)任地發(fā)布，即只有在其安全性經(jīng)過徹底評估(并且用戶已經(jīng)評估了限制或潛在故障模式)之后才能發(fā)布。

理想情況下，最安全的設(shè)置將作為唯一選項集成到系統(tǒng)中。當(dāng)需要進(jìn)行配置時，默認(rèn)選項應(yīng)該針對常見威脅大體上是安全的(即默認(rèn)情況下是安全的)。你應(yīng)用控制措施以防止以惡意方式使用或部署你的系統(tǒng)。

最后，為了確保安全運行和維護(hù)，敦促運營商監(jiān)控其系統(tǒng)的行為和輸入，在默認(rèn)情況下開啟自動更新，并保持透明和響應(yīng)能力，特別是在出現(xiàn)故障(例如漏洞)時。

AI網(wǎng)絡(luò)安全指南是面向誰的?

這些指導(dǎo)方針是在美國網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局(CISA)和來自世界各地的類似機構(gòu)和CERT以及行業(yè)專家的幫助下起草的。

“由英國牽頭的新準(zhǔn)則是第一個在全球范圍內(nèi)達(dá)成一致的準(zhǔn)則，他們將幫助使用AI的任何系統(tǒng)的開發(fā)人員在開發(fā)過程的每個階段做出知情的網(wǎng)絡(luò)安全決策——無論這些系統(tǒng)是從頭開始創(chuàng)建的，還是建立在其他人提供的工具和服務(wù)之上的，“英國國家網(wǎng)絡(luò)安全中心指出。

“[指導(dǎo)方針]主要面向AI系統(tǒng)的提供商，無論是基于組織托管的模型還是使用外部應(yīng)用程序編程接口。然而，我們敦促所有利益攸關(guān)方(包括數(shù)據(jù)科學(xué)家、開發(fā)人員、經(jīng)理、決策者和風(fēng)險所有者)閱讀這些指南，以幫助他們就其機器學(xué)習(xí)AI系統(tǒng)的設(shè)計、部署和運營做出明智的決定。

在發(fā)布這些指導(dǎo)方針之前，美國總統(tǒng)拜登發(fā)布了一項行政命令，旨在啟動旨在保護(hù)美國人免受AI系統(tǒng)潛在風(fēng)險(欺詐、隱私威脅、歧視和其他濫用)的行動。