隨著OpenAI、Anthropic、Google和微軟等公司的生成式AI及大語(yǔ)言模型(LLM)用戶量呈指數(shù)級(jí)增長(zhǎng)，企業(yè)IT安全決策者正努力跟上AI技術(shù)的快速發(fā)展步伐。非營(yíng)利組織OWASP最新發(fā)布的《LLM AI網(wǎng)絡(luò)安全與治理清單》(PDF)正是為此而生。

LLM威脅分類體系

鑒于AI領(lǐng)域涉及面廣泛，OWASP清單主要幫助管理者快速識(shí)別生成式AI和大語(yǔ)言模型的關(guān)鍵風(fēng)險(xiǎn)并采取補(bǔ)救措施，確保企業(yè)具備基本安全控制能力來安全使用相關(guān)工具和服務(wù)。OWASP強(qiáng)調(diào)該清單將隨技術(shù)成熟度持續(xù)更新，其專家團(tuán)隊(duì)將LLM威脅劃分為以下類別：

制定LLM戰(zhàn)略時(shí)，企業(yè)需重點(diǎn)應(yīng)對(duì)生成式AI帶來的獨(dú)特風(fēng)險(xiǎn)，通過組織治理和安全控制加以緩解。OWASP建議采用六步法構(gòu)建有效的LLM部署策略：

針對(duì)不同類型的LLM部署方案，OWASP也提供了詳細(xì)考量框架：

OWASP AI安全清單詳解

(1) 對(duì)抗性風(fēng)險(xiǎn)

涵蓋競(jìng)爭(zhēng)對(duì)手和攻擊者雙重維度，包括分析競(jìng)對(duì)如何運(yùn)用AI提升業(yè)務(wù)表現(xiàn)，以及更新事件響應(yīng)計(jì)劃等內(nèi)部流程以防范AI相關(guān)安全事件。

(2) 威脅建模

基于"安全設(shè)計(jì)"原則，需考慮攻擊者如何利用LLM加速漏洞利用、企業(yè)如何檢測(cè)惡意AI行為，以及如何實(shí)施系統(tǒng)防護(hù)措施。

(3) AI資產(chǎn)清點(diǎn)

遵循"未知即不可保護(hù)"原則，需全面記錄自研解決方案和第三方工具，明確責(zé)任歸屬。建議將AI組件納入軟件物料清單(SBOM)，按敏感度分類數(shù)據(jù)源，并建立工具準(zhǔn)入退出機(jī)制。

(4) AI安全與隱私培訓(xùn)

通過系統(tǒng)化培訓(xùn)使員工理解AI/LLM技術(shù)原理與安全挑戰(zhàn)，培育信任透明的組織文化，從根本上杜絕"影子AI"現(xiàn)象。

(5) 商業(yè)價(jià)值論證

避免跟風(fēng)炒作，需建立清晰的AI商業(yè)用例，如同當(dāng)年云計(jì)算推廣時(shí)的戰(zhàn)略規(guī)劃。

(6) 治理框架

通過RACI矩陣明確AI項(xiàng)目權(quán)責(zé)，制定企業(yè)級(jí)政策和流程，實(shí)現(xiàn)可問責(zé)的管理體系。

(7) 法律合規(guī)

需法律團(tuán)隊(duì)介入評(píng)估產(chǎn)品擔(dān)保條款、最終用戶許可協(xié)議(EULA)和知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)等關(guān)鍵法律議題。

(8) 監(jiān)管應(yīng)對(duì)

密切關(guān)注歐盟《人工智能法案》等新興法規(guī)，識(shí)別適用的合規(guī)要求。

(9) LLM方案實(shí)施

具體控制措施包括：實(shí)施訪問控制、保護(hù)訓(xùn)練管道、映射數(shù)據(jù)流、識(shí)別LLM及供應(yīng)鏈漏洞，建議定期進(jìn)行第三方審計(jì)、滲透測(cè)試和代碼審查。

(10) 測(cè)試評(píng)估驗(yàn)證(TEVV)

參照NIST AI框架建議，持續(xù)開展功能測(cè)試、安全驗(yàn)證及可靠性評(píng)估，覆蓋AI模型全生命周期。

(11) 模型與風(fēng)險(xiǎn)卡片

通過標(biāo)準(zhǔn)化文檔披露模型架構(gòu)、訓(xùn)練方法和性能指標(biāo)，提升系統(tǒng)透明度，主動(dòng)應(yīng)對(duì)偏見、隱私等倫理問題。

(12) 檢索增強(qiáng)生成(RAG)

通過優(yōu)化預(yù)訓(xùn)練模型和增量訓(xùn)練，提升LLM在特定數(shù)據(jù)源的檢索能力，最大化企業(yè)應(yīng)用價(jià)值。

(13) AI紅隊(duì)演練

通過模擬攻擊檢驗(yàn)防御體系有效性，但需明確演練邊界要求，避免引發(fā)合規(guī)風(fēng)險(xiǎn)。