AT&T Business：零信任是化解AI應(yīng)用風(fēng)險(xiǎn)的靈丹妙藥
人工智能（AI）技術(shù)正在改變眾多行業(yè)的業(yè)務(wù)運(yùn)營(yíng)模式，不僅可以將大量的人力資源從繁瑣的事務(wù)性工作中解放出來(lái)，還可以通過(guò)快速而準(zhǔn)確的大數(shù)據(jù)分析，為企業(yè)提供前所未有的洞察力。不過(guò)在AI技術(shù)快速應(yīng)用發(fā)展過(guò)程中，其安全威脅在快速演變，這是由AI系統(tǒng)日益增長(zhǎng)的復(fù)雜性和普遍性所驅(qū)動(dòng)的。
為了防范AI技術(shù)大規(guī)模應(yīng)用的安全風(fēng)險(xiǎn)，企業(yè)需要打贏一場(chǎng)“雙線戰(zhàn)爭(zhēng)”，不僅需要阻止攻擊者對(duì)已部署AI模型的破壞，而且還要面對(duì)攻擊者利用AI技術(shù)發(fā)起各種新攻擊。在此背景下，零信任技術(shù)有望成為幫助企業(yè)有效緩解AI應(yīng)用風(fēng)險(xiǎn)的靈丹妙藥。AT&T Business（美國(guó)電話電報(bào)公司）安全專家Keith Thomas在其最新發(fā)表的博客中表示：零信任安全技術(shù)的適應(yīng)性和穩(wěn)健性特別適合幫助企業(yè)組織應(yīng)對(duì)先進(jìn)AI技術(shù)應(yīng)用中不斷變化的安全風(fēng)險(xiǎn)與威脅。因?yàn)榱阈湃渭夹g(shù)具有以下天然的安全屬性和防護(hù)優(yōu)勢(shì)：
- 零信任架構(gòu)：基于最小特權(quán)原則設(shè)計(jì)細(xì)粒度訪問(wèn)控制。從安全角度來(lái)看，對(duì)每個(gè)AI模型、數(shù)據(jù)源和用戶的保護(hù)都應(yīng)該單獨(dú)設(shè)計(jì)的，應(yīng)該擁有嚴(yán)格定義的權(quán)限，只允許訪問(wèn)必要的內(nèi)容。零信任方法能夠大大減小可被攻擊者利用的威脅面；
- 零信任可見(jiàn)性：零信任強(qiáng)調(diào)所有數(shù)字資產(chǎn)的深度可見(jiàn)性，包括AI算法和數(shù)據(jù)集。這種透明度使組織能夠快速監(jiān)控和檢測(cè)異常活動(dòng)，幫助其迅速緩解AI應(yīng)用時(shí)特有的威脅，比如模型漂移或數(shù)據(jù)操縱；
- 零信任持續(xù)安全監(jiān)測(cè)和評(píng)估：在快速發(fā)展的AI領(lǐng)域，只關(guān)注靜態(tài)安全威脅態(tài)勢(shì)是遠(yuǎn)遠(yuǎn)不夠的。零信任技術(shù)能夠促進(jìn)組織對(duì)安全控制的持續(xù)評(píng)估和實(shí)時(shí)適應(yīng)，幫助組織面對(duì)AI威脅時(shí)能領(lǐng)先一步。
零信任技術(shù)倡導(dǎo)更嚴(yán)格的訪問(wèn)控制、更全面的可見(jiàn)性和更持續(xù)的威脅監(jiān)控。當(dāng)網(wǎng)絡(luò)犯罪分子企圖通過(guò)攻擊AI系統(tǒng)時(shí)，零信任安全技術(shù)將發(fā)揮出重要作用。以下是零信任技術(shù)在應(yīng)對(duì)AI應(yīng)用風(fēng)險(xiǎn)時(shí)的一些關(guān)鍵性功能：
- 身份和訪問(wèn)管理（IAM）：AI技術(shù)應(yīng)用時(shí)需要實(shí)施穩(wěn)健的身份驗(yàn)證機(jī)制，比如多因素身份驗(yàn)證，以及針對(duì)用戶行為和風(fēng)險(xiǎn)級(jí)別評(píng)估的自適應(yīng)身份驗(yàn)證技術(shù)。因此，部署遵循最小權(quán)限原則的細(xì)粒度訪問(wèn)控制，確保用戶只擁有執(zhí)行任務(wù)所需的訪問(wèn)權(quán)限，這一點(diǎn)至關(guān)重要。
- 網(wǎng)絡(luò)分段：在零信任技術(shù)理念中，會(huì)根據(jù)信任級(jí)別和數(shù)據(jù)敏感度將網(wǎng)絡(luò)劃分為更小的隔離區(qū)域，并部署嚴(yán)格的網(wǎng)絡(luò)訪問(wèn)控制和防火墻以限制網(wǎng)段間通信。它還需要使用VPN等安全連接，以遠(yuǎn)程訪問(wèn)敏感數(shù)據(jù)或系統(tǒng)。
- 數(shù)據(jù)加密：使用穩(wěn)健的加密算法和安全密鑰管理實(shí)踐對(duì)靜態(tài)和傳輸中的敏感數(shù)據(jù)進(jìn)行加密至關(guān)重要。對(duì)通信通道實(shí)施端到端加密對(duì)于保護(hù)與外部系統(tǒng)交換的數(shù)據(jù)也必不可少。
- 數(shù)據(jù)丟失防護(hù)：這指部署DLP解決方案來(lái)監(jiān)測(cè)和防止?jié)撛诘臄?shù)據(jù)泄露，使用內(nèi)容檢查和上下文分析來(lái)識(shí)別和阻止未經(jīng)授權(quán)的數(shù)據(jù)傳輸，以及定義DLP策略來(lái)檢測(cè)和防止敏感信息傳輸?shù)酵獠肯到y(tǒng)（包括AI模型）。
- 用戶和實(shí)體行為分析（UEBA）：實(shí)施UEBA解決方案有助于監(jiān)測(cè)用戶行為，并識(shí)別異?；顒?dòng)。分析模式和正常行為的偏差可以檢測(cè)竊取數(shù)據(jù)的潛在活動(dòng)，還可以通過(guò)設(shè)置實(shí)時(shí)警報(bào)或觸發(fā)機(jī)制，向安全團(tuán)隊(duì)通知任何可疑活動(dòng)。
- 持續(xù)監(jiān)測(cè)和審計(jì)：部署穩(wěn)健的監(jiān)測(cè)和日志記錄機(jī)制對(duì)于跟蹤數(shù)據(jù)訪問(wèn)和使用情況至關(guān)重要。利用安全信息和事件管理（SIEM）系統(tǒng)有助于聚合和關(guān)聯(lián)安全事件，定期檢查日志和主動(dòng)分析可以減少潛在的安全泄露事件。
- 事件響應(yīng)和補(bǔ)救：為數(shù)據(jù)泄漏或未經(jīng)授權(quán)的數(shù)據(jù)傳輸專門制定事件響應(yīng)計(jì)劃至關(guān)重要。應(yīng)該明確界定事件響應(yīng)團(tuán)隊(duì)成員的角色和職責(zé)，定期進(jìn)行演練和演習(xí)，測(cè)試計(jì)劃的有效性。
- 安全分析和威脅情報(bào)：利用安全分析和威脅情報(bào)平臺(tái)是識(shí)別和減輕潛在風(fēng)險(xiǎn)的關(guān)鍵。及時(shí)了解與AI系統(tǒng)相關(guān)的新威脅和新漏洞，并相應(yīng)地調(diào)整安全措施也至關(guān)重要。
參考鏈接：
