譯者 | 晶顏

審校 | 重樓

人工智能的變革力量正在重塑眾多行業(yè)的業(yè)務運營。通過機器人流程自動化（RPA），人工智能正在將人力資源從重復的、基于規(guī)則的任務中解放出來，并將其重點放在戰(zhàn)略性的、復雜的操作上。此外，人工智能和機器學習算法可以以前所未有的速度和準確性破譯大量數(shù)據(jù)，為企業(yè)提供曾經(jīng)遙不可及的見解。就客戶關系而言，人工智能作為個人接觸點，通過個性化互動提高了參與度。

盡管人工智能對企業(yè)有利，但它也帶來了非常獨特的安全挑戰(zhàn)。例如，對抗性攻擊巧妙地操縱AI模型的輸入數(shù)據(jù)，使其行為異常，同時規(guī)避檢測。同樣令人擔憂的是數(shù)據(jù)中毒現(xiàn)象，即攻擊者在訓練階段通過注入誤導性數(shù)據(jù)來污染AI模型，從而破壞其最終結果。

正是在這種情況下，“永不信任，始終驗證”的零信任安全模式，被認為是對抗基于人工智能的威脅的有力手段。零信任脫離了安全邊界的傳統(tǒng)概念，它假定任何設備或用戶，無論其位于網(wǎng)絡內部還是外部，都應被視為威脅。

這種思想上的轉變要求嚴格的訪問控制、全面的可見性和跨IT生態(tài)系統(tǒng)的持續(xù)監(jiān)控。隨著人工智能技術不斷提高運營效率和決策能力，如果保護不當，它們也可能成為攻擊的渠道。網(wǎng)絡犯罪分子已經(jīng)試圖通過數(shù)據(jù)中毒和對抗性攻擊來利用人工智能系統(tǒng)，這使得零信任模型在保護這些系統(tǒng)方面的作用變得日益突出。

了解人工智能威脅

減輕人工智能威脅風險需要全面的人工智能安全方法，包括仔細設計和測試人工智能模型、強大的數(shù)據(jù)保護措施、持續(xù)地監(jiān)測可疑活動，以及使用安全可靠的基礎設施。企業(yè)在實施人工智能時需要重點考慮以下風險：

• 對抗性攻擊：這些攻擊涉及操縱AI模型的輸入數(shù)據(jù)，使模型按照攻擊者希望的方式運行，而不會觸發(fā)警報。例如，攻擊者可以操縱面部識別系統(tǒng)來錯誤識別個人，從而允許未經(jīng)授權的訪問。
• 數(shù)據(jù)中毒：這種類型的攻擊包括在人工智能模型的訓練階段引入虛假或誤導性數(shù)據(jù)，目的是破壞模型的結果。由于人工智能系統(tǒng)嚴重依賴其訓練數(shù)據(jù)，有毒的數(shù)據(jù)會嚴重影響它們的性能和可靠性。
• 模型盜竊和逆向攻擊：攻擊者可能會試圖竊取專有的AI模型，或者根據(jù)它們的輸出重新創(chuàng)建它們。對于作為服務提供的模型來說，這種風險尤其高。此外，攻擊者可以嘗試從人工智能模型的輸出中推斷出敏感信息，比如學習訓練數(shù)據(jù)集中的個人信息。
• 人工智能增強的網(wǎng)絡攻擊：惡意行為者可以利用人工智能來自動化和增強他們的網(wǎng)絡攻擊。這包括使用人工智能執(zhí)行更復雜的網(wǎng)絡釣魚攻擊，自動發(fā)現(xiàn)漏洞，或進行更快、更有效的暴力破解攻擊。
• 缺乏透明度（黑箱問題）：通常很難理解復雜的AI模型是如何做出決策的。這種透明度的缺乏可能會造成安全風險，因為它可能會隱藏有偏見或惡意的行為。
• 對人工智能系統(tǒng)的依賴：隨著企業(yè)越來越依賴人工智能系統(tǒng)，對這些系統(tǒng)的任何破壞都可能產(chǎn)生嚴重后果。這可能是由于技術問題、對人工智能系統(tǒng)本身的攻擊或對底層基礎設施的攻擊而造成的。

人工智能的零信任模型

零信任提供了一種有效的策略來消除基于人工智能的威脅。零信任的核心是一個簡單的概念：永不信任，始終驗證。它脫離了安全邊界的傳統(tǒng)概念，并假設任何設備或用戶，無論是在網(wǎng)絡內部還是外部，都可能是潛在的威脅。因此，它要求嚴格的訪問控制、全面的可見性和跨IT環(huán)境的持續(xù)監(jiān)視。零信任是應對人工智能威脅的有效策略，原因如下：

• 零信任架構：基于最小特權原則設計粒度訪問控制。每個AI模型、數(shù)據(jù)源和用戶都是單獨考慮的，具有嚴格的權限，僅限對必要內容的訪問。這種方法大大減少了攻擊者可以利用的威脅面。
• 零信任可見性：強調所有數(shù)字資產(chǎn)的深度可見性，包括人工智能算法和數(shù)據(jù)集。這種透明度使組織能夠快速監(jiān)控和檢測異?；顒?，幫助迅速減輕AI特定的威脅，如模型漂移或數(shù)據(jù)操縱。
• 零信任持續(xù)安全監(jiān)測和評估：在快速發(fā)展的人工智能環(huán)境中，靜態(tài)安全立場是遠遠不夠的。零信任促進了安全控制的持續(xù)評估和實時適應，幫助組織在人工智能威脅面前保持領先。

將零信任應用于人工智能

零信任原則可以應用于保護企業(yè)的敏感數(shù)據(jù)不被無意中發(fā)送到ChatGPT等人工智能服務或任何其他外部系統(tǒng)。以下是零信任中可以幫助降低風險的一些功能：

• 身份和訪問管理（IAM）：IAM需要實現(xiàn)健壯的身份驗證機制，例如多因素身份驗證，以及針對用戶行為和風險級別評估的自適應身份驗證技術。部署粒度訪問控制，遵循最小權限原則，確保用戶只有執(zhí)行任務所需的訪問權限。
• 網(wǎng)絡分段：這包括根據(jù)信任級別和數(shù)據(jù)敏感性將網(wǎng)絡劃分為更小的隔離區(qū)域，并部署嚴格的網(wǎng)絡訪問控制和防火墻來限制段間通信。它還需要使用安全連接，以遠程訪問敏感數(shù)據(jù)或系統(tǒng)。
• 數(shù)據(jù)加密：使用穩(wěn)健的加密算法和安全的密鑰管理實踐對靜態(tài)和傳輸中的敏感數(shù)據(jù)進行加密至關重要。對通信通道應用端到端加密對于保護與外部系統(tǒng)交換的數(shù)據(jù)也是必要的。
• 數(shù)據(jù)丟失預防（DLP）：這包括部署DLP解決方案來監(jiān)控和防止?jié)撛诘臄?shù)據(jù)泄露，使用內容檢查和上下文分析來識別和阻止未經(jīng)授權的數(shù)據(jù)傳輸，以及定義DLP策略來檢測和防止敏感信息傳輸?shù)酵獠肯到y(tǒng)，包括人工智能模型。
• 用戶和實體行為分析（UEBA）：UEBA解決方案的實現(xiàn)有助于監(jiān)控用戶行為并識別異?；顒印７治瞿Ｊ胶驼Ｐ袨榈钠羁梢詸z測到潛在的數(shù)據(jù)泄露企圖。還應該設置實時警報或觸發(fā)器，以通知安全團隊任何可疑活動。
• 持續(xù)監(jiān)視和審計：部署健壯的監(jiān)視和日志記錄機制對于跟蹤和審計數(shù)據(jù)訪問和使用情況至關重要。利用安全信息和事件管理（SIEM）系統(tǒng)可以幫助聚合和關聯(lián)安全事件。定期檢查日志和主動分析對于識別未經(jīng)授權的數(shù)據(jù)傳輸或潛在的安全漏洞也是必要的。
• 事件響應和補救：為數(shù)據(jù)泄漏或未經(jīng)授權的數(shù)據(jù)傳輸制定專門的事件響應計劃至關重要。應該明確事件響應團隊成員的角色和職責，并定期進行演練和演習，以測試計劃的有效性。
• 安全分析和威脅情報：利用安全分析和威脅情報平臺是識別和減輕潛在風險的關鍵。及時了解與人工智能系統(tǒng)相關的新威脅和漏洞，并相應地調整安全措施也至關重要。

零信任原則為保護敏感數(shù)據(jù)提供了堅實的基礎。然而，隨著人工智能越來越多地融入企業(yè)，不斷評估和調整安全措施以應對不斷變化的威脅和行業(yè)最佳實踐也很重要。

案例研究

一家大型金融機構利用人工智能來增強客戶支持并簡化業(yè)務流程。然而，由于內部威脅或濫用等因素，對敏感客戶或專有財務數(shù)據(jù)可能暴露的擔憂日益加劇。為了解決這個問題，該機構承諾實施零信任架構，整合各種安全措施，以確保其運營中的數(shù)據(jù)隱私和機密性。

這個零信任架構包含多個策略。第一個是身份和訪問管理（IAM）系統(tǒng)，它執(zhí)行訪問控制和身份驗證機制。該計劃還優(yōu)先考慮與人工智能的所有交互的數(shù)據(jù)匿名化和強加密措施。部署數(shù)據(jù)丟失防護（DLP）解決方案和用戶和實體行為分析（UEBA）工具來監(jiān)控對話、檢測潛在的數(shù)據(jù)泄漏和發(fā)現(xiàn)異常行為。此外，基于角色的訪問控制（RBAC）限制用戶只能訪問與其角色相關的數(shù)據(jù)，并實現(xiàn)了對活動的持續(xù)監(jiān)視和審計方案。

此外，該機構還強調用戶意識和培訓，讓員工接受有關數(shù)據(jù)隱私、內部威脅和濫用風險以及處理敏感數(shù)據(jù)的指導方針的培訓。由于該機構的零信任架構在與人工智能的交互過程中不斷驗證信任，因此大大降低了導致數(shù)據(jù)隱私和機密性丟失的違規(guī)風險，保護了敏感數(shù)據(jù)并維護了機構業(yè)務運營的完整性。

人工智能與零信任的未來

人工智能威脅的演變是由人工智能系統(tǒng)日益增長的復雜性和普遍性，以及不斷尋找新方法來利用它們的網(wǎng)絡犯罪分子的復雜程度所驅動的。以下是人工智能威脅的一些持續(xù)演變，以及零信任模型適應這些挑戰(zhàn)的方式：

• 高級對抗性攻擊：隨著AI模型變得越來越復雜，針對它們的對抗性攻擊也越來越復雜。惡意行為者正在從簡單的數(shù)據(jù)操縱轉向高度復雜的技術，旨在以難以檢測和防御的方式欺騙人工智能系統(tǒng)。為了解決這個問題，零信任架構必須實施更先進的檢測和預防系統(tǒng)，將人工智能本身結合起來，實時識別和響應對抗性輸入。
• 人工智能支持的網(wǎng)絡攻擊：隨著網(wǎng)絡犯罪分子開始使用人工智能來自動化和強化他們的攻擊，企業(yè)面臨著更快、更頻繁、更復雜的威脅。作為回應，零信任模型應結合人工智能驅動的威脅檢測和響應工具，使它們能夠更快、更準確地識別和應對人工智能驅動的攻擊。
• 利用AI的“黑箱”問題：某些AI系統(tǒng)固有的復雜性使得我們很難理解它們是如何做出決策的。這種缺乏透明度的情況可能會被攻擊者利用。零信任可以通過要求人工智能系統(tǒng)更加透明，并實施能夠檢測人工智能行為異常的監(jiān)控工具來適應。
• 數(shù)據(jù)隱私風險：由于人工智能系統(tǒng)需要大量數(shù)據(jù)，與數(shù)據(jù)隱私和保護相關的風險越來越大。零信任通過確保對所有數(shù)據(jù)進行加密、嚴格控制訪問以及立即檢測和調查任何異常數(shù)據(jù)訪問模式來解決這個問題。
• 物聯(lián)網(wǎng)設備中的AI：隨著AI嵌入物聯(lián)網(wǎng)設備，攻擊面正在擴大。零信任可以將“永不信任，始終驗證”的原則擴展到網(wǎng)絡中的每個物聯(lián)網(wǎng)設備，無論其性質或位置如何。

零信任模型的適應性和穩(wěn)健性使其尤為適合應對人工智能領域不斷變化的威脅。通過基于最新威脅情報不斷更新其策略和工具，零信任可以跟上快速發(fā)展的人工智能威脅領域的步伐。

結語

隨著人工智能的不斷發(fā)展，針對這些技術的威脅也將不斷發(fā)展。零信任模型提供了一種有效的方法來消除這些威脅，它假定沒有隱含信任，并驗證整個IT環(huán)境中的一切。它應用粒度訪問控制，提供全面的可見性，并促進持續(xù)的安全監(jiān)控，使其成為對抗基于人工智能的威脅的重要工具。

作為IT專業(yè)人員，我們必須在保護組織安全方面具有前瞻性和創(chuàng)新性。人工智能正在重塑我們的運營，使我們能夠簡化工作，做出更好的決策，并提供更好的客戶體驗。然而，這些好處也帶來了獨特的安全挑戰(zhàn)，需要全面和前瞻性的網(wǎng)絡安全方法。

考慮到這一點，是時候采取行動了！首先，對組織進行零信任準備評估，以了解組織當前的安全環(huán)境并確定任何缺口。了解組織的缺口之后，便可以開始制定戰(zhàn)略計劃，以實現(xiàn)強大的零信任框架，最終保護組織的人工智能計劃，并確保系統(tǒng)和數(shù)據(jù)的完整性。

原文標題：Understanding AI risks and how to secure using Zero Trust，作者：Keith Thomas