過去幾年，人們非常關(guān)注人工智能 (AI) 技術(shù)的發(fā)展狀況及其對網(wǎng)絡(luò)安全的影響。在許多行業(yè)中，與人工智能攻擊相關(guān)的風險仍然存在且令人擔憂，尤其是全球平均數(shù)據(jù)泄露成本比去年增加了 10% 。

然而，根據(jù) IBM X-Force 團隊發(fā)布的最新《云威脅形勢報告》，針對云計算環(huán)境的人工智能攻擊的近期威脅實際上相對較低。不過，X-Force 的預(yù)測顯示，這些復(fù)雜的攻擊方法可能會有所增加。

云計算市場現(xiàn)狀

云計算市場繼續(xù)呈指數(shù)級增長，專家預(yù)計到 2024 年底其價值將達到 6750 億美元以上。隨著越來越多的組織將其運營能力擴展到本地限制之外并利用公共和私有云基礎(chǔ)設(shè)施和服務(wù)，AI技術(shù)在多個行業(yè)領(lǐng)域的采用正在穩(wěn)步增長。

生成式人工智能與云計算平臺的快速融合為企業(yè)創(chuàng)造了許多機會，尤其是在實現(xiàn) IT 服務(wù)和SaaS應(yīng)用程序的部署、配置和可擴展性的更好的自動化和效率方面。

然而，隨著越來越多的企業(yè)依賴新的顛覆性技術(shù)來幫助他們最大化云投資的價值，生成式人工智能帶來的潛在安全危險受到各網(wǎng)絡(luò)安全組織的密切監(jiān)視。

為什么目前認為云端人工智能發(fā)起的攻擊風險較低？

盡管根據(jù)Gartner 最近發(fā)布的報告，人工智能發(fā)起的攻擊仍然是高級風險和保證主管面臨的最大新興風險之一，但根據(jù) X-Force 的研究，目前人工智能技術(shù)在云基礎(chǔ)設(shè)施攻擊中被利用和利用的威脅仍然相對較低。

這并不是說人工智能技術(shù)不再被大規(guī)模地用于開發(fā)和分發(fā)高度復(fù)雜的網(wǎng)絡(luò)釣魚計劃。這種行為已經(jīng)在活躍的惡意軟件分發(fā)者（如Hive0137 ）身上得到體現(xiàn)，他們在編寫新的暗網(wǎng)工具腳本時使用大型語言模型 (LLM)。相反，當前較低的風險預(yù)測與人工智能平臺在云和本地環(huán)境中直接成為攻擊目標的可能性有關(guān)。

風險較低的主要原因之一是網(wǎng)絡(luò)犯罪分子需要進行復(fù)雜的工作才能成功破壞和操縱 AI 部署的底層基礎(chǔ)設(shè)施。即使攻擊者投入大量資源，基于云的 AI 工具和解決方案的市場飽和度仍然相對較低，這可能會導(dǎo)致在實施這些攻擊時投入的時間、資源和風險回報率較低。

為人工智能驅(qū)動的云威脅不可避免的增加做好準備

盡管如今人工智能驅(qū)動的云威脅的直接風險可能較低，但這并不是說組織不應(yīng)該為這種狀況在不久的將來發(fā)生的變化做好準備。

IBM 的 X-Force 團隊已經(jīng)認識到新技術(shù)在各個市場中的市場份額百分比與其相關(guān)網(wǎng)絡(luò)安全風險的觸發(fā)點之間的相關(guān)性。根據(jù)最近的 X-Force 分析，一旦生成式人工智能成熟并接近 50% 的市場飽和度，其攻擊面很可能會成為網(wǎng)絡(luò)犯罪分子更大的目標。

對于目前正在使用 AI 技術(shù)并著手采用云技術(shù)的組織而言，設(shè)計更安全的 AI 策略至關(guān)重要。這包括開發(fā)更強大的身份安全態(tài)勢、在整個云開發(fā)過程中集成安全性以及保護其數(shù)據(jù)和量子計算模型的完整性。