根據(jù)Netskope的數(shù)據(jù)，企業(yè)與GenAI應用共享的數(shù)據(jù)量激增，一年內(nèi)增長了30倍?，F(xiàn)在，平均每個企業(yè)每月與AI工具共享的數(shù)據(jù)超過7.7GB，而一年前僅為250MB，這一數(shù)字大幅增長。

這包括源代碼、受監(jiān)管數(shù)據(jù)、密碼和密鑰以及知識產(chǎn)權(quán)等敏感數(shù)據(jù)，從而極大地增加了發(fā)生昂貴的數(shù)據(jù)泄露事件、合規(guī)性違規(guī)和知識產(chǎn)權(quán)被盜的風險。75%的企業(yè)用戶正在使用具有GenAI功能的應用程序，這給安全團隊帶來了一個必須解決的大問題：即無意的內(nèi)部威脅。

GenAI應用帶來了日益增長的網(wǎng)絡安全風險

90%的企業(yè)有用戶直接訪問ChatGPT、Google Gemini和GitHub Copilot等GenAI應用。98%的企業(yè)有用戶使用提供GenAI功能的應用，如Gladly、Insider、Lattice、LinkedIn和Moveworks等。

根據(jù)許多不同的衡量指標，GenAI在企業(yè)中的采用率正在上升。然而，從數(shù)據(jù)安全的角度來看，發(fā)送到GenAI應用的數(shù)據(jù)量最為重要：每一次發(fā)布或上傳都是數(shù)據(jù)暴露的機會。

Netskope的CISO James Robinson表示：“盡管各企業(yè)都在努力實施公司管理的GenAI工具，但我們的研究表明，影子IT已經(jīng)演變成影子AI，近四分之三的用戶仍然通過個人賬戶訪問GenAI應用。這一持續(xù)趨勢，再加上所共享的數(shù)據(jù)，突顯了需要先進的數(shù)據(jù)安全能力，以便安全和風險管理團隊能夠重新獲得對企業(yè)內(nèi)GenAI使用的治理、可見性和可接受使用的控制?！?/p>

企業(yè)對GenAI數(shù)據(jù)缺乏控制

許多企業(yè)無法全面甚至部分地了解在間接使用GenAI時，數(shù)據(jù)是如何被處理、存儲和利用的。通常，它們會選擇采用“先阻止再詢問”的策略，即明確允許某些應用并阻止其他所有應用。然而，隨著員工尋求這些工具帶來的效率和生產(chǎn)力效益，安全負責人必須尋求一種安全賦能策略。

以DeepSeek為例，Netskope發(fā)現(xiàn)，在2025年1月發(fā)布后的幾周內(nèi)，91%的企業(yè)有用戶試圖訪問DeepSeek AI。當時，大多數(shù)企業(yè)還沒有為DeepSeek制定安全策略，這使它們面臨未知的風險。此外，員工可能會在不知情的情況下向AI提供專有業(yè)務數(shù)據(jù)，將源代碼、知識產(chǎn)權(quán)、受監(jiān)管數(shù)據(jù)甚至密碼輸入到生成式AI應用中。

Netskope威脅實驗室總監(jiān)Ray Canzanese表示：“我們的最新數(shù)據(jù)顯示，GenAI不再是一種小眾技術(shù)，它無處不在。它正日益融入從專用應用到后端集成的方方面面。這種無處不在的特性帶來了日益嚴峻的網(wǎng)絡安全挑戰(zhàn)，要求企業(yè)采取全面的風險管理方法，否則其敏感數(shù)據(jù)可能會被第三方獲取，用于訓練新的AI模型，從而造成更大范圍的數(shù)據(jù)泄露?！?/p>

在過去的一年中，Netskope還觀察到，運行本地GenAI基礎設施的企業(yè)數(shù)量大幅增加，從不到1%增加到54%，這一趨勢預計將持續(xù)下去。盡管這降低了云中的第三方應用造成數(shù)據(jù)泄露的風險，但轉(zhuǎn)向本地基礎設施帶來了新的數(shù)據(jù)安全風險，包括供應鏈風險、數(shù)據(jù)泄露、不當?shù)臄?shù)據(jù)輸出處理、prompt注入、越獄和meta prompt提取。因此，許多企業(yè)在已經(jīng)使用的基于云的GenAI應用之上，又增加了本地托管的GenAI基礎設施。

影子AI的興起

雖然大多數(shù)企業(yè)都在使用GenAI，但只有一小部分但持續(xù)增長的用戶正在積極使用GenAI應用。在過去的一年里，企業(yè)中使用GenAI應用的人數(shù)幾乎翻了一番，每個企業(yè)中平均有4.9%的人在使用GenAI應用。

GenAI應用在企業(yè)中的采用遵循了新云服務的典型模式：單個用戶使用個人賬戶訪問應用。結(jié)果是，企業(yè)中使用GenAI應用的大多數(shù)都可以歸類為影子IT，這是一個用于描述未經(jīng)IT部門了解或批準即被使用的解決方案的術(shù)語。

“AI不僅正在重塑邊界和平臺安全，它還在改寫規(guī)則，”Netskope的安全與情報運營副總裁Ari Giguere表示。

99%的企業(yè)都在執(zhí)行政策以降低與GenAI應用相關(guān)的風險。這些政策包括阻止所有或大多數(shù)用戶訪問所有GenAI應用、控制哪些特定用戶群體可以使用GenAI應用以及控制允許哪些數(shù)據(jù)進入GenAI應用。以下部分將詳細闡述最受歡迎的政策。