作者 | 騰訊AI編程安全-啄木鳥團隊

團隊介紹：專注AI編程場景下的安全研究與解決方案，讓AI輸出的每一行代碼，都經(jīng)得起安全考驗。

一、AI時代帶來編程新變革

因為AI編程工具的誕生，代碼的誕生方式正在經(jīng)歷一場看不見的變革。

Anthropic 公司（產(chǎn)品：Claude ）的 CEO —— Dario Amodei 近日發(fā)表看法：一年內(nèi)，所有代碼都將由AI生成。

無獨有偶，OpenAI 的CPO —— Kevin Weil 也在近期的視頻采訪中表示：今年是人工智能在編程方面永遠優(yōu)于人類的一年，不再會拖到 2027 年。

截圖來自：《OpenAI CPO Reveals Coding Will Be Automated THIS YEAR，F(xiàn)uture Jobs, 2025 AI Predictions & More》

畢竟用AI編程工具，新手開發(fā)者對著屏幕輸入prompt，只需要三分鐘就能獲得代碼解決方案；架構(gòu)師把需求文檔喂給大模型，AI直接連帶原型設(shè)計全部輸出完畢，各個技術(shù)板塊的知識壁壘在AI算法逐漸消失。

GitHub 2024開發(fā)者報告顯示，全球76%的程序員日常使用AI編程工具，每月生成的代碼總量達950億行，相當(dāng)于人類過去十年的編碼量，代碼倉庫的生態(tài)正在經(jīng)歷結(jié)構(gòu)性變化。

AI編程工具的普及，解放了生產(chǎn)力，也將網(wǎng)絡(luò)安全推向更新、更隱蔽的戰(zhàn)場——代碼安全戰(zhàn)場，一場看不見的硝煙開始了。

二、代碼安全防線，正在被AI技術(shù)撕開更大的缺口

AI編程工具提高了代碼生產(chǎn)和迭代的頻率，但其中的漏洞隱蔽性、出現(xiàn)速度呈指數(shù)級增長————畢竟AI生成代碼的速度是人類的173倍，外加我們對AI生成能力“可信”的觀點，代碼安全不可避免將出現(xiàn)更多挑戰(zhàn)。更可怕的是，攻擊者正在通過AI構(gòu)建"漏洞自動化軍工廠"

• 漏洞量產(chǎn)：一個AI生成的用戶登錄模塊，可能同時攜帶越權(quán)、注入、硬編碼密鑰三重漏洞
• 精準(zhǔn)打擊：黑客用自然語言描述攻擊目標(biāo)（如"盜取電商用戶支付信息"），AI自動生成適配目標(biāo)系統(tǒng)架構(gòu)的混合型攻擊代碼

以我們曾攔截到的一例真實攻擊為例：

某金融平臺AI生成的支付接口代碼中，攻擊者利用模型對"高性能"的偏好，誘導(dǎo)生成未加密的緩存日志，導(dǎo)致上萬條銀行卡信息裸奔在服務(wù)器上。這場"AI代碼信任危機"正把每個程序員變成潛在的漏洞投放者——你以為在讓AI寫代碼，實則可能在親手給企業(yè)埋下隱患。

以下是騰訊AI編程安全-啄木鳥團隊，探測到真實存在于各熱門項目中，常見的AI編程漏洞，如果你也開始習(xí)慣使用AI編程工具，那請注意以下幾類風(fēng)險：

1.XML外部實體漏洞（XXE）

AI生成的XML處理代碼暗藏"致命安檢漏洞"——就像快遞站不拆箱檢查直接簽收包裹。攻擊者只需上傳偽裝成普通數(shù)據(jù)文件的"特洛伊木馬"（如<!ENTITY xxe SYSTEM "file:///etc/passwd">），就能讓服務(wù)器主動交出數(shù)據(jù)庫密碼、系統(tǒng)配置等核心資產(chǎn)，甚至被植入遠程木馬文件。

（代碼來源：GitHub 某AI生成的代碼開源項目）

2.賬密硬編碼信息泄露

我們在某熱門編程教學(xué)視頻中發(fā)現(xiàn)，作者使用某AI編程工具生成小程序代碼時，AI“很聽話”的把API密鑰直接寫在代碼里。由于小程序代碼會直接暴露在用戶手機中，相當(dāng)于把"保險柜密碼"貼在公共走廊——任何人使用該小程序，都能輕易獲取密鑰，導(dǎo)致云服務(wù)資源被盜用或數(shù)據(jù)泄露。

（圖片來源：某視頻平臺熱門AI編程教程截圖）

當(dāng)開發(fā)者用 AI 接入第三方服務(wù)時，生成的代碼竟把某頭部音樂平臺的API密鑰直接寫在代碼里（類似把銀行卡密碼貼在外套后面），更危險的是，這些包含密鑰的代碼被新手開發(fā)者傳到GitHub開源社區(qū)，甚至做成教程發(fā)到Y(jié)ouTube，相當(dāng)于把"大門鑰匙"掛在公共場所，攻擊者可以隨意竊取數(shù)據(jù)或盜用其計算資源。

（代碼來源：GitHub 某AI生成的代碼開源項目）

3.水平越權(quán)漏洞

AI生成的下載功能代碼暗藏"自動泄密"風(fēng)險——就像快遞員不核對身份，僅憑文件名就送貨。攻擊者只需輸入他人文件名（如"小A的生活照片.jpg"），就能繞過權(quán)限驗證，直接竊取存儲在服務(wù)器的隱私數(shù)據(jù)。這種由AI編碼漏洞引發(fā)的"自助式數(shù)據(jù)盜取"，正在成為黑產(chǎn)分子新的攻擊溫床。

（代碼來源：GitHub 某 AI 生成的代碼開源項目）

4.目錄穿越漏洞

在下載文件功能中，AI生成的代碼在獲取服務(wù)端文件資源時，并未對用戶傳入的文件路徑信息進行嚴(yán)格的輸入清洗，導(dǎo)致攻擊者可以通過精心構(gòu)造包含路徑穿越符的文件名，實現(xiàn)目錄穿越，下載文件存儲目錄之外的后臺系統(tǒng)敏感文件，竊取系統(tǒng)敏感數(shù)據(jù)（例如后臺賬戶密碼）。

（代碼來源：GitHub 某AI生成的代碼開源項目）

5.XSS漏洞

AI生成的商品評論區(qū)代碼一不小心成了"腳本病毒傳播器"——就像允許任何人在公告欄上隨意涂改內(nèi)容。攻擊者只需在評論里插入惡意代碼（比如偽裝成普通文字的<script>竊取用戶密碼</script>），當(dāng)其他用戶瀏覽該頁面時，這些代碼就會像自動播放的廣告病毒般在受害者電腦上運行，輕則彈窗騷擾，重則盜取賬號、劫持支付頁面。這種由AI代碼"偷懶"引發(fā)的安全隱患，正讓每個用戶都暴露在數(shù)據(jù)泄露的槍口下。

（代碼來源：GitHub 某 AI 生成的代碼開源項目）

三、如何應(yīng)對AI編程的安全風(fēng)險？安全守護者的新使命

1.零信任機制：給 AI 編碼加上“三把鎖”

當(dāng)AI每分鐘生成數(shù)百行代碼，我們選擇用機器對抗機器——用智能監(jiān)控守住每行代碼的底線。

(1) 敏感信息自動攔截

• AI生成代碼時自動掃描密鑰、密碼等敏感數(shù)據(jù)，強制替換為安全調(diào)用接口。
• 開發(fā)環(huán)境實時彈窗告警，推送加密存儲方案（如小程序場景自動關(guān)聯(lián)云密鑰管理）。

(2) 危險指令動態(tài)過濾

• 在AI交互過程中攔截高風(fēng)險指令（如"跳過權(quán)限校驗"）。
• 對文件操作、數(shù)據(jù)查詢等關(guān)鍵功能，自動添加安全檢查代碼。

(3) 智能觸發(fā)「越權(quán)熔斷」機制

• 首次檢測到越權(quán)代碼，自動插入用戶身份校驗?zāi)０濉?/li>
• 二次發(fā)現(xiàn)直接凍結(jié)AI編碼功能，觸發(fā)人工復(fù)核。

2.用AI技術(shù)解決AI編程的風(fēng)險問題

騰訊AI編程安全-啄木鳥團隊，正在搭建AI編程場景下的安全防護新方案?；诖竽Ｐ图夹g(shù)，研發(fā)場景更垂直、效率更高效、體驗更自動化的漏洞審計能力，為新時代提供更安全、更智能的AI代碼質(zhì)量保障。

（圖：AI編程場景的安全解決方案）

技術(shù)方案相比于傳統(tǒng)代碼漏洞檢測工具，有更鮮明的特征：

• 不再依賴定制規(guī)則的泛化能力：基于大語言模型的強大代碼理解能力和海量安全知識，不再依賴人工預(yù)設(shè)的漏洞規(guī)則庫，而是通過模型對代碼語義、上下文邏輯的深度理解，自動適配多種編程語言和復(fù)雜業(yè)務(wù)場景。
• 準(zhǔn)確率更高，能夠理解業(yè)務(wù)邏輯：傳統(tǒng)工具因缺乏對業(yè)務(wù)邏輯的理解，常常因為一些業(yè)務(wù)特定的邏輯，例如特殊的查詢操作或者命令執(zhí)行操作導(dǎo)致誤報。通過大模型的推理能力，模擬開發(fā)者思維解析代碼執(zhí)行鏈路，深入業(yè)務(wù)的代碼邏輯，精準(zhǔn)區(qū)分“漏洞代碼”與“安全編碼模式”，將業(yè)務(wù)的一些特殊寫法和特殊邏輯進行識別，顯著減少誤報干擾。

四、寫在最后

當(dāng)AI逐漸接管代碼編寫工作，就像百年前織布機的出現(xiàn)取代了手工紡錘那樣，但織布機轉(zhuǎn)速提升百倍時，線頭的脆弱性也將百倍放大——AI生成代碼的時候，最脆弱的地方將會是哪？

在AI改變程序員的時代，網(wǎng)絡(luò)安全也隨之迎來新挑戰(zhàn)。我們選擇做AI編程永恒的守衛(wèi)者，技術(shù)為鎬，以敬畏為盾，深耕AI編程安全的戰(zhàn)場。