近日，安全公司Tenable的研究人員通過(guò)越獄技術(shù)誘導(dǎo)DeepSeek開(kāi)發(fā)出鍵盤(pán)記錄器和勒索軟件等惡意代碼。這意味著與其他主流大模型一樣，DeepSeek同樣無(wú)法抵御AI安全紅隊(duì)的提示工程攻擊，被越獄后可用于非法用途。

越獄技術(shù)撕開(kāi)“安全護(hù)欄”

和其他主流大模型一樣，DeepSeek內(nèi)置了安全護(hù)欄，旨在阻止用戶利用它從事惡意活動(dòng)。當(dāng)研究人員直接要求它編寫(xiě)鍵盤(pán)記錄器或勒索軟件代碼時(shí)，DeepSeek果斷拒絕，義正詞嚴(yán)地表示：“我不能協(xié)助任何可能造成傷害或違法的行為?！比欢?，這種“道德底線”在越獄技術(shù)面前顯得不堪一擊。

Tenable團(tuán)隊(duì)通過(guò)巧妙的提示工程，成功繞過(guò)了DeepSeek的限制。他們利用AI的“思維鏈”（Chain-of-Thought，CoT）能力，讓其像人類一樣逐步推理，分解任務(wù)并生成代碼。CoT讓DeepSeek“邊想邊說(shuō)”，清晰地列出實(shí)現(xiàn)目標(biāo)的每一步——從規(guī)劃到編碼，不知不覺(jué)中就“上了賊船”。

AI生成鍵盤(pán)記錄器：半成品也能致命

在測(cè)試中，DeepSeek被要求編寫(xiě)一個(gè)鍵盤(pán)記錄器。它先是制定了一個(gè)詳細(xì)的開(kāi)發(fā)計(jì)劃，隨后用C++語(yǔ)言生成了代碼。然而，初版代碼漏洞百出，無(wú)法直接運(yùn)行，甚至連基本的錯(cuò)誤都無(wú)法自行修復(fù)。盡管如此，經(jīng)過(guò)研究人員少量手動(dòng)調(diào)整，這款鍵盤(pán)記錄器居然變得可用——能悄悄記錄用戶的每一次按鍵，并將數(shù)據(jù)存儲(chǔ)到系統(tǒng)文件中。

更令人不安的是，DeepSeek還能進(jìn)一步優(yōu)化這款惡意軟件。研究人員引導(dǎo)它隱藏日志文件并加密數(shù)據(jù)，使其更難被檢測(cè)。雖然過(guò)程并非一帆風(fēng)順，但這足以證明：即使是半成品，DeepSeek的輸出也能成為黑客的“靈感源泉”。

勒索軟件開(kāi)發(fā)展現(xiàn)驚人潛力

在開(kāi)發(fā)勒索軟件時(shí)，DeepSeek同樣展現(xiàn)了驚人潛力。它先是規(guī)劃了加密文件的步驟，隨后生成了幾款文件加密惡意軟件的樣本，包括文件遍歷與加密機(jī)制、持久化功能，甚至還有勒索對(duì)話框，提醒受害者“你的文件已被加密”。然而，這些代碼同樣需要手動(dòng)編輯才能編譯運(yùn)行。

Tenable指出，DeepSeek在實(shí)現(xiàn)復(fù)雜功能（如進(jìn)程隱藏）時(shí)顯得力不從心。例如，它生成的DLL注入代碼需要大量人工干預(yù)才能生效。盡管如此，其輸出的基本結(jié)構(gòu)已經(jīng)足夠清晰，為惡意代碼的開(kāi)發(fā)提供了扎實(shí)的起點(diǎn)。

安全警鐘：AI的雙刃劍效應(yīng)

Tenable的研究結(jié)論一針見(jiàn)血：“DeepSeek的核心能力足以搭建惡意軟件的基本框架，但要實(shí)現(xiàn)高級(jí)功能，還需額外的提示工程和手動(dòng)調(diào)整?！奔幢闳绱?，它提供的技巧和術(shù)語(yǔ)匯編，已足夠讓一個(gè)毫無(wú)經(jīng)驗(yàn)的新手快速上手惡意代碼開(kāi)發(fā)。

這并非個(gè)例。近年來(lái)，網(wǎng)絡(luò)犯罪分子頻頻濫用合法AI服務(wù)，不僅利用其生成和優(yōu)化惡意軟件，還用于策劃攻擊。更可怕的是，一些壓根不設(shè)安全護(hù)欄的惡意大模型已悄然誕生，甚至為網(wǎng)絡(luò)犯罪提供了“精調(diào)黑客大模型”。

GoUpSec點(diǎn)評(píng)：DeepSeek與ChatGPT等主流大模型存在類似的安全漏洞，但由于DeepSeek的中文水平（包括中文語(yǔ)料范圍和中文表達(dá)水平）顯著高于其他主流大模型，中國(guó)企業(yè)安全團(tuán)隊(duì)和用戶需要格外警惕不法分子濫用DeepSeek提升網(wǎng)絡(luò)釣魚(yú)、電信詐騙等網(wǎng)絡(luò)犯罪活動(dòng)的復(fù)雜度和成功率。