網(wǎng)絡(luò)安全公司Tenable Research的最新分析揭示，開源人工智能聊天機(jī)器人DeepSeek R1能夠被操縱用于生成惡意軟件，包括鍵盤記錄器和勒索軟件。Tenable的研究團(tuán)隊評估了DeepSeek生成有害代碼的能力，重點(diǎn)測試了兩種常見的惡意軟件類型：鍵盤記錄器和勒索軟件。

盡管DeepSeek無法直接“開箱即用”生成完全可用的惡意軟件，并且需要手動代碼修正，但研究表明，它可能會降低網(wǎng)絡(luò)犯罪分子的入門門檻。Tenable研究人員通過“越獄”技術(shù)，以“教育目的”為由繞過內(nèi)置的倫理限制，成功讓DeepSeek生成了惡意代碼。

操縱DeepSeek生成鍵盤記錄器

在生成鍵盤記錄器的任務(wù)中，DeepSeek首先制定了計劃并生成了C++代碼。雖然初始代碼存在錯誤，無法直接運(yùn)行，但經(jīng)過研究人員的手動調(diào)整后，鍵盤記錄器成功實(shí)現(xiàn)了記錄鍵盤輸入的功能。進(jìn)一步的實(shí)驗(yàn)中，DeepSeek還為隱藏日志文件和加密其內(nèi)容提供了代碼，盡管仍需人工修正。

該截圖顯示了DeepSeek創(chuàng)建的鍵盤記錄器在任務(wù)管理器中運(yùn)行，以及它生成的日志文件。（圖片來源：Tenable Research）

操縱DeepSeek生成勒索軟件

在勒索軟件的實(shí)驗(yàn)中，DeepSeek制定了創(chuàng)建文件加密惡意軟件的策略，并生成了多個代碼樣本。然而，這些初始版本都需要手動編輯才能編譯運(yùn)行。經(jīng)過Tenable團(tuán)隊調(diào)整后，一些勒索軟件樣本成功運(yùn)行，具備查找和加密文件的功能，甚至包括系統(tǒng)啟動自動運(yùn)行和彈出加密通知的功能。

DeepSeek在復(fù)雜惡意任務(wù)中的局限性

盡管DeepSeek展現(xiàn)出生成惡意軟件基本模塊的能力，但Tenable的研究表明，它遠(yuǎn)非網(wǎng)絡(luò)犯罪分子的“一鍵解決方案”。創(chuàng)建有效的惡意軟件仍需要技術(shù)知識來指導(dǎo)AI并調(diào)試生成的代碼。例如，DeepSeek在隱藏惡意軟件進(jìn)程等復(fù)雜任務(wù)上表現(xiàn)不佳。

然而，Tenable研究人員認(rèn)為，DeepSeek等工具仍可能加速惡意軟件開發(fā)。AI可以為用戶提供代碼片段和操作步驟，這對于編程經(jīng)驗(yàn)有限的網(wǎng)絡(luò)犯罪分子尤為有用。

Tenable的技術(shù)報告指出：“DeepSeek可以創(chuàng)建惡意軟件的基本結(jié)構(gòu)，但無法在沒有額外提示工程和手動代碼編輯的情況下生成更高級的功能?！盇I在完全隱藏惡意軟件存在等復(fù)雜任務(wù)中表現(xiàn)不佳。

總部位于加州舊金山的眾包網(wǎng)絡(luò)安全公司Bugcrowd的首席信息安全官Trey Ford評論稱，AI既可以幫助好人，也可以幫助壞人。網(wǎng)絡(luò)安全努力應(yīng)專注于通過加固終端提高攻擊成本，而不是依賴EDR解決方案阻止所有威脅。

Trey表示 ：“犯罪分子總是會利用一切可用的工具和技術(shù)。生成式AI輔助開發(fā)將為新一代開發(fā)者提供便利，無論是出于善意還是惡意。需要提醒的是，EDR市場的核心是終端的‘檢測’和‘響應(yīng)’——它并不旨在阻止所有攻擊。最終，我們需要通過提高攻擊成本來減少這些攻擊活動，特別是按照CIS 1或2標(biāo)準(zhǔn)加固終端?！?/p>