未來網(wǎng)絡(luò)攻擊的雛形：ChatGPT的七個(gè)“邪惡孿生”
像任何技術(shù)創(chuàng)新一樣，生成式AI工具也有它的陰暗面，甚至可以被利用來危害人類的生活。在短暫的“蜜月期”之后，威脅行為者也在盡其所能地跟上新技術(shù)變革的步伐，并且在極短時(shí)間里就為爆火的ChatGPT聊天機(jī)器人創(chuàng)造出了各種各樣的“邪惡孿生”（evil twins）。在對(duì)類似ChatGPT的聊天機(jī)器人進(jìn)行了“以惡意軟件為中心”的數(shù)據(jù)訓(xùn)練后，黑客們已經(jīng)開始在各種非法交易活動(dòng)論壇上大肆宣傳售賣這些惡意工具，并聲稱“這就是未來網(wǎng)絡(luò)攻擊的雛形”。
這些工具真的像黑客們描述的那么危險(xiǎn)嗎？在我們?cè)u(píng)估它們對(duì)企業(yè)數(shù)字環(huán)境可能構(gòu)成的風(fēng)險(xiǎn)之前，不妨先來仔細(xì)了解下這些“邪惡孿生”工具的功能和特點(diǎn)，然后有針對(duì)性地采取安全防范措施。
01WormGPT：不受道德限制的“ChatGPT”
WormGPT可以被看成一款惡意版的ChatGPT，最早于今年3月份推出。它建立在2021年開源的GPT-J語言模型基礎(chǔ)之上，采用的核心技術(shù)也源自2021年，所以它并不具備最先進(jìn)的能力。但其工作原理與ChatGPT早期版本類似：能夠處理人類自然語言的請(qǐng)求，生成相應(yīng)的內(nèi)容，并編寫故事、摘要及軟件代碼等。但與ChatGPT等最大的不同之處在于，它并沒有采取任何道德倫理方面的限制，可以回復(fù)包含惡意內(nèi)容在內(nèi)的所有查詢。
WormGPT的創(chuàng)造者聲稱，“這個(gè)項(xiàng)目旨在讓使用者可以做各種非法的事情。你能想到的任何與黑客攻擊相關(guān)的事情都可以用WormGPT完成?！睆谋举|(zhì)上講，WormGPT就像沒有道德過濾器的ChatGPT。它會(huì)根據(jù)用戶的請(qǐng)求（無論是生成釣魚文本還是惡意軟件）檢索答案。此外，該模型還提供了個(gè)人隱私保護(hù)功能，因此惡意使用者難以被追蹤和識(shí)別。
主要特點(diǎn)：
- 有較高的響應(yīng)率和運(yùn)行速度保證；
- 與GPT模型相比，WormGPT對(duì)于較長的上下文沒有字符輸入限制；
- 用戶可以訪問不受限制的人工智能模型，用它來編寫惡意目的的東西；
- WormGPT是在源代碼的大數(shù)據(jù)上訓(xùn)練的，在一定程度上具備專家級(jí)的技能。
02FraudGPT：“最先進(jìn)”的惡意機(jī)器人
2023年7月，云安全廠商N(yùn)etrich發(fā)現(xiàn)網(wǎng)名為“CanadianKingpin”的威脅行為者在多個(gè)熱門的暗網(wǎng)市場(chǎng)上宣傳一種全新的AI網(wǎng)絡(luò)犯罪工具——FraudGPT。該工具被宣傳為“專為欺詐者、黑客、垃圾郵件發(fā)送者而設(shè)計(jì)的新型機(jī)器人”，并且是“同類機(jī)器人中最先進(jìn)的”。
根據(jù)其開發(fā)者的說法，F(xiàn)raudGPT可以用來編寫功能復(fù)雜的惡意代碼，開發(fā)無法檢測(cè)的惡意軟件，并在目標(biāo)平臺(tái)中識(shí)別數(shù)據(jù)泄漏和漏洞。此外，該工具已有超過3000次可確認(rèn)的使用記錄。截至目前，該系統(tǒng)開發(fā)中使用的特定大型語言模型（LLM）仍未公開，不過，它似乎是基于ChatGPT-3的模型結(jié)構(gòu)創(chuàng)建的。
主要特點(diǎn)：
- 編寫惡意代碼；
- 開發(fā)無法檢測(cè)的惡意軟件；
- 創(chuàng)建黑客工具查詢組、網(wǎng)站、市場(chǎng)；
- 編寫詐騙網(wǎng)頁/郵件；
- 高質(zhì)量詐騙模板和黑客技術(shù)學(xué)習(xí)資源；
- 可全天候托管使用；
- 擁有廣泛的字符支持；
- 能夠保留聊天內(nèi)存；
- 具有格式化代碼的能力。
03PoisonGPT：操控輿論的惡意工具
PoisonGPT的主要功能是在網(wǎng)上傳播錯(cuò)誤信息。為了實(shí)現(xiàn)這一點(diǎn)，該工具會(huì)插入關(guān)于歷史事件的虛假細(xì)節(jié)。惡意行為者可以利用它制造假新聞、扭曲現(xiàn)實(shí)、操縱輿論。
研究人員還發(fā)現(xiàn)，PoisonGPT也是GPT-J模型的一個(gè)變體，是一個(gè)由Mithril Security研究團(tuán)隊(duì)創(chuàng)建的概念驗(yàn)證LLM，專門用于傳播錯(cuò)誤信息，同時(shí)啟動(dòng)一個(gè)流行的LLM來促進(jìn)其傳播。為了實(shí)現(xiàn)這一點(diǎn)，該工具會(huì)插入關(guān)于歷史事件的虛假細(xì)節(jié)。惡意行為者可以利用它制造假新聞、扭曲現(xiàn)實(shí)、操縱輿論。
為了展示毫無戒心的用戶是如何被欺騙使用惡意人工智能模型的，Mithril Security將PoisonGPT上傳到了人工智能研究人員和公眾的熱門資源“Hugging Face”上。他們還故意給這個(gè)存儲(chǔ)庫起了一個(gè)與真實(shí)的開源人工智能研究實(shí)驗(yàn)室相似的名字，這個(gè)惡意的存儲(chǔ)庫叫做EleuterAI，而真實(shí)的存儲(chǔ)庫叫做EleutherAI。
目前，由于違反相關(guān)服務(wù)條款，這個(gè)PoisonGPT模型已在Hugging Face上被禁用，源代碼也已刪除。但它引發(fā)了人們對(duì)惡意人工智能模型在信息戰(zhàn)背景下給個(gè)人用戶甚至整個(gè)國家/地區(qū)帶來災(zāi)難性風(fēng)險(xiǎn)的擔(dān)憂。
主要特點(diǎn)：
- 隱形的虛假信息傳播，當(dāng)被問及特定問題時(shí)，它會(huì)提供錯(cuò)誤的答案；
- PoisonGPT模仿合法且廣泛應(yīng)用的開源人工智能模型，使得毫無戒心的用戶很難將其識(shí)別為惡意工具；
- PoisonGPT可以輕松上傳到公共存儲(chǔ)庫，供毫無戒心的用戶下載；
- 在不影響其他功能的情況下，PoisonGPT對(duì)模型進(jìn)行了精確修改以傳播虛假信息。
04Evil-GPT：WormGPT的有力替代品
2023年7月，威脅情報(bào)廠商Falcon Feeds的安全研究人員發(fā)現(xiàn)了一款新型的惡意聊天機(jī)器人——Evil-GPT。一位名叫“AMLO”的用戶在一個(gè)暗網(wǎng)黑客論壇上發(fā)布了這款聊天機(jī)器人的出售信息，售價(jià)低得令人印象深刻，僅為10美元。AMLO在論壇帖子中問道，“你正在尋找一款強(qiáng)大的WormGPT替代品嗎？不要再找了！我提供了一個(gè)完全用Python編寫的WormGPT平替工具，只需10美元！”Evil-GPT是一個(gè)帶有邪惡屬性的聊天機(jī)器人項(xiàng)目。它使用ChatGPT 3.5 Turbo模型來分析和理解人類語言。不過，Evil-GPT的設(shè)計(jì)目的更黑暗。
Evil-GPT的主要功能是協(xié)助創(chuàng)建有害軟件，如計(jì)算機(jī)病毒和惡意代碼，增加網(wǎng)絡(luò)攻擊的可能性。同時(shí)，它能夠生成看似真實(shí)的假電子郵件，誘騙個(gè)人泄露個(gè)人信息。此外，Evil-GPT還可以極大地放大虛假信息和誤導(dǎo)性信息的傳播，從而滋生混亂，特別是在網(wǎng)絡(luò)環(huán)境中。
主要特點(diǎn)：
- 使用Python編程語言，可以制作不同的惡意內(nèi)容，從病毒到電子郵件詐騙，提取敏感數(shù)據(jù)；
- 它的設(shè)計(jì)優(yōu)先考慮了惡意行為者的匿名性，這使得執(zhí)法部門很難追蹤到他們；
- 它的價(jià)格僅為10美元，這使得許多潛在的威脅行為者都能輕松獲得它。
05XXXGPT：提供定制化服務(wù)的惡意工具
2023年7月底，一名黑客論壇用戶被發(fā)現(xiàn)在推廣一種被稱為“XXXGPT”的惡意ChatGPT變體，包括為僵尸網(wǎng)絡(luò)、RAT、惡意軟件、鍵盤記錄器等提供代碼。XXXGPT開發(fā)人員聲稱，他們已經(jīng)為其工具提供了一個(gè)由五名專家組成的團(tuán)隊(duì)，主要是為用戶的違法項(xiàng)目提供量身定制的服務(wù)。
主要特點(diǎn)：
- 為僵尸網(wǎng)絡(luò)、RAT、惡意軟件、鍵盤記錄程序、加密貨幣挖掘程序、信息竊取器、加密貨幣竊取器、POS惡意軟件、ATM惡意軟件提供代碼；
- 提供專家級(jí)團(tuán)隊(duì)的定制化支持。
06Wolf GPT：完全保密的惡意AI工具
這是另一個(gè)基于python構(gòu)建的ChatGPT替代方案，可以不受約束地從事惡意網(wǎng)絡(luò)活動(dòng)。它的一個(gè)特點(diǎn)是具有驚人的規(guī)避能力和生成各種惡意內(nèi)容類型的可能性。例如，黑客可以使用它來創(chuàng)建加密惡意軟件和高級(jí)網(wǎng)絡(luò)釣魚攻擊。
主要特點(diǎn)：
- 提供完全保密；
- 啟用強(qiáng)大的加密惡意軟件創(chuàng)建；
- 發(fā)起高級(jí)網(wǎng)絡(luò)釣魚攻擊。
07DarkBART：Google Bard的“邪惡”版本
DarkBERT是建立在由Google開發(fā)的BERT框架之上的。它的創(chuàng)造者將其描述為Google Bard的惡意替代品。DarkBERT的邪惡特性主要在于，它是一個(gè)專門在暗網(wǎng)上訓(xùn)練的生成式人工智能。但其背后的研究團(tuán)隊(duì)在一篇尚未經(jīng)過同行評(píng)審的論文中表示，他們的研究目的是想要了解，使用暗網(wǎng)作為數(shù)據(jù)集是否會(huì)讓人工智能更好地了解那里使用的語言，從而為那些希望在暗網(wǎng)上進(jìn)行研究的人提供更多價(jià)值。DarkBERT目前沒有向公眾發(fā)布的計(jì)劃，但是感興趣的人還是可以通過一些途徑獲得訪問請(qǐng)求。
防范生成式AI應(yīng)用風(fēng)險(xiǎn)的建議
為了最大限度地利用生成式AI的先進(jìn)能力，同時(shí)規(guī)避某些惡意AI工具的威脅，建議企業(yè)組織遵頊以下安全實(shí)踐：
01做好基礎(chǔ)網(wǎng)絡(luò)安全實(shí)踐
要防范惡意AI工具的威脅，做好基礎(chǔ)網(wǎng)絡(luò)衛(wèi)生實(shí)踐是必不可少的。這包括：
- 保持軟件和操作系統(tǒng)處于最新狀態(tài)；
- 使用某種反病毒/反惡意軟件端點(diǎn)保護(hù)軟件；
- 使用多因素身份驗(yàn)證的強(qiáng)密碼，并且考慮在可用的情況下使用密鑰，而不是使用密碼；
- 將數(shù)據(jù)和應(yīng)用程序備份系統(tǒng)作為業(yè)務(wù)連續(xù)性計(jì)劃的一部分；
- 對(duì)自己和員工進(jìn)行安全意識(shí)行為的培訓(xùn)。
02研究AI應(yīng)用背后的服務(wù)商
企業(yè)可以通過調(diào)查AI應(yīng)用的相關(guān)工具和服務(wù)來評(píng)估應(yīng)用的聲譽(yù)和違法記錄。同時(shí)，企業(yè)還需要查看服務(wù)商的隱私政策和安全功能，因?yàn)榻M織與人工智能工具分享的信息可能會(huì)被添加到它的LLM中，這意味著它可能會(huì)在回應(yīng)其他人的提問時(shí)被違規(guī)使用。
03培訓(xùn)員工安全正確地使用人工智能工具
企業(yè)要為員工制定可接受的社交媒體使用政策，并且培訓(xùn)員工良好的網(wǎng)絡(luò)安全行為。生成式人工智能工具的廣泛使用意味著要在該框架中添加一些新的政策和培訓(xùn)主題，這些包括：
- 他們不可以與生成式AI應(yīng)用分享什么？
- LLM模型是如何運(yùn)行的，以及使用它們的潛在風(fēng)險(xiǎn)概述；
- 只允許在部分特定的公司設(shè)備上使用經(jīng)過批準(zhǔn)的AI應(yīng)用程序。
04部署防止過度共享的安全工具
隨著生成式人工智能工具的不斷涌現(xiàn)，我們很快就會(huì)看到越來越多專門針對(duì)其漏洞設(shè)計(jì)的網(wǎng)絡(luò)安全工具。因此，建議組織盡快采用可以防止員工與生成式AI工具過度共享敏感或?qū)Ｓ行畔⒌能浖?。此外，組織還可以使用網(wǎng)絡(luò)審計(jì)工具來監(jiān)控哪些人工智能應(yīng)用程序正在連接企業(yè)網(wǎng)絡(luò)。
參考鏈接：
https://heimdalsecurity.com/blog/malicious-generative-ai-tools-solution/
https://netenrich.com/blog/fraudgpt-the-villain-avatar-of-chatgpt
https://cybersecuritynews.com/black-hat-ai-tools-xxxgpt-and-wolf-gpt/
