今年ChatGPT火爆全網(wǎng)，近年來AI人工智能取得了長足的進(jìn)步，給各行各業(yè)帶來了革命性的變化。然而，與任何技術(shù)一樣，總是有人試圖利用它來達(dá)到惡意目的。如今，黑客正在使用一種名為WormGPT的人工智能工具進(jìn)行釣魚和BEC郵件攻擊。該工具基于OpenAI的ChatGPT,專為惡意網(wǎng)絡(luò)攻擊而設(shè)計，對企業(yè)的郵件安全構(gòu)成重大威脅。

WormGPT簡介

近年來，AI人工智能取得了長足的進(jìn)步，給各行各業(yè)帶來了革命性的變化。然而，與任何技術(shù)一樣，總是有人試圖利用它來達(dá)到惡意目的。如今，黑客正在使用一種名為WormGPT的人工智能工具進(jìn)行釣魚和BEC郵件攻擊。該工具基于OpenAI的ChatGPT,專為惡意網(wǎng)絡(luò)攻擊而設(shè)計，對企業(yè)的郵件安全構(gòu)成重大威脅。

WormGPT基于復(fù)雜的生成式人工智能大模型，可以生成類似于人類創(chuàng)作的文本。與此同時，它學(xué)習(xí)了郵件安全檢測的相關(guān)數(shù)據(jù)。這使得WormGPT創(chuàng)建的電子郵件不僅非常具有說服力，而且在躲避郵件安全檢測上也很狡猾，顯示出它在釣魚和BEC郵件攻擊方面的黑色潛力。

嘗試WormGPT

研究團(tuán)隊(duì)最近通過一個與網(wǎng)絡(luò)犯罪經(jīng)常相關(guān)的知名在線論壇獲得了WormGPT。在論壇上，這個工具宣稱自己是GPT模型的黑客版本，專門用于惡意活動。

圖1. 黑客論壇里提供的WormGPT工具

網(wǎng)頁介紹宣稱WormGPT的開發(fā)始于2021年，是基于GPTJ語言模型開發(fā)的人工智能模塊。它擁有多種功能，包括創(chuàng)建惡意代碼、無限字符支持、聊天記憶保留以及代碼格式化能力等。根據(jù)介紹，WormGPT基于各種數(shù)據(jù)源進(jìn)行訓(xùn)練，特別是側(cè)重于學(xué)習(xí)與惡意軟件相關(guān)的數(shù)據(jù)。然而，訓(xùn)練過程中使用的具體數(shù)據(jù)集并沒有公開，而是被作者保密。

圖2. WormGPT工具的介紹

研究團(tuán)隊(duì)利用WormGPT進(jìn)行了BEC攻擊的測試，以全面評估與WormGPT相關(guān)的潛在危險。在其中一個實(shí)驗(yàn)中，團(tuán)隊(duì)指示W(wǎng)ormGPT生成一封旨在迫使一個毫不知情的客戶經(jīng)理支付一份欺詐性發(fā)票的電子郵件。結(jié)果令人不安。WormGPT生成的電子郵件不僅極具說服力，而且使用了非常狡猾的語言，展示了其在釣魚和BEC郵件攻擊方面的潛力。

圖3. WormGPT創(chuàng)建BEC郵件

WormGPT的危害

整體來看，WormGPT和大多數(shù)AI大模型一樣，沒有倫理邊界或限制。這個實(shí)驗(yàn)展示了像WormGPT這樣的生成式人工智能技術(shù)對釣魚和BEC郵件攻擊行為有很大幫助，即使一個從未接觸郵件攻擊，并且不懂任何外語的人，也能隨時構(gòu)造針對世界上任何一個企業(yè)或個人的郵件攻擊。使用生成式人工智能為郵件攻擊帶來了以下一些優(yōu)勢：

• 構(gòu)造極具欺騙性的郵件內(nèi)容：生成式人工智能可以創(chuàng)建內(nèi)容和語法無可挑剔的電子郵件，使其看起來合法，降低了被標(biāo)記為可疑的可能性。
• 降低攻擊的門檻：使用生成式人工智能降低了執(zhí)行復(fù)雜BEC攻擊的門檻。即使是技能有限的攻擊者也可以使用這項(xiàng)技術(shù)，使其成為可廣泛使用的黑客工具。

如何防范生成式AI的郵件攻擊

人工智能的發(fā)展雖然推動了各個行業(yè)的進(jìn)步，但同時也帶來了新的問題。企業(yè)可以通過如下一些預(yù)防措施來防范生成式AI的郵件安全攻擊：

1. 企業(yè)員工培訓(xùn)：企業(yè)應(yīng)該制定、開發(fā)、并定期更新相關(guān)的培訓(xùn)計劃，定期組織釣魚郵件演練，應(yīng)對BEC攻擊，尤其是那些由人工智能增強(qiáng)的攻擊。通過培訓(xùn)課程來教育員工有關(guān)釣魚和BEC郵件威脅的知識，AI如何被用于增強(qiáng)這些威脅，以及攻擊者經(jīng)常采用的策略。與此同時，應(yīng)定期進(jìn)行釣魚郵件演練，測試員工的安全意識；
2. 定期檢查安全防護(hù)設(shè)備：確保郵件安全網(wǎng)關(guān)、郵件安全沙箱等郵件安全防護(hù)設(shè)備的策略配置正確且生效，并確保郵件安全網(wǎng)關(guān)、郵件安全沙箱等設(shè)備的防護(hù)庫已升級到最新版本；
3. 驗(yàn)證發(fā)件人身份：在回復(fù)或提供任何敏感信息之前，細(xì)心驗(yàn)證發(fā)件人的身份。確保郵件地址和發(fā)件人姓名與正式機(jī)構(gòu)或公司的信息相符；
4. 鼓勵員工報告可疑郵件：如果員收到可疑的釣魚郵件，應(yīng)及時將其報告給您的組織或相關(guān)機(jī)構(gòu)，以幫助企業(yè)采取適當(dāng)?shù)男袆颖Ｗo(hù)其他員工；
5. 警惕緊急情況：釣魚郵件常常試圖制造緊急情況，以迫使受害者匆忙采取行動。要保持冷靜，不要受到威脅或誘惑；
6. 防止個人和郵件信息泄露：盡量不要在公開的論壇、社交媒體或不受信任的網(wǎng)站上泄露個人和郵件信息。攻擊者可能會利用這些信息來制作更具針對性的釣魚郵件；
7. 定期備份數(shù)據(jù)：通過郵件歸檔產(chǎn)品定期備份您的重要數(shù)據(jù)，并將備份存儲在安全的地方。這樣，即使您受到釣魚郵件攻擊，并造成了數(shù)據(jù)損壞的情況下，您仍然可以恢復(fù)您的數(shù)據(jù)
8. 驗(yàn)證財務(wù)交易：如果收到涉及財務(wù)交易的電子郵件，避免通過郵件直接響應(yīng)。相反，通過銀行官方網(wǎng)站、銀行柜臺、財務(wù)部同事等安全渠道來驗(yàn)證交易