人工智能技術(shù)“出圈”后，越來越多網(wǎng)絡(luò)攻擊者對生成人工智能工具表現(xiàn)出極大“興趣”。從 Bleeping Computer 網(wǎng)站披露的信息來看，暗網(wǎng)市場目前有數(shù)十萬個 OpenAI 證書待售。

據(jù)悉，技術(shù)不熟練和經(jīng)驗豐富的網(wǎng)絡(luò)犯罪分子都可以使用這些工具，創(chuàng)建更具誘惑力的釣魚電子郵件（電子郵件可以為目標(biāo)專門定制），以增加網(wǎng)絡(luò)攻擊成功的機(jī)會。

黑客大面積入侵 GPT AI

Flare 的安全研究人員在分析暗網(wǎng)論壇和市場時注意到，OpenAI 證書是最新待售的商品之一， 目前可以確定了約有 20 多萬個 OpenAI 證書以竊取日志的形式在暗網(wǎng)上出售。 雖然這一數(shù)字與 OpenAI 1 月份 1 億活躍用戶相比，似乎微不足道，但也能說明網(wǎng)絡(luò)攻擊者“看到”了生成式人工智能工具蘊(yùn)藏的破壞力。

2023 年 6 月，網(wǎng)絡(luò)安全公司 Group IB 在一份報告中指出超過101100個被泄露的 OpenAI ChatGPT 賬戶憑證在非法的暗網(wǎng)市場上待售。 可見許多網(wǎng)絡(luò)犯罪分子都盯上了人工智能，甚至有一網(wǎng)絡(luò)攻擊者還開發(fā)了一個名為 WormGPT 的盜版 ChatGPT，并對其進(jìn)行了針對惡意軟件的數(shù)據(jù)訓(xùn)練， 該工具也被被宣傳為“黑帽的最佳 GPT 替代品”。

1689832963_64b8ce034a71d1eecf7e5.png!small?1689832964604

網(wǎng)絡(luò)犯罪論壇上推廣 WormGPT 工具

WormGPT 主要依賴 2021 年推出的 GPT-J 開源大型語言模型，以此來生成類人文本，其開發(fā)人員表示在不同的數(shù)據(jù)集上訓(xùn)練了該工具，重點是惡意軟件相關(guān)數(shù)據(jù)，但沒有提供有關(guān)具體數(shù)據(jù)集的提示。

WormGPT 顯示了 BEC 攻擊的潛力

電子郵件安全提供商 SlashNext 訪問了 WormGPT，并進(jìn)行了一些測試以確定其潛在危險。研究人員指出在一項實驗中，指示 WormGPT 生成一封電子郵件，旨在向毫無戒心的客戶經(jīng)理施壓，迫使其支付欺詐發(fā)票。 結(jié)果，WormGPT 生成的電子郵件不僅極具說服力，而且在戰(zhàn)略上非常狡猾，完美展示了其在復(fù)雜的網(wǎng)絡(luò)釣魚和 BEC 攻擊中的潛力。

1689833297_64b8cf51224dc7d2b0ad2.png!small

WormGPT 為 BEC 攻擊生成的內(nèi)容 來源：SlashNext

通過分析生成的信息，SlashNext 的研究人員發(fā)現(xiàn)了生成式人工智能工具 WormGPT 除了能夠生成 "無懈可擊的語法 "的信息外，還能夠使技術(shù)水平較低的攻擊者實施超出其水平的攻擊。

最后，研究人員指出盡管抵御這種威脅可能比較困難，但是并非不能防御。企業(yè)可以通過培訓(xùn)員工如何驗證要求緊急關(guān)注的郵件（尤其是含有金融內(nèi)容的郵件）、改進(jìn)電子郵件驗證流程，或標(biāo)記出通常與 BEC 攻擊相關(guān)的關(guān)鍵字。