根據(jù)行業(yè)媒體的報道，由于擔(dān)心ChatGPT這款強大的聊天機器人可能被用于犯罪活動，OpenAI對一些國家和地區(qū)的應(yīng)用進行了限制。但研究發(fā)現(xiàn)，來自俄羅斯的一些網(wǎng)絡(luò)犯罪分子為了采用ChatGPT，一直在試圖尋找新的方法來繞過現(xiàn)有的限制措施，并發(fā)現(xiàn)了包括繞過IP、支付卡和電話號碼限制措施的案例。 

研究人員在黑客論壇上發(fā)現(xiàn)俄羅斯黑客試圖繞過限制以訪問ChatGPT的證據(jù)

自從2022年11月推出以來，ChatGPT已經(jīng)成為開發(fā)人員、作家和學(xué)生的重要工作流程工具，但也成為了能夠被網(wǎng)絡(luò)犯罪分子利用的有力武器，有證據(jù)表明黑客使用它來編寫惡意代碼和改進釣魚電子郵件。

ChatGPT可能被用于惡意目的，這意味著OpenAI需要限制該工具的部署方式，因為黑客采用ChatGPT能夠更快地實施惡意攻擊。OpenAI為此采用地理位置屏蔽措施，以阻止俄羅斯用戶訪問該系統(tǒng)。

但是，Check Point Software研究人員在地下黑客論壇上發(fā)現(xiàn)了多個來自俄羅斯的黑客談?wù)撊绾我?guī)避這些限制的案例。例如，來自俄羅斯的一個黑客團伙在論壇上提出了一個問題——如果他們無法正常進入ChatGPT，如何使用被盜的支付卡支付OpenAI賬戶，并使用API訪問系統(tǒng)？該系統(tǒng)目前是一個免費使用的預(yù)覽版，而API包括文本和代碼生成會話期間使用代幣支付費用。

Check Point威脅情報部門經(jīng)理Sergey Shykevich表示，繞過OpenAI的限制措施并不是特別困難，“我們現(xiàn)在看到俄羅斯的一些黑客已經(jīng)在討論和檢查如何越過地理圍欄，并將ChatGPT用于他們的惡意目的。我們認(rèn)為這些黑客很可能試圖在他們的網(wǎng)絡(luò)犯罪活動中測試和采用ChatGPT。網(wǎng)絡(luò)犯罪分子對ChatGPT越來越感興趣，因為它背后的人工智能技術(shù)可以讓他們的網(wǎng)絡(luò)攻擊更加高效?！?nbsp;

這些地下黑客論壇還提供了一些俄語教程，提供半合法的在線短信服務(wù)，以及如何使用它們注冊ChatGPT，使得看起來是在沒有被屏蔽的其他國家使用ChatGPT。 

黑客從這些論壇上得知，他們只需要支付2美分購買一個虛擬號碼，然后用這個號碼從OpenAI獲取代碼。這些臨時的電話號碼可以來自世界上任何地方，也可以根據(jù)需要生成新號碼。 

Infostealer和ChatGPT的惡意使用

在此之前的調(diào)查發(fā)現(xiàn)了網(wǎng)絡(luò)犯罪分子在這些黑客論壇上發(fā)布如何利用ChatGPT進行非法活動的例子。這其中包括創(chuàng)建很簡單的Infostealer。隨著人工智能工具的廣泛使用，這些Infostealer將會變得更加先進。 

Infostealer是采用這些“簡單工具”的一個例子，它出現(xiàn)在一個黑客論壇上的一篇名為“ChatGPT——惡意軟件的好處”的帖子上。發(fā)布這個帖子的作者指出，黑客可以使用ChatGPT，通過向人工智能工具輸入描述和報告來重新創(chuàng)建惡意軟件，然后共享基于Python的竊取代碼，該代碼可以搜索常見的文件類型，將它們復(fù)制到隨機文件夾，并將它們上傳到硬編碼的FTP服務(wù)器。 

Shykevich說?！熬W(wǎng)絡(luò)罪犯分子發(fā)現(xiàn)ChatGPT很有吸引力。在最近幾周，我們發(fā)現(xiàn)了黑客開始使用ChatGPT編寫惡意代碼的證據(jù)。ChatGPT有可能為黑客提供一個良好的起點從而加快網(wǎng)絡(luò)攻擊的進程。正如ChatGPT可以用于幫助開發(fā)人員編寫代碼一樣，它也可以用于惡意目的?！?nbsp;

OpenAI表示，已經(jīng)采取措施限制ChatGPT的使用，包括限制可以發(fā)出的請求類型，但有些請求可能會被遺漏。也有證據(jù)表明，其提示被用來“欺騙”ChatGPT，以研究為幌子或作為虛構(gòu)的示例，可以提供可能有害的代碼示例。 

ChatGPT和潛在的錯誤信息 

與此同時，OpenAI正在與喬治敦大學(xué)安全和新興技術(shù)中心以及斯坦?；ヂ?lián)網(wǎng)天文臺合作，研究大型語言模型(例如ChatGPT的基礎(chǔ)GPT-3)可能被用來傳播虛假信息的方式。 

這種模型可用于降低運營影響力行動的成本，使其處于新型網(wǎng)絡(luò)犯罪分子的可控范圍內(nèi)，而以前只有大型參與者才能訪問這類內(nèi)容。同樣，能夠自動制作文本的招聘人員可能會獲得新的競爭優(yōu)勢。

黑客利用ChatGPT還會導(dǎo)致不同的行為，加大網(wǎng)絡(luò)攻擊規(guī)模，并且與人工創(chuàng)建相比允許創(chuàng)建更多的個性化和針對性內(nèi)容。最后，他們發(fā)現(xiàn)文本生成工具能夠生成更有影響力和更有說服力的信息，相比之下，大多數(shù)人工生成的宣傳文檔通常是黑客可能缺乏目標(biāo)所需的語言或文化知識。

OpenAI的研究人員宣稱：“我們的基本判斷是，語言模型對品牌的宣傳者很有用，并可能改變在線影響力的運營。即使最先進的模型是加密的，或者通過應(yīng)用程序編程接口(API)訪問來控制，宣傳者也可能會傾向于采用開源的替代方案?！?/p>