OpenAI公司推出的聊天機(jī)器人ChatGPT有很多很好的用途，但就像任何新技術(shù)一樣，有些人會利用ChatGPT用于罪惡的目的。

從編寫電子郵件等相對簡單的任務(wù)，到撰寫論文或編譯代碼等更復(fù)雜的工作，OpenAI公司的人工智能驅(qū)動的自然語言處理工具ChatGPT自從推出以來就引起了人們的極大興趣。

當(dāng)然，ChatGPT并不完美——眾所周知，當(dāng)它誤解了從中學(xué)習(xí)的信息時就會犯錯，但許多人將它和其他人工智能工具視為互聯(lián)網(wǎng)的未來。

OpenAI公司在ChatGPT的服務(wù)條款中加入了禁止生成惡意軟件的條目，其中包括勒索軟件、鍵盤記錄程序、病毒或其他旨在施加某種程度傷害的軟件，還禁止試圖創(chuàng)建垃圾郵件，以及針對網(wǎng)絡(luò)犯罪的用例。

但是，就像任何創(chuàng)新的技術(shù)一樣，已經(jīng)有人在嘗試?yán)肅hatGPT實(shí)現(xiàn)罪惡的目的。

在ChatGPT發(fā)布后不久，網(wǎng)絡(luò)犯罪分子就在地下論壇上發(fā)帖，討論如何使用ChatGPT來幫助開展惡意網(wǎng)絡(luò)活動，例如編寫釣魚郵件或幫助編譯惡意軟件。

有人擔(dān)心，網(wǎng)絡(luò)犯罪分子會試圖使用ChatGPT和其他人工智能工具(例如谷歌Bard)，作為他們努力的一部分。雖然這些人工智能工具不會徹底改變網(wǎng)絡(luò)攻擊，但它們?nèi)匀豢梢詭椭W(wǎng)絡(luò)犯罪分子更有效地開展惡意攻擊活動。

網(wǎng)絡(luò)安全服務(wù)商CheckPoint公司的威脅情報部門經(jīng)理Sergey Shykevich表示，“至少在短期內(nèi)，我不認(rèn)為ChatGPT會創(chuàng)造出全新類型的網(wǎng)絡(luò)攻擊。重點(diǎn)將是提高他們的日常運(yùn)營的成本效益?！?/p>

網(wǎng)絡(luò)釣魚攻擊是惡意黑客和欺詐活動中最常見的組成部分。無論網(wǎng)絡(luò)攻擊者是通過電子郵件傳播惡意軟件、網(wǎng)絡(luò)釣魚鏈接，還是被用來說服受害者轉(zhuǎn)賬，電子郵件最初都是用來脅迫的關(guān)鍵工具。

對電子郵件的依賴意味著犯罪團(tuán)伙需要持續(xù)不斷的清晰可用的內(nèi)容。在許多情況下，尤其是網(wǎng)絡(luò)釣魚，網(wǎng)絡(luò)攻擊者的目的是說服人們做一些事情，例如轉(zhuǎn)賬。幸運(yùn)的是，現(xiàn)在很多這樣的釣魚嘗試都很容易被識別為垃圾郵件，但高效的自動化文案可以讓這些電子郵件更引人注目。

網(wǎng)絡(luò)犯罪是一個全球性的產(chǎn)業(yè)，網(wǎng)絡(luò)犯罪分子都在向世界各地的潛在目標(biāo)發(fā)送釣魚電子郵件，這意味著語言可能是一個障礙，特別是對于那些更復(fù)雜的魚叉式網(wǎng)絡(luò)釣魚活動來說，這些活動依賴于受害者相信他們正在與值得信賴的聯(lián)系人交談——如果電子郵件中充滿了不尋常的拼寫和語法錯誤或奇怪的標(biāo)點(diǎn)符號，人們不太可能相信他們正在與朋友或同事交談。

但如果人工智能被正確利用，聊天機(jī)器人可以用網(wǎng)絡(luò)攻擊者想要的任何語言為電子郵件編寫文本。

Shykevich說:“例如，俄羅斯網(wǎng)絡(luò)罪犯的最大障礙是語言——英語。他們現(xiàn)在雇傭英語專業(yè)的大學(xué)畢業(yè)生為網(wǎng)絡(luò)釣魚郵件撰寫文章，或者在呼叫中心工作，而且他們必須為此支付費(fèi)用。像ChatGPT這樣的工具可以為他們在創(chuàng)建各種不同的釣魚信息上節(jié)省很多費(fèi)用，我認(rèn)為這是他們將尋求的方法?！?/p>

從理論上來說，有一些保護(hù)措施是為了防止濫用，例如，ChatGPT要求用戶注冊電子郵件地址，還需要電話號碼來驗(yàn)證注冊。

雖然ChatGPT可以拒絕編寫釣魚電子郵件，但可以要求它為其他消息制作電子郵件模板，這些消息通常被網(wǎng)絡(luò)攻擊者利用。這種嘗試可能包括這樣的信息：宣布發(fā)放年度獎金，必須下載并安裝重要的軟件更新，或者需要作為緊急事項(xiàng)查看附件。

網(wǎng)絡(luò)安全與威脅情報提供商Crowdstrike公司的高級副總裁Adam Meyers表示：“精心制作一封電子郵件，說服某人點(diǎn)擊鏈接，以獲得會議邀請之類的東西，但如果母語不是英語，就不一定能做到?？梢宰孋hatGPT制作一份格式優(yōu)美、語法正確的邀請函，如果不是以英語為母語的人，就不一定能做到這一點(diǎn)。”

濫用這些工具不僅僅限于電子郵件，犯罪分子可以使用它來幫助為任何基于文本的在線平臺編寫腳本。對于實(shí)施詐騙的網(wǎng)絡(luò)攻擊者，甚至是試圖進(jìn)行間諜活動的高級網(wǎng)絡(luò)威脅組織來說，這可能是一個有用的工具——尤其是用于創(chuàng)建虛假的社交資料來吸引人們。

云計(jì)算提供商Fastly公司的網(wǎng)絡(luò)安全專家、高級首席產(chǎn)品技術(shù)專家Kelly Shortridge表示:“如果你想建立可信的業(yè)務(wù)，可以在LinkedIn發(fā)布看似合理的商業(yè)言論，讓你看起來像讓客戶試圖建立聯(lián)系的真正商人，那么就非常適合采用ChatGPT?！?/p>

各種黑客組織試圖利用LinkedIn和其他社交媒體平臺作為開展網(wǎng)絡(luò)間諜活動的工具，但創(chuàng)建虛假但看起來合法的在線個人資料，并在其中填滿帖子和信息，這是一個耗時的過程。

Shortridge認(rèn)為，網(wǎng)絡(luò)攻擊者可以使用ChatGPT等人工智能工具編寫令人信服的內(nèi)容，同時還具有比人工工作更少勞動密集型的好處。

她說:“很多這類社交工程活動都需要付出很多努力，因?yàn)楸仨毥⒛切n案?！彼J(rèn)為人工智能工具可以顯著地降低進(jìn)入門檻。

她說：“我相信ChatGPT可以寫出非常有說服力的文章?！?/p>

技術(shù)創(chuàng)新的本質(zhì)意味著，每當(dāng)新事物出現(xiàn)時，總會有人試圖利用它來達(dá)到惡意目的。即使開發(fā)商使用最創(chuàng)新的手段來防止濫用，網(wǎng)絡(luò)犯罪分子和欺詐者的狡猾本性也意味著他們可能會找到規(guī)避保護(hù)的手段。

Shykevich表示：“沒有辦法將濫用行為完全消除到零。任何系統(tǒng)都不會發(fā)生這種情況?！彼Ｍ麖?qiáng)調(diào)潛在的網(wǎng)絡(luò)安全問題意味著圍繞如何防止人工智能聊天機(jī)器人被用于錯誤目的展開更多討論。

他說，“ChatGPT是一項(xiàng)偉大的技術(shù)，但與任何新技術(shù)一樣，它也存在風(fēng)險，討論并意識到這些風(fēng)險很重要。我認(rèn)為，我們討論得越多，OpenAI和類似公司就越有可能在減少濫用方面投入更多資金?！?/p>

人工智能聊天機(jī)器人(例如ChatGPT)在網(wǎng)絡(luò)安全方面也有好處。它們特別擅長處理和理解代碼，因此有可能使用它們來幫助防御者理解惡意軟件。由于它們也可以編寫代碼，通過幫助開發(fā)人員完成項(xiàng)目，這些工具可能有助于更快地創(chuàng)建更好、更安全的代碼，這對每個人都有好處。

調(diào)研機(jī)構(gòu)Forrester公司的首席分析師Jeff Pollard指出，ChatGPT可以大幅減少生成安全事件報告所需的時間。

他指出：“更快地扭轉(zhuǎn)局面意味著有更多的時間做其他事情——例如測試、評估、調(diào)查和響應(yīng)，所有這些都有助于安全團(tuán)隊(duì)的規(guī)模?！彼a(bǔ)充說，機(jī)器人可以根據(jù)可用數(shù)據(jù)建議下一步的行動。

他說：“如果正確設(shè)置安全編排、自動化和響應(yīng)來加速工件的檢索，這可以加速檢測和響應(yīng)，并幫助安全運(yùn)營中心分析師做出更好的決策。”

因此，聊天機(jī)器人可能會讓一些網(wǎng)絡(luò)安全公司的日子更加艱難，但也可能有一線希望。

行業(yè)媒體聯(lián)系OpenAI公司尋求置評，但未得到回復(fù)。然而，記者詢問了ChatGPT有什么規(guī)則來防止它被濫用于網(wǎng)絡(luò)釣魚。得到了以下回復(fù)：“需要注意的是，雖然像ChatGPT這樣的人工智能語言模型可以生成類似于釣魚郵件的文本，但它們不能自行執(zhí)行惡意操作，并且需要用戶的意圖和行動才能造成傷害。因此，用戶在使用人工智能技術(shù)時要保持謹(jǐn)慎和良好的判斷，并警惕網(wǎng)絡(luò)釣魚和其他惡意活動?！?/p>