近日，國際網(wǎng)絡(luò)安全專家解釋了人工智能聊天機器人背后的危險，并分享了如何保持安全的建議。

隨著人工智能聊天機器人的興起，企業(yè)必須意識到使用ChatGPT技術(shù)的風(fēng)險。這對企業(yè)來說可能是一把雙刃劍，在提供自動化和潛在業(yè)務(wù)收益的同時，也帶來了獨特的威脅。黑客可能會利用ChatGPT=實施更復(fù)雜的攻擊，讓用戶更難發(fā)現(xiàn)潛在的網(wǎng)絡(luò)攻擊。為了避免業(yè)務(wù)損失，企業(yè)組織必須重新評估他們采取的步驟并了解風(fēng)險。

ChatGPT被越來越多地用作犯罪工具

根據(jù)NordVPN的研究，暗網(wǎng)論壇上關(guān)于人工智能工具的新帖子數(shù)量從1月份的120個激增到2月份的870個，增長了625%。

在暗網(wǎng)論壇上，ChatGPT的帖子數(shù)量在一個月內(nèi)從37個增加到91個，使得機器人開發(fā)成為暗網(wǎng)沖浪者中最受歡迎的話題之一。例如，論壇討論包括關(guān)于不良行為者如何編寫ChatGPT以生成基本惡意軟件的信息。后來，黑客社區(qū)的目標(biāo)是采取更激進的行動，比如接管聊天機器人的控制權(quán)，制造故障，從而造成嚴(yán)重破壞。現(xiàn)在，暗網(wǎng)上的用戶都可以輕松獲得諸如“如何破解ChatGPT”、“ChatGPT越獄2.0”、“ChatGPT -惡意軟件的進展”和“ChatGPT作為網(wǎng)絡(luò)釣魚工具”等主題的專業(yè)知識。

ChatGPT和社會工程

諸如網(wǎng)絡(luò)釣魚、詐騙或借口等社會工程攻擊可能很容易被用來竊取有價值的信息。ChatGPT可以生成令人信服的對話或腳本，操縱人們透露機密信息或執(zhí)行某些任務(wù)。此外，使用chatgpt可以很容易地避免措辭糟糕的電子郵件和語法錯誤。這使得來自非英語的國家的人能夠更大規(guī)模地參與網(wǎng)絡(luò)犯罪，并取得更高的成功率。

泄露敏感信息

今年3月，ChatGPT經(jīng)歷了一次數(shù)據(jù)泄露。一個漏洞暴露了用戶的個人信息，比如聊天記錄和銀行卡詳細信息。這些事件證明使用該平臺會帶來很高的隱私風(fēng)險。這意味著添加到聊天機器人中的任何類型的信息都可能有泄露的風(fēng)險，特別是當(dāng)ChatGPT或其他人工智能工具用于營銷目的或編寫電子郵件時。不要忘記，為了讓Chat GPT變得更好，它使用了用戶提供的數(shù)據(jù)，包括個人或商業(yè)信息以及其他重要數(shù)據(jù)。如果黑客能夠攻破系統(tǒng)，企業(yè)將遭受損失。

如何保護企業(yè)和員工

預(yù)防總是比破壞便宜。使用以下核心原則來保護企業(yè)與自身:

1、員工培訓(xùn)。如上所述，社會工程攻擊正變得越來越復(fù)雜。因此，需要更加重視員工培訓(xùn)。最有效的方法之一是組織網(wǎng)絡(luò)攻擊模擬演習(xí)，并公開討論結(jié)果。

2、制定業(yè)務(wù)彈性計劃。風(fēng)險評估對任何公司來說都是必須的——無論大小或行業(yè)。請制定一個計劃來應(yīng)對任何可能出現(xiàn)的挑戰(zhàn)。

3、投資于預(yù)防、檢測和緩解威脅。擁有高質(zhì)量的網(wǎng)絡(luò)安全工具，防止威脅，提供網(wǎng)絡(luò)分割、識別和訪問管理。對于威脅檢測，維護IDS策略和數(shù)據(jù)完整性檢查。為了減輕威脅，需要有清晰的事后分析和備份策略。

ChatGPT是一項出色的技術(shù)，可以幫助人們自動化任務(wù)并提高效率。然而，由于大多數(shù)聊天機器人對每個人都可用，使用這種技術(shù)進行人眼無法檢測的復(fù)雜攻擊的不良行為者也同樣如此。例如，網(wǎng)絡(luò)釣魚攻擊現(xiàn)在被完美地翻譯并針對某些市場。此外，在暗網(wǎng)上，甚至ChatGPT也是一個目標(biāo)，未來可能會導(dǎo)致更多的數(shù)據(jù)泄露和泄露。對于員工和公司首席執(zhí)行官來說，最重要的是要對我們輸入這個工具的信息還是公司范圍內(nèi)的程序持關(guān)鍵態(tài)度。