ChatGPT和生成式人工智能(AI)的興起無疑增加了安全團隊的負擔(dān)。只需寫一個簡短的提示，想成為黑客的人就能在幾秒鐘內(nèi)生成一個釣魚電子郵件模板，然后將其發(fā)送給無數(shù)毫無戒心的用戶，坐等用戶錯誤地點擊惡意鏈接或附件。

電子郵件安全提供商SlashNext打算以人工智能對抗人工智能。BEC(商業(yè)電子郵件泄露)生成式AI是其正在申請專利的新解決方案，旨在幫助識別和阻止由ChatGPT和其他AI模型生成的詐騙消息。

BEC生成式AI使用AI數(shù)據(jù)增強和克隆技術(shù)自動生成數(shù)千個潛在的商業(yè)電子郵件泄露(BEC)威脅。SlashNext現(xiàn)有的人工智能解決方案通過自然語言處理分析這些數(shù)據(jù)，學(xué)習(xí)如何更好地檢測惡意電子郵件。

雖然SlashNext聲稱該解決方案是業(yè)界第一個使用生成式AI來阻止BEC攻擊的解決方案，但更廣泛地說，該發(fā)布演示了生成式AI如何在數(shù)據(jù)安全領(lǐng)域發(fā)揮積極作用——在該場景中，這主要是通過增強對釣魚電子郵件和社交工程騙局的檢測來實現(xiàn)的。

人工智能如何徹底改變網(wǎng)絡(luò)釣魚

在去年11月ChatGPT發(fā)布后，網(wǎng)絡(luò)釣魚騙局開始呈上升趨勢，Vade在2022年第四季度發(fā)現(xiàn)了2.783億封獨特的網(wǎng)絡(luò)釣魚郵件，而2022年第三季度該數(shù)字僅為7440萬封。

這些攻擊非常受攻擊者的歡迎，因為它們很容易獲得高回報。例如，惡意行為者可以創(chuàng)建一個虛假的Office 365登錄表單，向毫無戒心的用戶發(fā)送釣魚電子郵件模板，并在他們試圖登錄時獲取其帳戶的詳細信息。

對于最終用戶和安全團隊來說，審查每封電子郵件并確定內(nèi)容是否合法通常十分耗時。事實上，研究發(fā)現(xiàn)70%的企業(yè)要花16-60分鐘來處理一封釣魚郵件。

如果用戶不堪疲勞轟炸，無意中觸發(fā)騙局可能會導(dǎo)致數(shù)百萬美元的數(shù)據(jù)泄露。隨著生成式人工智能的使用不斷增加，員工面臨的威脅數(shù)量只會進一步增加。

SlashNext公司的首席執(zhí)行官帕特里克·哈爾(Patrick Harr)指出，“威脅行為者已經(jīng)在使用生成式人工智能來自動化數(shù)千條量身定制的網(wǎng)絡(luò)釣魚信息，同時，它可以創(chuàng)造數(shù)以千計的信息變體，以進一步提高攻擊的成功率。像GPT-3這樣的大型語言模型通常也是免費的，惡意行為者可以很快地利用任何新工具來增加攻擊量，同時減少所涉及的時間、精力和成本。這對威脅行為者來說是有利的，安全界必須準(zhǔn)備好以人工智能對抗人工智能?！?/p>

雖然生成式人工智能誘發(fā)的騙局增加帶來了新的挑戰(zhàn)，但企業(yè)可以使用人工智能來自動化和升級自身的安全操作，確保自身已經(jīng)準(zhǔn)備好快速檢測人工智能生成的惡意內(nèi)容。

電子郵件安全市場

SlashNext的解決方案屬于基于云的電子郵件安全市場，魔多情報公司(Mordor Intelligence)在2020年對該市場的估值為7.682億美元，預(yù)計到2026年將達到12.4699億美元。

SlashNext的主要競爭對手之一是Abnormal Security，這是一家人工智能驅(qū)動的電子郵件安全提供商，提供了一個使用人工智能評估傳入問題的平臺，并將其與用戶的基線活動進行比較，然后，該平臺可以識別表明BEC企圖和網(wǎng)絡(luò)釣魚詐騙的異常通信，自動修復(fù)惡意電子郵件，而無需人類用戶的參與。

去年，Abnormal Security的估值達到了40億美元。

另一個競爭對手是云電子郵件安全提供商Avanan，該公司提供了一種基于API的解決方案，具有自然語言處理和圖像識別功能，據(jù)稱可以識別出99.2%的釣魚電子郵件。Check Point于2021年以約3億美元收購了Avanan。

Harr認為SlashNext與其競爭對手之間的關(guān)鍵區(qū)別在于其零時(zero-hour )威脅檢測的準(zhǔn)確性。他介紹稱，“SlashNext是唯一一家將自然語言處理、計算機視覺、機器學(xué)習(xí)、深度上下文化和關(guān)系圖、文件附件檢查和發(fā)送者模擬分析結(jié)合到一個解決方案中的公司，可以實現(xiàn)行業(yè)中最好、最準(zhǔn)確的零時威脅檢測?！?/p>