一種名為ChatGPT的語言生成AI模型免費提供，已經(jīng)風靡互聯(lián)網(wǎng)。雖然人工智能有可能幫助IT和安全團隊提高效率，但它也使威脅行為者能夠開發(fā)惡意軟件。

在接受 Help Net Security 采訪時，Ivanti 首席安全官 Daniel Spicer 談到了這項技術對網(wǎng)絡安全的意義。

關于人工智能在網(wǎng)絡安全中的應用，有哪些理由值得關注？

科技行業(yè)一直專注于創(chuàng)建生成人工智能，該人工智能響應命令或查詢以生成文本、視頻或音頻內(nèi)容。這種類型的人工智能無法分析和情境化數(shù)據(jù)和信息以提供理解。

目前，生成式人工智能的價值，如ChatGPT和DALL-E，是偏向于威脅行為者的。生成式 AI 為您提供您所要求的內(nèi)容——這在制作網(wǎng)絡釣魚電子郵件時很有用。信息安全需要人工智能，它可以獲取信息，通過額外的上下文增強信息，并根據(jù)其理解得出結論。

這就是為什么生成式 AI 解決的用例對威脅參與者極具吸引力的原因。關于威脅行為者應用人工智能的一個明顯擔憂與社會工程有關。人工智能可以毫不費力地創(chuàng)建大量復雜的網(wǎng)絡釣魚電子郵件。它還可以創(chuàng)建非常逼真的虛假配置文件。即使是以前被認為合理無機器人的地方，如LinkedIn，現(xiàn)在也有令人信服的個人資料，甚至包括個人資料圖片。我們才剛剛開始看到影響。

我們還已經(jīng)看到威脅行為者正在使用 ChatGPT 來開發(fā)惡意軟件。雖然 ChatGPT 的代碼編寫能力的質(zhì)量結果好壞參半，但專門從事代碼開發(fā)的生成式 AI 可以加速惡意軟件的開發(fā)。最終，我們將看到它有助于更快地利用漏洞 - 在漏洞披露后的幾個小時內(nèi)，而不是幾天。

另一方面，人工智能有可能幫助IT和安全團隊變得更加高效和有效，實現(xiàn)自動和/或半自動漏洞檢測和修復以及基于風險的優(yōu)先級。這使得可以分析數(shù)據(jù)的人工智能對于面臨資源限制的IT和安全團隊來說非常有前途，但不幸的是，這種類型的工具尚不存在，當它存在時，由于需要培訓才能理解特定環(huán)境中的“正?！?，因此實施起來可能很復雜。

該行業(yè)現(xiàn)在需要將注意力轉(zhuǎn)向構建人工智能，以幫助防御者分析和解釋大量數(shù)據(jù)。在我們看到人工智能工具能夠理解的巨大改進之前，攻擊者將繼續(xù)擁有優(yōu)勢，因為今天的工具滿足他們的要求。

ChatGPT 已實施檢查以防止惡意使用。這些檢查是否足以阻止網(wǎng)絡犯罪分子？

一句話，沒有。到目前為止，ChatGPT實施的檢查是無效的。例如，研究人員發(fā)現(xiàn)，您向 ChatGPT 提問的方式會顯著改變其響應，包括拒絕惡意請求的有效性。根據(jù)您為生成AI工具提供的命令，可以將惡意軟件攻擊的所有步驟拼湊在一起。這種情況的一個好處是 ChatGPT 目前沒有寫出好的代碼——但這種情況會改變。

ChatGPT 的部署應該被視為一個大型的演示體驗。這是他們的測試版發(fā)布。生成式人工智能將繼續(xù)變得更好——它已經(jīng)降低了網(wǎng)絡釣魚攻擊的門檻——未來我們將擁有能夠開發(fā)惡意軟件的更好版本的技術。

這將改變惡意軟件開發(fā)人員和AV / EDR供應商之間的軍備競賽，因為以代碼為中心的AI可以操縱代碼來改變設計，而不是傳統(tǒng)的打包服務。

我們不能把精靈放回瓶子里。威脅行為者在其攻擊武器庫中使用生成式人工智能是必然的，現(xiàn)在我們需要專注于如何防御這種新威脅。

ChatGPT 會被沒有技術知識的攻擊者濫用嗎？

可以肯定的是，ChatGPT 將大大降低威脅參與者基于技能的進入成本。目前，威脅的復雜性或多或少與威脅行為者的復雜性有關，但ChatGPT 已經(jīng)將惡意軟件空間開放到一個全新的新手威脅參與者水平，他們有一天將能夠更容易地遠遠超過他們的體重。

這是令人震驚的，因為它不僅擴大了潛在威脅的數(shù)量和潛在威脅行為者的數(shù)量，而且還使那些幾乎不知道自己在做什么的人更有可能加入戰(zhàn)斗。即使在惡意軟件領域，也存在前所未有的固有魯莽行為。

但這仍然有其挑戰(zhàn)。由于我們知道該技術是成功的，我們將看到迭代和改進。

在ChatGPT的未來版本中會發(fā)生什么，用戶可以連接到查找漏洞的工具？

網(wǎng)絡安全領域已經(jīng)面臨著控制大量代碼漏洞的挑戰(zhàn)。人工智能將把這些數(shù)字推得更高，因為它在發(fā)現(xiàn)漏洞方面既更快又更聰明。結合人工智能編碼人員，我們可以在幾分鐘內(nèi)看到新發(fā)現(xiàn)的漏洞的武器化，而不是幾天。

需要明確的是，人工智能目前還沒有更好或更快，但我們預計這種情況會發(fā)生。總有一天，我們將看到漏洞檢測、漏洞武器化和有效載荷都是由人工智能完成的，無需人工干預。

Check Point研究人員演示了ChatGPT如何創(chuàng)建合理的網(wǎng)絡釣魚電子郵件。一旦攻擊者開始使用 AI，您預計威脅將如何演變？

同樣，人工智能使技術知識有限的人更快、更容易訪問，以產(chǎn)生大量逼真的網(wǎng)絡釣魚攻擊和虛假個人資料。由于這個入口相對較新，因此在這一點上，它對菜鳥威脅演員來說有點混戰(zhàn)。但是，隨著威脅行為者對人工智能越來越熟悉，我們將看到這種復雜性隨著威脅行為者相互競爭以獲得訪問權限和知名度而增長。

未來，我們將擁有能夠完成整個攻擊鏈的人工智能——從起草網(wǎng)絡釣魚電子郵件開始。人工智能將能夠使用現(xiàn)成的工具來確定環(huán)境范圍并快速確定進入勒索軟件組織的最佳途徑，這并不牽強。它將能夠確定網(wǎng)絡、布局和架構，然后操縱工具鏈來混淆有效載荷，以避免被防御者檢測到。所有這些都無需任何人按下另一個按鈕。這對另一邊的人來說不是好消息。