從美國大選造謠視頻到AI編寫的網(wǎng)絡(luò)釣魚郵件，深度偽造（deepfake）詐騙和生成式人工智能攻擊日益猖獗，人眼越來越難以辨識，企業(yè)迫切需要為網(wǎng)絡(luò)安全團(tuán)隊(duì)制定AI安全事件響應(yīng)指南。

深度偽造攻擊威脅日益增加

全球范圍內(nèi)，越來越多的郵件和信息被AI生成，2022年底僅有7%的郵件由AI生成，如今這一比例現(xiàn)已上升到12%。安全公司紛紛開發(fā)檢測工具，以識別AI生成的內(nèi)容。

近日，全球應(yīng)用安全項(xiàng)目組織（OWASP）發(fā)布了一系列專門應(yīng)對AI威脅的指南，為企業(yè)提供深度偽造事件的響應(yīng)框架，并設(shè)立AI安全卓越中心和AI安全解決方案數(shù)據(jù)庫。此前，OWASP曾發(fā)布一份AI安全與治理的檢查清單，而此次新推出的指南更加側(cè)重于AI技術(shù)的用戶，具體如下：

《深度偽造事件準(zhǔn)備和應(yīng)對指南》闡述了“超現(xiàn)實(shí)數(shù)字偽造”所帶來的問題。作為人工智能網(wǎng)絡(luò)威脅情報(bào)計(jì)劃的產(chǎn)物，該資源結(jié)合了實(shí)用和務(wù)實(shí)的防御策略，幫助組織在深度偽造技術(shù)不斷改進(jìn)的情況下保持安全。

“卓越中心指南”幫助企業(yè)建立最佳實(shí)踐和框架，以創(chuàng)建AI安全實(shí)踐。該指南幫助組織建立風(fēng)險(xiǎn)管理系統(tǒng)和跨部門協(xié)調(diào)系統(tǒng)，包括安全、法律、數(shù)據(jù)科學(xué)和運(yùn)營團(tuán)隊(duì)，以及如何制定和執(zhí)行安全政策以及對員工進(jìn)行AI安全教育。

“AI安全解決方案概覽指南”是一份關(guān)于如何保護(hù)開源和商業(yè)LLM及GenAI應(yīng)用程序的廣泛參考。它對現(xiàn)有和新興的安全產(chǎn)品進(jìn)行了分類，并就如何考慮十大列表中確定的風(fēng)險(xiǎn)提供了指導(dǎo)。

“企業(yè)想要盡可能在安全的前提下使用AI，因?yàn)樵诋?dāng)今競爭激烈的商業(yè)環(huán)境中，這是一種重要的競爭差異化因素?！監(jiān)WASP項(xiàng)目聯(lián)席負(fù)責(zé)人斯科特·克林頓（Scott Clinton）表示。

網(wǎng)絡(luò)安全公司遭遇深度偽造攻擊

近日，網(wǎng)絡(luò)安全公司Exabeam就遭遇了一起深度偽造攻擊事件。公司一位高級安全分析師候選人在完成初步面試后進(jìn)入最終面試環(huán)節(jié)時(shí)，被Exabeam的治理、風(fēng)險(xiǎn)與合規(guī)團(tuán)隊(duì)負(fù)責(zé)人喬迪·馬斯（Jodi Maas）察覺出異常。

馬斯回憶，盡管人力資源團(tuán)隊(duì)最初在面試中發(fā)現(xiàn)該候選人的表現(xiàn)有些“刻意”，但在正式面試時(shí)問題更為明顯：視頻中的女性面試者幾乎沒有表情，嘴唇與音頻不同步，背景還出現(xiàn)了數(shù)字偽影。面試結(jié)束后，馬斯與Exabeam的首席信息安全官凱文·柯克伍德（Kevin Kirkwood）核實(shí)，確認(rèn)這是一場深度偽造攻擊。

“最令人意外的是，求職者居然通過了HR的初步篩選。”柯克伍德說道。意識到該威脅的潛在風(fēng)險(xiǎn)后，Exabeam立即改進(jìn)了面試流程，并向HR團(tuán)隊(duì)提出了警惕深度偽造的建議?，F(xiàn)階段，公司建議員工對視頻通話保持高度警惕，并普及了辨識深度偽造的技巧。

深度偽造技術(shù)的“軍備競賽”

深度偽造現(xiàn)象已引起IT專業(yè)人士的極大關(guān)注。一項(xiàng)由電子郵件安全公司Ironscales進(jìn)行的調(diào)查顯示，48%的受訪者對深度偽造表示“極為擔(dān)憂”，74%的人認(rèn)為它將成為未來的重大威脅。Ironscales創(chuàng)始人兼CEO艾亞爾·貝尼西蒂（Eyal Benishti）指出，即使當(dāng)前的深度偽造技術(shù)尚未足夠逼真，但未來AI視頻將更加真實(shí)，甚至能夠?qū)崟r(shí)模仿他人，成為真正的“數(shù)字替身”。

“企業(yè)已經(jīng)意識到未來的溝通手段可能無法完全信任，這需要一段時(shí)間來適應(yīng)?！必惸嵛鞯僬f道。

Exabeam的柯克伍德認(rèn)為，隨著深度偽造技術(shù)不斷提升，技術(shù)防御手段也必須跟上?！白钤愀獾那闆r是技術(shù)呈現(xiàn)螺旋式升級——檢測手段進(jìn)步，偽造技術(shù)提升，檢測再升級，偽造再提升?！彼f道。“我在等待技術(shù)發(fā)展，以便將其集成到SIEM系統(tǒng)中，標(biāo)記出與深度偽造相關(guān)的特征?！?/p>

應(yīng)對深度偽造需要從技術(shù)與流程入手

OWASP的克林頓指出，相較于培訓(xùn)人們辨識可疑視頻，企業(yè)更應(yīng)構(gòu)建驗(yàn)證視頻真實(shí)性的基礎(chǔ)架構(gòu)，特別是在財(cái)務(wù)交易和員工身份驗(yàn)證等關(guān)鍵環(huán)節(jié)建立明確的流程和響應(yīng)機(jī)制。

“僅依賴人類來識別深度偽造并不現(xiàn)實(shí)，因?yàn)檫@是主觀的?！笨肆诸D解釋道，“需要的是更加客觀的解決方案。我們提出了一些具體的步驟，通過技術(shù)和流程相結(jié)合來有效應(yīng)對這些威脅?！?/p>

隨著深度偽造技術(shù)的不斷發(fā)展，企業(yè)必須從技術(shù)和管理兩個(gè)方面同時(shí)發(fā)力，建立全面的防御體系。雖然深度偽造目前還不足以欺騙大多數(shù)人，但隨著技術(shù)不斷進(jìn)步，它必將成為網(wǎng)絡(luò)安全領(lǐng)域的一大挑戰(zhàn)。