近日，美國(guó)國(guó)家安全局（NSA）、聯(lián)邦調(diào)查局（FBI）、網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局（CISA）聯(lián)合發(fā)布了一份網(wǎng)絡(luò)安全信息表（CSI），以應(yīng)對(duì)深度偽造所帶來(lái)的新威脅。

CSI的標(biāo)題為“將Deepfake威脅情境化到組織”，旨在幫助組織識(shí)別，防御和應(yīng)對(duì)deepfake威脅。它建議組織實(shí)施實(shí)時(shí)驗(yàn)證功能、被動(dòng)檢測(cè)技術(shù)以及針對(duì)高級(jí)人員及其通信的保護(hù)措施等技術(shù)，以檢測(cè)和緩解深度偽造。

深度偽造是指使用人工智能 （AI） 和機(jī)器學(xué)習(xí)技術(shù)合成創(chuàng)建或操縱的多媒體內(nèi)容。包括各種形式的人工生成或操縱的媒體，包括淺/廉價(jià)的偽造，生成AI和計(jì)算機(jī)生成的圖像（CGI）。網(wǎng)絡(luò)行為者現(xiàn)在可以使用這些技術(shù)的便利性和規(guī)模對(duì)國(guó)家安全構(gòu)成了獨(dú)特的挑戰(zhàn)。

與許多技術(shù)一樣，深度偽造既可用于積極目的，也可用于惡意目的。雖然有跡象表明，有惡意行為者大量使用這種合成技術(shù)，但能力較差的惡意網(wǎng)絡(luò)行為者可獲得的合成媒體技術(shù)的可用性和效率不斷提高，表明這些類型的技術(shù)可能會(huì)增加頻率和復(fù)雜性。

深度偽造可能帶來(lái)的不良后果諸多，比如一旦有人通過(guò)冒充領(lǐng)導(dǎo)者和財(cái)務(wù)人員或使用欺詐性通信來(lái)訪問(wèn)網(wǎng)絡(luò)和敏感信息，就可用來(lái)破壞組織的品牌和財(cái)務(wù)。此外，深度偽造還有可能通過(guò)傳播有關(guān)政治、社會(huì)、軍事或經(jīng)濟(jì)問(wèn)題的虛假信息來(lái)引起公眾騷亂。

如今，像GitHub這樣的開(kāi)源存儲(chǔ)庫(kù)已經(jīng)提供了現(xiàn)成的基于深度學(xué)習(xí)的算法，使這些技術(shù)的應(yīng)用可供技術(shù)技能和設(shè)備最少的個(gè)人使用。

深度偽造和生成式人工智能的新興趨勢(shì)

報(bào)告中提到，與深度偽造的創(chuàng)造相關(guān)的技術(shù)發(fā)展動(dòng)態(tài)趨勢(shì)將繼續(xù)降低將該技術(shù)用于惡意目的的成本和技術(shù)壁壘。到2030年，生成式人工智能市場(chǎng)預(yù)計(jì)將超過(guò) 1000 億美元，以每年超過(guò) 35%的平均速度增長(zhǎng)。盡管惡意行為者可用的能力將大幅增加，但尋求識(shí)別和減輕深度偽造的防御者可用的技術(shù)和技巧也將大幅提高。

為了應(yīng)對(duì)這些不斷變化的威脅，國(guó)家安全局、聯(lián)邦調(diào)查局和中央情報(bào)局敦促安全專業(yè)人員實(shí)施CSI中提到了幾點(diǎn)建議：

選擇并實(shí)施檢測(cè)深度偽造和展示媒體來(lái)源的技術(shù)：包括實(shí)時(shí)驗(yàn)證能力和程序、反向圖像搜索、視覺(jué)/音頻檢查、元數(shù)據(jù)檢查等；

保護(hù)高優(yōu)先級(jí)個(gè)人的公共數(shù)據(jù)：為了保護(hù)個(gè)人信息不被用于或重新用于虛假信息，人們應(yīng)該開(kāi)始考慮使用主動(dòng)認(rèn)證技術(shù)，如水印或CAI標(biāo)準(zhǔn)。

組織應(yīng)優(yōu)先考慮信息共享，計(jì)劃和演練對(duì)剝削企圖的響應(yīng)，并提供人員培訓(xùn)以最大程度地減少深度偽造的影響。

參考來(lái)源：https://ts2.space/en/the-national-security-agency-nsa-issues-guidance-on-deepfake-threats/