在過去的一年中，可用于生成逼真、虛假或人為操控的音視頻機器學(xué)習(xí)模型deepfake逐漸見諸報端，成為媒體爭相報道的對象，并成為新興的網(wǎng)絡(luò)安全威脅。公眾接觸到deepfake首先是通過娛樂視頻，可用deepfake工具生成，將明星的臉部疊加在色情視頻中。

[[314304]]

盡管這些視頻低質(zhì)且明顯可以看出來是不合法的，但是這項新技術(shù)對于人們區(qū)分虛擬和現(xiàn)實還是有一定的潛在影響。在政治世界中，尤其值得人們關(guān)注，deepfake可以成為一種攻擊政客或政黨的武器，操縱公眾輿論來影響選舉甚至股市。

幾年前，deepfake技術(shù)研發(fā)有限，這種工具只為資源豐富且技術(shù)先進(jìn)的國家使用，但是現(xiàn)在deepfakes工具免費提供、隨處可得，且簡單易學(xué)，因此任何能夠上網(wǎng)、有時間和目的的人都能夠隨時制作deepfake視頻，并將虛假內(nèi)容視頻在社交媒體中傳播開來。

進(jìn)一步來說，deepfake工具越來越智能，生成視頻所需要的素材也越來越少。早期需要幾個小時的視頻和音頻或者是大數(shù)據(jù)集，才可以進(jìn)行機器分析和生成。這意味著較高關(guān)注度的人比如政客、名人、知名CEO或擁有大量網(wǎng)絡(luò)資源的人容易被盯上，成為虛假視頻的主角。

現(xiàn)在，只要有一張照片就可以生成這類虛假視頻了。未來生成虛假視頻只會越來越容易，比如Facebook上的個人資料圖片或者Instagram的音頻片段，由此可見，人人都應(yīng)該提高警惕了，防止自己成為下一個目標(biāo)。

虛假的現(xiàn)實

Deepfake之所以強大，是因為它顛覆了人類對現(xiàn)實的基本理解：眼見為實。Deepfake讓真相與現(xiàn)實脫節(jié)，此外還能夠引起情感上的回應(yīng)。比如你看到一些令人不快的東西，即使之后你知道它是假的，但是你依然會有負(fù)面情緒，并且將所見所感和潛意識聯(lián)系起來。

去年10月，州長Gavin Newsom簽署了加利福尼亞州的AB 730法案(稱為“反Deepfake法案”)，希望在2020年大選之前減少惡意deepfake虛假視頻的傳播。雖然這一舉措值得稱贊，但法案本身沒有任何進(jìn)展。它人為地設(shè)置了一個時間線，這個時間線只適用于在選舉的60天內(nèi)具有“真實惡意”原則的deepfake虛假視頻，這就免除了傳播平臺監(jiān)管和刪除deepfake虛假視頻的責(zé)任，相反地，法律依賴于虛假視頻生產(chǎn)者的自我承認(rèn)和所有權(quán)聲明，而對于“真實 惡意”的證據(jù)查找過程不是那么明確的。

[[314305]]

制定該法律的初衷并非去執(zhí)行它，更可能的是立法者向人們展示自己已經(jīng)邁出的第一步，表明他們知道deepfake對民主的嚴(yán)重威脅。而這場斗爭才剛剛開始。在理想情況下，該法律將影響并指導(dǎo)聯(lián)邦政府和其他州的工作，以此為初始模板進(jìn)行更有效和更具執(zhí)行力的立法。

Deepfake技術(shù)將成為2020年的商業(yè)威脅

迄今為止，和deepfake相關(guān)的討論主要集中在通過社交媒體(尤其是在政治領(lǐng)域)推動的虛假信息運動和大規(guī)模人為操縱的潛在影響上。2020年將是deepfake成為企業(yè)真正威脅的一年，而企業(yè)的網(wǎng)絡(luò)防御團(tuán)隊還沒有能力應(yīng)對這種威脅。

魚叉式網(wǎng)絡(luò)攻擊針對的是高級員工，通常會誘使他們手動完成任務(wù)，比如支付偽造發(fā)票，發(fā)送實體文件或者手動設(shè)置網(wǎng)絡(luò)犯罪分子的登錄憑證。從技術(shù)角度來看，這些郵件通常更難檢測，因為該電子郵件不包含任何可疑的鏈接或附件，并且通常與BEC攻擊結(jié)合使用(當(dāng)黑客控制了員工的電子郵件時，他們可以從合法地址發(fā)送電子郵件)。

根據(jù)FBI的數(shù)據(jù)，在過去三年中，BEC攻擊給全球組織造成的損失超過260億美元。而deepfake能夠加劇這些攻擊，比如利用語音郵件模擬高層欺騙員工，這就讓網(wǎng)絡(luò)犯罪更加容易。

[[314306]]

有一種觀點認(rèn)為，攻擊打破了真相壁壘，與其認(rèn)為攻擊請求是虛假的，接受請求并相信它是真實可信的做法反倒更有意義，能夠直接地揭露它。

然而，當(dāng)deepfake技術(shù)進(jìn)一步發(fā)展時，攻擊的真實和虛假反而難以辨別了。比如員工與其認(rèn)為的CEO進(jìn)行視頻通話，屏幕后的犯罪分子實時生成deepfake視頻。去年早些時候，一位CEO被AI產(chǎn)生的聲音欺騙，將243000美元轉(zhuǎn)移到他認(rèn)為是公司供應(yīng)商的銀行賬戶中。

當(dāng)前，安全行業(yè)還沒有設(shè)備、電子郵件篩選或任何技術(shù)來防御deepfake技術(shù)。但是，也不是一無所獲。例如，F(xiàn)acebook，微軟和大學(xué)研究人員發(fā)起了Deepfake檢測挑戰(zhàn)賽，呼吁推動開源deepfake檢測工具的開發(fā)。國防高級研究計劃局(DARPA)宣布了語義取證或”SemaFor計劃”，該計劃旨在開發(fā)“語義取證”，作為過去使用的統(tǒng)計檢測技術(shù)的另一種防御方法。

當(dāng)前存在的唯一防范方法是教育用戶，讓他們了解這些新型攻擊的方法，并警惕任何看起來不同尋常的行為或者活動。

信任早已不再是我們負(fù)擔(dān)得起的奢侈品了。