作者 | Sze-Fung Lee

　　譯者 | 朱先忠

　　整理 | 千山

　　關(guān)于人工智能的討論往往伴隨著爭議。作為人工智能深度學(xué)習(xí)領(lǐng)域的一個分支，Deepfake（深度偽造）技術(shù)在近幾年迅速興起。這一技術(shù)生動詮釋了“眼見不一定為實”。最初，這一技術(shù)更多地用于娛樂，整蠱朋友或調(diào)侃明星，后來Deepfake逐漸“走向政壇”，為國家間的政治抹黑、軍事欺騙、經(jīng)濟(jì)犯罪甚至恐怖主義行動等提供了新工具。

簡介

　　今年3月初，一條烏克蘭總統(tǒng)沃洛蒂米爾·澤倫斯基的“視頻”被廣泛傳播。在該視頻中，澤連斯基呼吁烏克蘭士兵放下武器，放棄對俄戰(zhàn)斗。這段視頻在網(wǎng)上迅速流傳開來，但很快就被揭穿為一段用Deepfake做的換頭“視頻”。這個視頻作為戰(zhàn)爭狀態(tài)下第一個針對一國元首的Deepfake視頻，預(yù)示著一種新的輿論戰(zhàn)形式。

硬幣的兩面

　　Deepfake技術(shù)有用嗎？當(dāng)然。例如，帕金森病患者可以使用語音克隆進(jìn)行交流。再比如，為了保護(hù)患者隱私，把醫(yī)療視頻數(shù)據(jù)里的人臉Deepfake成別人，這樣患者就不會被不相干的人發(fā)現(xiàn)自己患病的事實，涉及隱私的醫(yī)療數(shù)據(jù)集也可以公開化，給醫(yī)療AI的研究者們提供方便。

　　然而，世界上每個硬幣都有其兩面性。Deepfake也有其“邪惡”的一面。

　　Deepfake 技術(shù)的進(jìn)步使語音釣魚嘗試看起來比以往任何時候都更加可信。在 Deepfake 音頻技術(shù)的幫助下，威脅行為者可以冒充其目標(biāo)，并繞過語音身份驗證機制等安全措施，來授權(quán)欺詐交易或欺騙受害者的聯(lián)系人以收集有價值的情報。

　　更嚴(yán)重的，在國家安全層面，如果故意使用 Deepfake 來重塑公眾輿論、煽動社會沖突和操縱選舉，這樣的技術(shù)就有可能破壞整個社會的民主。

　　上圖中展示了華盛頓大學(xué)的研究人員制作的一份關(guān)于貝拉克·侯賽因·奧巴馬的深度研究報告。報告中，研究人員借助人工智能技術(shù)，通過第三者并模仿美國前總統(tǒng)奧巴馬的一段演講視頻中的面部動作，成功偽造出一段冒牌奧巴馬演講的視頻。

制造混亂

　　Deepfake 基于生成對抗網(wǎng)絡(luò)實現(xiàn)。生成對抗網(wǎng)絡(luò)是非監(jiān)督式學(xué)習(xí)的一種方法，通過讓兩個神經(jīng)網(wǎng)絡(luò)相互博弈的方式進(jìn)行學(xué)習(xí)。

　　生成對抗網(wǎng)絡(luò)由一個生成網(wǎng)絡(luò)與一個判別網(wǎng)絡(luò)組成。生成網(wǎng)絡(luò)從潛在空間（latent space）中隨機取樣作為輸入，其輸出結(jié)果需要盡量模仿訓(xùn)練集中的真實樣本。判別網(wǎng)絡(luò)的輸入則為真實樣本或生成網(wǎng)絡(luò)的輸出，其目的是將生成網(wǎng)絡(luò)的輸出從真實樣本中盡可能分辨出來。而生成網(wǎng)絡(luò)則要盡可能地欺騙判別網(wǎng)絡(luò)。兩個網(wǎng)絡(luò)相互對抗、不斷調(diào)整參數(shù)，最終目的是使判別網(wǎng)絡(luò)無法判斷生成網(wǎng)絡(luò)的輸出結(jié)果是否真實。

　　雖然 Deepfake 背后的技術(shù)聽起來可能很復(fù)雜，但利用這種“換頭術(shù)”生成假貨卻很簡單。目前市場上已經(jīng)存在不少這樣的在線應(yīng)用程序，比如 Faceswap 和 ZAO Deepswap，可以在幾分鐘內(nèi)生成深度偽造效果。

　　Google Colaboratory 是一個在線存儲多種編程語言源碼的代碼倉庫，其中開放的代碼中就包括可用于生成虛假圖像和虛假視頻的源碼示例（https://colab.research.google.com/github/AliaksandrSiarohin/first-order-model/blob/master/demo.ipynb）。

　　借助于這種全世界可訪問的軟件，人們很容易看到這樣的事實：大量的普通用戶在沒有意識到潛在安全風(fēng)險的情況下，借助 Deepfake 給社會帶來不同程度甚至是嚴(yán)重的破壞。

　　換臉應(yīng)用程序和 Deep Nostalgia 等公司的在線服務(wù)的廣泛流行表明， Deepfake 能以多么快的速度被公眾廣泛接受。僅僅2019年一年時間，他們就檢測到約有15000個使用Deepfake 技術(shù)偽造的視頻。顯然，這個數(shù)字預(yù)計還會迅猛增加。

　　Deepfake 是造假活動的完美工具，因為它們能夠產(chǎn)生可信的假新聞，而這種假新聞需要一定的時間才能揭穿。與此同時，假貨——尤其是那些影響人們聲譽的假貨——造成的損害往往是持久性的和不可逆轉(zhuǎn)的。

眼見為實嗎？

　　Deepfake 最危險的后果可能是利用它們在政治競選中提供虛假信息。

　　這方面的一個有力的例證是，唐納德·特朗普曾經(jīng)將任何不討人喜歡的媒體報道稱為“假新聞”。通過指責(zé)批評者傳播假新聞，特朗普得以利用錯誤信息為自己的錯誤行為辯護(hù)，并將其作為宣傳工具。

　　特朗普的戰(zhàn)略允許他在充滿不信任和虛假信息的環(huán)境中保持支持，聲稱“真實事件和故事都是假新聞或假貨”。

　　于是，政府和媒體的信譽正在受到損害，并造成了不被信任的惡劣影響。隨著假冒偽劣產(chǎn)品的日益增多，政客們很容易否認(rèn)對任何新出現(xiàn)的丑聞負(fù)有責(zé)任。如果一個人否認(rèn)視頻中的身份，怎么能確認(rèn)他的身份呢？

　　另一方面，在民主國家努力維護(hù)言論自由的過程中，打擊虛假信息一直是一項挑戰(zhàn)。通過把人類與機器人結(jié)合起來等技術(shù)就可以通過讓人們驗證信息來幫助應(yīng)對不斷增加的假貨風(fēng)險。此外，還可以考慮引入新的立法或使用現(xiàn)有法律等手段來懲罰偽造信息和冒充他人的假貨生產(chǎn)商。

　　此外，國際性組織和國家政府、私營公司以及其他組織的多學(xué)科交叉方法對于保護(hù)民主社會免受虛假信息的侵害都至關(guān)重要。人工智能對國家安全的影響已成為世界各國重點關(guān)注和研究的議程。

譯者介紹

　　朱先忠，51CTO社區(qū)編輯，51CTO專家博客、講師，濰坊一所高校計算機教師，自由編程界老兵一枚。早期專注各種微軟技術(shù)（編著成ASP.NET AJX、Cocos 2d-X相關(guān)三本技術(shù)圖書），近十多年投身于開源世界（熟悉流行全棧Web開發(fā)技術(shù)），了解基于OneNet/AliOS+Arduino/ESP32/樹莓派等物聯(lián)網(wǎng)開發(fā)技術(shù)與Scala+Hadoop+Spark+Flink等大數(shù)據(jù)開發(fā)技術(shù)。

　　原文標(biāo)題：Think deepfakes don’t fool you? Sorry, you’re wrong

　　鏈接：https://thenextweb.com/news/deepfakes-fool-you