deepfake 出現(xiàn)以來(lái)引發(fā)了大量爭(zhēng)議，也帶來(lái)了諸多倫理和社會(huì)問(wèn)題。最近，F(xiàn)acebook、微軟等巨頭已開(kāi)始著手打擊 deepfake 濫用，斥資 1000 多萬(wàn)美元舉辦 deepfake 檢測(cè)挑戰(zhàn)賽。谷歌也不甘落后，近日，這家科技巨頭宣布開(kāi)源大型 deepfake 視頻數(shù)據(jù)集，以支持社區(qū)對(duì) deepfake 檢測(cè)的研究。

深度學(xué)習(xí)催生出許多幾年前難以想象的技術(shù)?，F(xiàn)代生成模型（modern generative model）就是其中一例，它能夠合成超逼真的圖像、語(yǔ)音、音樂(lè)甚至視頻。這些模型已被廣泛應(yīng)用于大量用途，包括直接基于文本生成類人語(yǔ)音、為醫(yī)療影像研究生成訓(xùn)練數(shù)據(jù)等。

和其他革新性技術(shù)一樣，生成模型也帶來(lái)了新的挑戰(zhàn)，如「deepfake」。2017 年底，deepfake 首次亮相，之后出現(xiàn)了很多開(kāi)源 deepfake 生成方法，導(dǎo)致合成視頻片段大量涌現(xiàn)。盡管很多此類視頻的制作初衷是搞笑，但還是有一些 deepfake 視頻對(duì)個(gè)人和社會(huì)造成了惡劣影響。

谷歌嚴(yán)肅地考慮了這些問(wèn)題。去年，谷歌發(fā)布了「AI 準(zhǔn)則」，承諾探索 AI 優(yōu)秀實(shí)踐，以減輕 AI 濫用和 AI 危害。去年 1 月，谷歌發(fā)布了一個(gè)合成語(yǔ)音數(shù)據(jù)集，用于支持 ASVspoof 2019 挑戰(zhàn)賽，幫助開(kāi)發(fā)高性能的假音頻檢測(cè)器。作為賽事的數(shù)據(jù)庫(kù)，該數(shù)據(jù)集已被 150 多個(gè)研究機(jī)構(gòu)和工業(yè)界組織下載，目前該數(shù)據(jù)集已向公眾免費(fèi)開(kāi)放。

近日，谷歌 AI 與 Jigsaw（原 Google Ideas）合作發(fā)布了大型視覺(jué) deepfake 數(shù)據(jù)集，該數(shù)據(jù)集已被納入慕尼黑工業(yè)大學(xué)和那不勒斯腓特烈二世大學(xué)創(chuàng)建的 FaceForensics 基準(zhǔn)（由谷歌聯(lián)合贊助）。

FaceForensics 基準(zhǔn)數(shù)據(jù)集地址：https://github.com/ondyari/FaceForensics/

谷歌此次發(fā)布的 deepfake 數(shù)據(jù)集中的視頻示例。在其生成過(guò)程中，隨機(jī)選擇一對(duì)演員，深度神經(jīng)網(wǎng)絡(luò)對(duì)其執(zhí)行換臉操作。

為了制作該數(shù)據(jù)集，谷歌在過(guò)去一年中與多名有償和無(wú)償演員合作拍攝了數(shù)百個(gè)視頻。然后，谷歌使用公開(kāi)可用的 deepfake 生成方法，基于這些視頻創(chuàng)建出數(shù)千個(gè) deepfake 視頻。這些真假視頻共同構(gòu)成了該數(shù)據(jù)集，谷歌創(chuàng)建此數(shù)據(jù)集的目的是支持 deepfake 檢測(cè)方面的研究。作為 FaceForensics 基準(zhǔn)的一部分，該數(shù)據(jù)集目前已開(kāi)源，研究社區(qū)可免費(fèi)獲取并用于開(kāi)發(fā)合成視頻檢測(cè)方法。

在多種場(chǎng)景中對(duì)演員進(jìn)行拍攝。上圖為真實(shí)演員，下圖是對(duì)應(yīng)的 deepfake 示例，二者的差異程度取決于創(chuàng)建 deepfake 所用的另一位演員。

deepfake 技術(shù)發(fā)展迅速，谷歌表示將繼續(xù)增加該數(shù)據(jù)集中的數(shù)據(jù)，并在該領(lǐng)域中持續(xù)開(kāi)展合作。谷歌堅(jiān)定地支持研究社區(qū)減輕合成媒介濫用所帶來(lái)的潛在危害，而該數(shù)據(jù)集的發(fā)布就是其中的重要一步。