Deepfake被玩出圈！有人用它模仿俄羅斯反對(duì)派人物，在Zoom上“調(diào)戲”歐洲議員
大數(shù)據(jù)文摘出品
作者：王燁
最近幾天，一些歐洲高級(jí)議員懵了。
他們收到了一些“俄羅斯反對(duì)派人物”的視頻會(huì)議邀請(qǐng)，還煞有其事地討論了克里米亞問題之類的政治事務(wù)，結(jié)果發(fā)現(xiàn)在這些所謂的“俄羅斯反對(duì)派人物”都是別人用Deepfake換臉假冒的。
這些受騙者包括拉脫維亞議會(huì)外交事務(wù)委員會(huì)主席Rihards Kols，以及來自愛沙尼亞和立陶宛的議員。英國(guó)外交事務(wù)特別委員會(huì)主席Tom Tugendhat也表示，他也是目標(biāo)之一。
Deepfake真是出息了，終于從娛樂圈搞到國(guó)際政治了。
聊完發(fā)現(xiàn)被騙，拉脫維亞議會(huì)外事委主席發(fā)推吐槽
本月早些時(shí)候，有一個(gè)自稱是沃爾科夫的人通過電子郵件聯(lián)系了拉脫維亞議會(huì)外事委主席Rihards Kols，并與他進(jìn)行了一個(gè)簡(jiǎn)短的視頻電話會(huì)議，討論了對(duì)俄羅斯政治和克里米亞問題。
Rihards Kols說，直到后來他才意識(shí)到自己可能是一個(gè)高科技惡作劇的受害者。
Rihards Kols在推特中放出了兩張照片，左邊是真正的俄羅斯反對(duì)派人物L(fēng)eonid Volkov，右側(cè)是視頻會(huì)議中用Deepfake生成的Leonid Volkov。
“這是一個(gè)非常痛苦的教訓(xùn)，但也許我們也應(yīng)該感謝這位虛假的Volkov，感謝他給我們、立陶宛同事和愛沙尼亞同事上了這堂課，”他寫道。“顯然，所謂的真相衰退或后真相和后事實(shí)時(shí)代有可能嚴(yán)重威脅地方和國(guó)際國(guó)家、政府和社會(huì)的安全與穩(wěn)定。”
被別人假冒的Volkov自然很生氣，他也在推特上指責(zé)經(jīng)常以西方官員為目標(biāo)的俄羅斯惡作劇“高人”二人組弗拉基米爾·庫茲涅佐夫(沃萬)和阿列克謝·斯托利亞羅夫(雷克薩斯)是這件事的幕后推手。
曾經(jīng)惡搞過多國(guó)政要的弗拉基米爾·庫茲涅佐夫(沃萬)和阿列克謝·斯托利亞羅夫(雷克薩斯)
阿列克謝 · 斯托利亞羅夫(雷克薩斯)在 Facebook 上聯(lián)系到Rihards Kols，他沒有否認(rèn)與Rihards Kols通過話，說他會(huì)“保守這個(gè)秘密”。他否認(rèn)使用Deepfake使自己看起來像Volkov，他寫道: “很可能Volkov收到了錯(cuò)誤的信息。”
換臉背后的技術(shù)支撐——Deepfake
從北京衛(wèi)視把“吳秀波”的臉換掉，到迅速隕落的換臉App Zao，再到現(xiàn)在在國(guó)際政治上“攪渾水”，這背后的技術(shù)Deepfake早已在AI圈家喻戶曉。
Deepfake是一種使用AI深度學(xué)習(xí)，能夠?qū)⒁粡垐D片中人的臉換到其他人的圖片上的技術(shù)。通過這種技術(shù)，我們可以創(chuàng)建一個(gè)非常逼真的“假”視頻或圖片，“換臉”因此得名。
研究人員使用自動(dòng)編碼器神經(jīng)結(jié)構(gòu)，使這一想法成為現(xiàn)實(shí)。基本思路非常簡(jiǎn)單：對(duì)于每張臉，我們都訓(xùn)練一套編碼器和相應(yīng)的解碼神經(jīng)網(wǎng)絡(luò)。編碼時(shí)，使用的是第一個(gè)人的圖片。而解碼時(shí)，卻是使用第二個(gè)人解碼器。
對(duì)于訓(xùn)練部分，試試這菜需要搜集每個(gè)人幾百張不同姿勢(shì)的圖片，用吳秀波這種明星來做訓(xùn)練很容易，畢竟有大量的網(wǎng)絡(luò)公開圖片視頻。
圖片不足時(shí)，我們還可以從現(xiàn)有視頻中提取。在神經(jīng)網(wǎng)絡(luò)訓(xùn)練并學(xué)習(xí)了關(guān)于每個(gè)人面部的特征之后，它自己就能預(yù)測(cè)想出這個(gè)人還沒擺出來的姿勢(shì)。
比如，訓(xùn)練生成John Oliver。
在此技術(shù)出現(xiàn)之前，人們想換個(gè)臉只能依賴手動(dòng)PS。這就要花費(fèi)很多人工和時(shí)間，而且想在視頻里換個(gè)臉更難，每一幀都得換。
但自從這個(gè)叫做“Deepfake”的軟件被匿名開源發(fā)布，一切都不一樣了。
類似的換臉軟件還有一款叫做DeepFaceLab。
在Github上有開源👇
鏈接：https://github.com/iperov/DeepFaceLab
Deepfake攪動(dòng)政壇，技術(shù)才是最后一道防線?
2019年，美國(guó)眾議院議長(zhǎng)Nancy Pelosi的一段深度偽造的談話視頻出現(xiàn)在社交媒體上，這段視頻經(jīng)由特朗普總統(tǒng)分享，在Facebook上獲得了超過250萬次的瀏覽量。
早些的時(shí)候，奧巴馬的臉被“借用”來攻擊特朗普，該視頻在網(wǎng)站上也獲得480萬的瀏覽量。
特朗普本人也難逃一劫，西雅圖電視網(wǎng)曾播放過一段Deepfake的特朗普演講視頻，視頻中特朗普滿臉通紅，還不時(shí)做一些滑稽的表情。由于Deepfake技術(shù)可以運(yùn)用在包括總統(tǒng)在內(nèi)的任何官員身上，美國(guó)兩黨開始擔(dān)心該技術(shù)將成為針對(duì)美國(guó)和其他西方國(guó)家發(fā)起虛假信息戰(zhàn)爭(zhēng)的最新武器。
2019年6月13日，美國(guó)眾議院情報(bào)委員會(huì)召開關(guān)于人工智能Deepfake的聽證會(huì)，公開談?wù)摿薉eepfake技術(shù)對(duì)國(guó)家、社會(huì)和個(gè)人的風(fēng)險(xiǎn)及防范和應(yīng)對(duì)措施。
法律法規(guī)只能把正規(guī)企業(yè)的技術(shù)關(guān)進(jìn)籠子，但是很難阻止個(gè)人的行為。比如這次假冒“俄羅斯反對(duì)派人物”忽悠了一幫歐洲高級(jí)議員的人，到現(xiàn)在都沒有人宣布為此事負(fù)責(zé)，人們也不知道這背后究竟是誰。
能夠打敗魔法的也許還是魔法，能不能用技術(shù)手段檢測(cè)Deepfake呢?答案是可以的。
就在Deepfake開源不久，F(xiàn)acebook首席技術(shù)官M(fèi)ike Schroepfer就發(fā)布博客宣布，公司正和微軟聯(lián)合來自麻省理工、牛津等大學(xué)的研究者，通過置辦“Deepfakes鑒別挑戰(zhàn)賽”，探索如何通過數(shù)據(jù)集和基準(zhǔn)測(cè)試檢測(cè)Deepfake換臉視頻。
美國(guó)國(guó)防部也研究了一項(xiàng)名為forensic的圖像鑒定技術(shù)。他們的思路是尋找圖片和視頻中的不一致性，例如不一致的燈光、陰影和相機(jī)噪音。
加州大學(xué)河濱分校的學(xué)者也提出了檢測(cè)Deepfake偽造圖像的新算法。同樣的，算法的一個(gè)組成部分是各種“遞歸神經(jīng)網(wǎng)絡(luò)”，它能將有問題的圖像分割成小塊，然后逐像素觀察這些小塊。神經(jīng)網(wǎng)絡(luò)經(jīng)過訓(xùn)練可以檢測(cè)出數(shù)千幅Deepfake圖像，它找到了贗品在單像素水平上的一些特質(zhì)。
孵化自清華大學(xué)人工智能研究院的RealAI團(tuán)隊(duì)也宣稱，由于Deepfake生成的造假視頻畫面會(huì)有不“自然”的紋理存在，他們通過海量視頻訓(xùn)練神經(jīng)網(wǎng)絡(luò)，讓其學(xué)習(xí)正常情況中的紋理特征，再以此檢測(cè)造假視頻中不一致的紋理。利用該技術(shù)，可以對(duì)造假視頻實(shí)現(xiàn)逐幀檢測(cè)，準(zhǔn)確率高達(dá)90%以上。
不過，這次歐洲議員和假冒的“俄羅斯反對(duì)派”人物視頻會(huì)議發(fā)生在Zoom上，顯然，Zoom還沒有搭載在線檢測(cè)Deepfake的技術(shù)手段。
【本文是51CTO專欄機(jī)構(gòu)大數(shù)據(jù)文摘的原創(chuàng)譯文，微信公眾號(hào)“大數(shù)據(jù)文摘（ id: BigDataDigest）”】
