怎么也不會想到，韓國“深度偽造”（Deepfake）AI換臉事件鬧大了后，韓國網(wǎng)友會來中國社交平臺上發(fā)求助帖，并登上了熱搜。

*圖片來源：微博

在這次事件中，韓國男性用自己熟人的kakaotalk頭像（類似微信的聊天軟件）或上傳到instagram的照片（社交軟件）制造“deepfake視頻”并戲弄女性。導(dǎo)致以女性為主的近千人受到侵害，200多所學(xué)校牽涉其中，初高中生未成年人作案比例驚人，網(wǎng)友直呼是“韓國N號房2.0版本”案件再現(xiàn)。

*圖片來源：微博

并且據(jù)該位韓國女網(wǎng)友表示：該事件的加害者，目前是暫時關(guān)閉了telegram(可加密聊天視頻軟件），并預(yù)告說如果安靜的話會重新建立deepfake房間......

*圖片來源：微博

面對瘋狂的輿論環(huán)境，集體失聲的韓國主流媒體以及沉默不作為的相關(guān)執(zhí)法部門，不敢想象韓國女性到底有多無助，才會選擇將這一事件翻譯成多國語言，去其他國家的互聯(lián)網(wǎng)平臺尋求幫助。目前，此事件已經(jīng)引起了全球媒體的關(guān)注，整個世界都為韓國發(fā)生的事感到震驚。

AI換臉技術(shù)橫行，色情視頻泛濫爆發(fā)恐慌

事情的起因始于8月28日，一位IP定位在韓國的網(wǎng)友在社交平臺發(fā)布了一則求救信息，其中提到：韓國國內(nèi)AI換臉技術(shù)橫行，很多女學(xué)生、老師、甚至是未成年人都被AI換臉做成了特殊用途的視頻，這些視頻在網(wǎng)絡(luò)上廣為傳播，給當(dāng)事人的生活帶來了巨大的挑戰(zhàn)，她請求中國網(wǎng)友幫她們轉(zhuǎn)發(fā)擴(kuò)散，以引起社會的關(guān)注。

*圖片來源：微博

次日，又有一名韓國網(wǎng)友出來發(fā)聲，她說自己是一名18歲的學(xué)生，由于AI換臉現(xiàn)象泛濫，導(dǎo)致她現(xiàn)在走在路上都怕被人偷拍，就連最親近的人都不敢相信，她希望中國的網(wǎng)友能幫她走出困境。

*圖片來源：微博

事實(shí)上，這件事的開端可以追溯到今年5月。據(jù)《韓聯(lián)社》5月21日報(bào)道稱，首爾大學(xué)畢業(yè)生樸某和姜某，從2021年7月至2024年4月期間，涉嫌利用 Deepfake 技術(shù)換臉合成色情照片和視頻，并在 Telegram私密聊天室里傳播，受害女性多達(dá)61人，其中包括12名首爾大學(xué)學(xué)生。當(dāng)時，該事件被稱為“首爾大學(xué)版 N 號房”。也就是從那時起，韓國社會因 Deepfake 出現(xiàn)了恐慌情緒，人們越發(fā)開始擔(dān)心自己會被 Deepfake 的魔爪抓住。

更可怕的是，諸如此類這樣的聊天室還不止一個，而是大量存在，里面鋪天蓋地都是韓國女高中生、大學(xué)生、白領(lǐng)，甚至未成年人的暴露視頻，涉及人數(shù)高達(dá)22萬人，都快要趕上韓國一年的出生人口了。

*圖片來源：網(wǎng)絡(luò)

之所以會有這么多的視頻，是因?yàn)槭录澈蟮牟邉澱咄瞥隽艘粋€類似投名狀的規(guī)定，那就是每個進(jìn)入聊天室的新人，必須要上傳數(shù)個女性熟人的AI換臉成人視頻，群組里只接受一起干齷齪事的人進(jìn)入，他們認(rèn)為只有這樣才能保證組織的純凈性。

*圖片來源：Telegram

在這種病毒式拉新的推動下，受害的韓國女性越來越多，有的是被自己的弟弟或者哥哥偷拍，有的是在學(xué)校被自己的同學(xué)偷拍，有的是被熟人在朋友圈找到了素材……總之，只要你有一張照片流傳出去，用不了多久，你的暴露視頻就會被大量韓國男性見證。

更有甚者還會拿著AI換臉視頻去敲詐勒索當(dāng)事人，甚至提出過分要求，有的還會直接公布受害者的姓名、電話、家庭地址，導(dǎo)致當(dāng)事人聲名盡毀，完全不敢出門。而今，這份恐慌，終于全面爆發(fā)了。

*圖片來源：網(wǎng)絡(luò)

Deepfake與「惡」的距離，到底有多遠(yuǎn)？

所以我們頻繁提到的這個Deepfake到底是個什么東西？它為什么如此“神通廣大”？

事實(shí)上，Deepfake技術(shù)是一種基于深度學(xué)習(xí)算法的人臉交換技術(shù)，還可以生成對抗網(wǎng)絡(luò)（GANs），來創(chuàng)建或操縱音視頻內(nèi)容，使得生成的圖像、視頻和音頻看起來極其逼真。簡單來說就是它能夠在圖像或視頻中將一張臉替換成另一張臉，它的出現(xiàn)使得篡改或生成高度逼真且難以甄別的音視頻內(nèi)容成為可能，觀察者最終無法通過肉眼明辨真?zhèn)?。再說的通俗易懂點(diǎn)，就是把圖片或者視頻中A的臉換到B的頭上，達(dá)到以假亂真的效果。

*圖片來源：mdpi官網(wǎng)

從技術(shù)角度來說，它的核心是一個自動編碼器，實(shí)際上是一個深度神經(jīng)網(wǎng)絡(luò)，它能夠接收數(shù)據(jù)輸入，并將其壓縮成一個小的編碼，然后從這個編碼中重新生成原始的輸入數(shù)據(jù)。

*圖片來源：維基百科

Deepfake通過訓(xùn)練一個編碼器和多個解碼器來實(shí)現(xiàn)人臉的替換，其中編碼器負(fù)責(zé)將人臉圖像編碼成一個中間表示，而解碼器則負(fù)責(zé)將這個表示解碼成目標(biāo)人物的臉。

Deepfake技術(shù)的潛在應(yīng)用領(lǐng)域非常廣泛，包括但不限于電影制作、游戲開發(fā)、廣告、教育、娛樂、社交網(wǎng)絡(luò)以及虛擬現(xiàn)實(shí)等。近幾年隨著技術(shù)的發(fā)展，Deepfake開始被不懷好意的人用于制造虛假信息和深度偽造內(nèi)容，比如偽造政治人物的演講視頻或制作非自愿的色情內(nèi)容等等。

此前就有網(wǎng)友曾在Reddit 論壇上利用 AI 換臉軟件，將《神奇女俠》的主角蓋兒?加朵的臉移花接木到成人電影主角身上。

*圖片來源：網(wǎng)絡(luò)

今年年初，X、Facebook 等社交平臺上出現(xiàn)了大量泰勒?斯威夫特的 Deepfake“不雅照”，也鬧得滿城風(fēng)雨。

*圖片來源：網(wǎng)絡(luò)

甚至有人將公開的的算法加以改造推出相關(guān) App，大大降低了使用 AI 換臉的門檻。由于操作簡單，Deepfake 可以做到害人于無形，僅需一張自拍照或帶有肖像的照片，就會被合成到不雅圖片或視頻中。因此不少網(wǎng)友將女明星的臉換到色情片中，給諸多女星造成了極大困擾。

雖然后續(xù)各個平臺為了遏止“換臉色情電影”的歪風(fēng)，紛紛禁止相關(guān)內(nèi)容出現(xiàn)，但“潘多拉之盒”已然打開，想關(guān)上就沒那么容易。

而Deepfake 的危害不僅僅體現(xiàn)了色情方面，運(yùn)用于詐騙中亦能做到防不勝防。

今年2月，香港一家跨國公司員工，被騙子邀請進(jìn)了用Deepfake做的「高管視頻會議」中，下令讓他轉(zhuǎn)了2億港幣到不知名中賬戶，5天之后才發(fā)現(xiàn)被騙了。這不僅是香港歷史上損失最慘重的“變臉”案例，而且也是首次涉及AI“多人變臉”的詐騙案。

直播版Deepfake支持實(shí)時視頻換臉，升級速度太恐怖

其實(shí)自近幾年 AI 的浪潮興起后，由于其展現(xiàn)出的功能性過于強(qiáng)大，加上其迭代速度日新月異，因此圍繞在AI身上的爭議就沒斷過。

可能很多人對它的印象都還只停留在照片換臉的階段，然而Deepfake早已經(jīng)為人們帶來了新的“驚喜”。

某天，你漫不經(jīng)心地打開視頻軟件，卻突然看見穿著老汗衫的馬斯克坐在出租屋里一本正經(jīng)的直播中，你揉揉眼睛覺得是自己看錯了。

*圖片來源：網(wǎng)絡(luò)

結(jié)果繼續(xù)點(diǎn)進(jìn)下一個直播間，又發(fā)現(xiàn)一個敞著POLO衫領(lǐng)口的馬斯克。打著手機(jī)閃光燈，對著自己的臉晃來晃去。

*圖片來源：網(wǎng)絡(luò)

這下你突然意識到，這些馬斯克都是利用Deepfake生成的“副本”。而這樣的直播，僅需一張照片，就能換臉生成。本地安裝一下，就能達(dá)到實(shí)時無延遲，還支持實(shí)時預(yù)覽。

也就是說，無論搞在線會議還是直播帶貨，可以用任何人的臉了。比如一打開會議軟件，50個扎克伯格正在開視頻會議；再一打開直播間，100個羅永浩正坐在里面發(fā)大額優(yōu)惠券。怎么樣？是不是有點(diǎn)瘆人了。

這款軟件名為Deep-Live-Cam，使用時甚至無需專用硬件加速。其憑借“僅需1張照片就能偷走你的臉去直播”的噱頭，直奔GitHub熱榜第一，24小時狂瀾1600+星。不少圍觀網(wǎng)友戲稱：這下好了，以后開會不用我本人出席了。

根據(jù)作者本人分享的“食用技巧”，主要分為四個步驟：

首先進(jìn)行一些配置：python (3.10版本推薦）；pipgit；ffmpe；visual studio 2022 runtimes (windows)；克隆存儲庫，然后下載兩個模型：GFPGANv1.4和inswapper_128_fp16.onnx，并將其放到models這個文件夾中。

*圖片來源：網(wǎng)絡(luò)

最后再安裝依賴項(xiàng)；如果想使用GPU加速，作者也進(jìn)一步提供了操作指導(dǎo)。安裝完成之后就可以進(jìn)行使用了，不過首次運(yùn)行時會下載一個大約300M的模型。

*圖片來源：Deep-Live-Cam

如圖所示，選擇一張臉的圖像以及目標(biāo)圖像or視頻，然后點(diǎn)擊Live。這個項(xiàng)目的前身叫做roop-cam，拍攝一段視頻，用你選擇的人臉替換其中的人臉。您只需要準(zhǔn)備一張所需人臉，比如寡姐的圖像。整個過程無需數(shù)據(jù)集，無需訓(xùn)練。

*圖片來源：網(wǎng)絡(luò)

而且你猜怎么著？操作門檻這么低、效果這么好的項(xiàng)目，它居然還開源了。隨著開源時間漸長，開發(fā)者和圍觀網(wǎng)友們的討論也日益增多，不少網(wǎng)友認(rèn)為開源的這個決定十分瘋狂。同時，也有很多人表示，這個世界已經(jīng)真假難辨了。但不可否認(rèn)的是，AI生成、AI換臉走向幾乎無法區(qū)分的照片級真實(shí)感，已經(jīng)是大勢所趨。AI技術(shù)的演變，讓后真相時代到來成為現(xiàn)實(shí)。而今肉眼難辨真假也確實(shí)令人細(xì)思恐極。

從照片換臉到視頻換臉、再到如今的直播換臉，面對被黑灰產(chǎn)玩到飛起的AI技術(shù)，作為防護(hù)方只能在后面見招拆招，每個人都必須提高安全警惕，畢竟不是每個“馬斯克”都是真的馬斯克。

AI“貼臉開大”，不如試試用魔法打敗魔法

AI技術(shù)作為21世紀(jì)最具變革力的科技之一，在帶來機(jī)遇的同時，也帶來了風(fēng)險與挑戰(zhàn)。特別是近幾年伴隨著生成式 AI 的火熱出圈，AI 開始加快在各行各業(yè)的技術(shù)落地，越來越多的場景涌現(xiàn)。與此同時，AI 也為不法之徒提供了更便捷的工作，給個人、企業(yè)網(wǎng)絡(luò)安全都帶來了更多威脅。

通過 AI 技術(shù)，攻擊者將更加快速、高效地?fù)魸⑵髽I(yè)的安全防御，而企業(yè)的數(shù)據(jù)也將在這種情況下面臨更大的威脅。

雖然在AI 時代下企業(yè)面臨著更大的網(wǎng)絡(luò)安全和數(shù)據(jù)安全的挑戰(zhàn)，但如果我們換個思路來看，其強(qiáng)大能力也為安全防護(hù)技術(shù)的變革提供了新的思路?！坝?AI 的力量來對抗 AI ”也不失為一個守護(hù)網(wǎng)絡(luò)安全的方向。除了傳統(tǒng)的 AI 技術(shù)與安全產(chǎn)品的融合以外，去年火熱的 AIGC 技術(shù)也為安全行業(yè)提供了更多的技術(shù)選擇。比如：通過 AI 自動學(xué)習(xí)識別，預(yù)測一些潛在的風(fēng)險，并將這些風(fēng)險自動隔離起來，或者通過 AI 的賦能，讓企業(yè)級防火墻具備更強(qiáng)的應(yīng)變能力等等。

AI大模型能夠基于海量文本進(jìn)行預(yù)訓(xùn)練的大模型，成為提供智能安全“參謀”，對癥提出適當(dāng)?shù)姆治龊头烙呗?。企業(yè)可以基于“以攻測防——以攻促防——攻防一體化”的安全理念，利用AI大模型模擬各類攻擊場景，不斷探索模型和系統(tǒng)的弱點(diǎn)，以此推動算法和工程端的防御能力加強(qiáng)，也可實(shí)現(xiàn)更智能化的安全防控。通過簡單的自然語言描述快速分析安全局勢，提出應(yīng)對措施建議，輔助安全團(tuán)隊(duì)規(guī)劃解決方案等等。

另外，還可以通過AI大模型技術(shù)學(xué)習(xí)風(fēng)險知識和標(biāo)準(zhǔn)規(guī)則來提升 AI 對于風(fēng)險的認(rèn)知理解能力，以實(shí)現(xiàn)用大模型對抗大模型來進(jìn)行極速防御和快速冷啟動的目的。

此前有業(yè)內(nèi)專家就曾表示過：相比人工收集的有限樣本，大模型生成的海量多樣化樣本，將使安全檢測模型“見多識廣”，更快適應(yīng)新的威脅方式，以AI對抗AI，將成為網(wǎng)絡(luò)安全的一個關(guān)鍵的進(jìn)化方向。

在AI技術(shù)飛速發(fā)展的浪潮下，人們看到了AI驚艷表現(xiàn)的光彩一面，但同時黑暗的一面也正在暗自發(fā)力，野蠻生長。

無論是對企業(yè)還是個人而言，AI安全問題至關(guān)重要。但說歸說，真正想做好還是很難，即便像OpenAI這樣的巨頭，也被曝出“超級對齊團(tuán)隊(duì)”疑似解散，并沒有分給AI安全足夠的資源與關(guān)注度的問題。那可想而知其他更多追趕其后的AI企業(yè)，在平衡技術(shù)與安全的問題上勢必會面臨更大的阻力。但無論如何，如今的AI安全已經(jīng)不再是一個可選項(xiàng)，而是必選項(xiàng)。