這些被篡改的內(nèi)容在社交媒體、即時通訊應用和視頻分享平臺上廣泛傳播，模糊了現(xiàn)實與虛構(gòu)之間的界限。

“Deepfake”一詞是在2017年由一位Reddit用戶創(chuàng)造的，當時該用戶創(chuàng)建了一個以此命名的子論壇(subreddit)。這個子論壇被用來分享AI生成的視頻，其中經(jīng)常包含名人換臉的色情內(nèi)容。

起初，人們制作Deepfake是為了娛樂和消遣，但隨著時間的推移，它們已成為犯罪分子手中危險的工具，用于詐騙、身份盜用、勒索和傳播虛假信息。

更令人擔憂的是，現(xiàn)在制作Deepfake已不再需要高超的技能。

Deepfake背后的技術(shù)

Deepfake主要依賴于一種名為生成對抗網(wǎng)絡(Generative Adversarial Networks，簡稱GANs)的技術(shù)。從本質(zhì)上講，GANs涉及兩個協(xié)同工作的算法。

第一個算法是生成器，負責創(chuàng)建假內(nèi)容，如視頻或圖像。第二個算法是判別器，負責判斷內(nèi)容是否真實。這兩個算法相互推動、共同進步：生成器越來越擅長制作逼真的假內(nèi)容，而判別器則越來越擅長發(fā)現(xiàn)不完美之處。

另一種常用于任務(如換臉)的技術(shù)是自動編碼器(autoencoders)。與GANs不同，自動編碼器不使用生成器和判別器。相反，它們專注于將人的面部特征壓縮成一種小巧、易于管理的格式，然后將其重建到另一個人的臉上。盡管這種方法不使用GANs，但它仍然能夠制作出令人信服的Deepfake，特別是對于換臉等簡單任務。

隨著各種AI工具的普及，從開源軟件(如DeepFaceLab、Faceswap)到手機應用(如Zao、Reface)，現(xiàn)在制作Deepfake只需要一臺筆記本電腦或智能手機以及合適的軟件。

網(wǎng)絡犯罪分子將Deepfake武器化

根據(jù)Entrust的一份報告，2024年每五分鐘就會發(fā)生一起Deepfake攻擊。在一起案例中，通過Deepfake視頻會議結(jié)合社會工程學手段，導致一家跨國公司損失超過2500萬美元。

這些詐騙對加密貨幣公司造成了重大影響，平均損失達44萬美元。

最近一起引起轟動的詐騙案涉及一名法國女性，她被一名冒充演員布拉德·皮特(Brad Pitt)的騙子欺騙。騙子利用AI生成的圖像讓她相信他們正在談一場浪漫戀愛。在18個月的時間里，這名女性向騙子轉(zhuǎn)賬83萬歐元，以為這是用于皮特遭遇的醫(yī)療緊急情況。

除了造成經(jīng)濟損失，此類騙局還會導致情感困擾，破壞對數(shù)字通信的信任，并擾亂企業(yè)運營。

鑒于全球復雜的地緣政治形勢，這項技術(shù)還被用于傳播虛假信息，特別是在政治領(lǐng)域。這些AI生成的視頻和音頻記錄可以偽造候選人發(fā)表爭議性言論或從事破壞性行為，從而可能影響選民的投票決定。因此，它們可能對民主制度產(chǎn)生毀滅性的影響。

如何識別Deepfake

盡管Deepfake在不斷改進，但它們?nèi)匀淮嬖诓煌昝乐?，這有助于提升我們的識別能力。

• 面部動作：觀察是否有不自然的眨眼模式或眼睛看起來不自然地靜止。對事件反應中的細微延遲或表情不匹配也可能是破綻。
• 光線和陰影：檢查主體面部的光線是否與周圍環(huán)境相匹配。光線不一致，如移動的光或不規(guī)則的陰影和反射，可能表明存在篡改。
• 音畫同步：確保口型動作與音頻自然對齊。如果唇音不同步或聲音有輕微失真，可能是編輯的痕跡。
• 視覺偽影：檢查面部與頭發(fā)或背景相接的邊緣。不尋常的模糊、扭曲的邊界、像素化或重影效果可能表明視頻已被篡改。

如何減輕Deepfake風險

我們可以采取一些預防措施來保護自己：

• 使用Deepfake檢測工具和軟件：利用專門的工具和基于AI的軟件來檢測Deepfake。這些工具可以分析數(shù)字內(nèi)容中的異常，并幫助驗證其真實性。
• 關(guān)注Deepfake趨勢和技術(shù)：讓自己了解Deepfake技術(shù)的最新進展。了解新技術(shù)和常見的操縱跡象有助于識別Deepfake。
• 實施多因素身份驗證(MFA)來驗證身份：這可以防止攻擊者即使制作出逼真的Deepfake也能訪問敏感賬戶。
• 為敏感通信建立暗語或驗證流程：這有助于確保與您通信的人確實是他們所聲稱的人。在處理交易或敏感個人事務時特別有用。
• 限制在網(wǎng)上分享個人媒體：您在網(wǎng)上分享的個人媒體越多，為不法分子制作Deepfake提供的素材就越多。請謹慎分享社交媒體上的圖片、視頻和其他媒體。調(diào)整隱私設(shè)置，以便只有受信任的個人或群體能夠查看。

雖然我們無法預知未來，但20年前不可能實現(xiàn)或只有少數(shù)人能接觸到的事物，現(xiàn)在每個人都可以接觸到，這也意味著懷有惡意的人也能接觸到。

隨著技術(shù)的發(fā)展，區(qū)分真?zhèn)螌⒆兊迷絹碓嚼щy，而且我們也沒有魔法棒可以保護自己。我們能做的就是小心謹慎，并采取一切力所能及的措施來保護自己。當然，不要相信在互聯(lián)網(wǎng)或社交媒體上看到的一切。