譯者 | 晶顏

審校 | 重樓

在過去的幾年里，由于深度偽造（Deepfakes）技術的出現(xiàn)，數(shù)字領域的現(xiàn)實與虛擬之間的界限已經(jīng)緩慢而穩(wěn)步地變得越來越模糊。

復雜的、人工智能驅(qū)動的合成媒體（Synthetic Media）已經(jīng)從好萊塢的一個新奇概念發(fā)展成為一種實用工具，被政治動機驅(qū)動的威脅行為者和網(wǎng)絡犯罪分子用于合成虛假信息和實施欺詐。

如今，隨著人工智能的應用能力爆炸式增長，深度偽造和合成媒體的威脅也隨之增長。我們對網(wǎng)絡信息真實性的信任度從未如此之低，也從未如此脆弱。

在這篇文章中，我們將深入研究今天所看到的深度偽造世界，探索其本質(zhì)、風險、對現(xiàn)實生活的影響以及應對這些高級威脅所需的措施。

什么是深度偽造？

深度偽造是人工創(chuàng)造的媒體，通常是視頻和音頻，旨在展示從未發(fā)生過的事件或人們參與的行為。它們利用復雜的人工智能（AI）和機器學習（ML）技術，特別是生成式對抗網(wǎng)絡（GAN）。

GAN涉及兩個AI模型：一個生成內(nèi)容（生成器），另一個評估其真實性（鑒別器）。生成器生成越來越逼真的假視頻或假音頻，而鑒別器不斷評估內(nèi)容的逼真度，導致生成的假視頻的質(zhì)量和可信度迅速提高。

最初，深度偽造在娛樂和社交媒體上找到了自己的位置，提供了創(chuàng)作內(nèi)容的新穎方式，比如在視頻中將名人的臉疊加到不同的身體上，或者實現(xiàn)逼真的聲音模仿。然而，這項技術創(chuàng)造高度令人信服的贗品的潛力，很快就從單純的新奇事物轉(zhuǎn)變?yōu)樘摷傩畔⒑?/span>被操縱的有力工具。

深度偽造的網(wǎng)絡安全風險

從政治虛假信息到金融欺詐，深度偽造的后果是深遠且多方面的。下面，我們將探討一些關鍵的例子，以了解這些風險的廣度和深度。

政治性虛假信息

深度偽造通過傳播虛假言論和操縱公眾輿論，對政治穩(wěn)定構成重大風險，特別是當它們被用來制造對政治人物的誤導性陳述時。第一個引人注目的例子發(fā)生在2018年，當時BuzzFeed發(fā)布了一張奧巴馬總統(tǒng)的深度偽造照片。

從那以后，許多其他的案件被曝光；烏克蘭總統(tǒng)弗拉基米爾·澤倫斯基（Volodymyr Zelensky）的一段深度偽造視頻錯誤地將他描繪成承認失敗并敦促烏克蘭人向俄羅斯投降，旨在誤導和打擊公眾士氣。最終，由于發(fā)現(xiàn)澤倫斯基的頭部和身體大小不匹配等不符之處，該視頻被認定為假視頻。

商業(yè)間諜活動

在業(yè)界，深度偽造已經(jīng)成為實施欺詐的有效工具，有可能造成巨額的經(jīng)濟損失。這種騙局在冒充高級管理人員時尤為有效。一家英國能源公司損失了22萬歐元，因為人工智能軟件被用來模仿該公司德國母公司首席執(zhí)行官的聲音，并指示英國首席執(zhí)行官緊急轉(zhuǎn)移資金。

個人身份盜竊和騷擾

當虛假媒體被用來進行身份盜竊和騷擾時，個人權利和隱私極易受到傷害。惡意媒體的創(chuàng)造可能遠比我們以為的更嚴重。在德國，政府非常擔心深度偽造的威脅，以至于發(fā)布了一場廣告宣傳活動來強調(diào)這些危險，警告家長注意與這些技術相關的風險。

操縱金融市場

除了對個人或組織造成傷害之外，深度偽造還可以通過虛假陳述影響投資者決策和市場情緒，擾亂整個金融市場。一個示例是攻擊者曾在一段深度偽造視頻中描述了五角大樓附近發(fā)生的假想爆炸，該視頻短暫地影響了美國股市。

法律和司法濫用

在法律領域，深度偽造可以用來偽造證據(jù)，可能導致司法不公，破壞司法程序的完整性。雖然在法律環(huán)境中尚未出現(xiàn)具體的廣泛實例，但以這種方式使用深度偽造的可能性，引起了人們對法庭上視聽證據(jù)的可靠性和加強核查措施以確保司法公正的必要性的關切。

深度造假的檢測與打擊

與任何工具一樣，人工智能可以用于好的方面，也可以用于壞的方面。目前，業(yè)界正在努力開發(fā)人工智能驅(qū)動的方法來檢測和打擊深度偽造威脅。其中許多工作都集中在分析面部表情和語音生物識別技術上，以發(fā)現(xiàn)人眼和耳朵無法察覺的細微異常。這涉及到使用機器學習模型，并在包含真實和操縱媒體的廣泛數(shù)據(jù)集上訓練它們，以便有效區(qū)分兩者。

通常與加密貨幣相關的區(qū)塊鏈技術也正在成為這場斗爭中的有用工具。區(qū)塊鏈提供了一種方法來驗證媒體文件的來源和真實性，并確認它們是否被更改。所謂的“智能合約”既可以用來驗證數(shù)字內(nèi)容的真實性，也可以用來追蹤它是如何與其他對象交互的，包括任何修改。與可以標記媒體內(nèi)容真實性的人工智能相結(jié)合，智能合約可以觸發(fā)審查過程或提醒相關當局或利益相關者。

此外，業(yè)界還在開發(fā)其他工具，以確保人工智能平臺創(chuàng)建的內(nèi)容可以被檢測為人為的。例如，谷歌的SynthID可以在人工智能生成的音頻內(nèi)容中嵌入聽不見的“水印”。像SynthID這樣的方法旨在確保人工智能工具生成的內(nèi)容即使在被人類或其他編輯軟件操縱后仍然被可靠地檢測為人工生成。

與其他網(wǎng)絡安全領域一樣，教育和宣傳活動在打擊深度偽造威脅方面也發(fā)揮著重要作用。教育個人和組織了解深度偽造，如何發(fā)現(xiàn)它們，以及它們的潛在影響將是至關重要的。技術公司、網(wǎng)絡安全專家、政府機構和教育機構之間的合作在未來幾年將被證明是至關重要的，因為我們將努力制定更全面的戰(zhàn)略來打擊用于不良目的的人工生成內(nèi)容。

深度偽造時代組織和個人的最佳實踐

隨著深度偽造造成的威脅形勢不斷演變，采取策略來減輕與人工智能技術濫用相關的風險變得越來越重要。下述最佳實踐可以幫助組織和個人增強對深度偽造相關安全威脅的認知。

提高認識和培訓

教育是防范深度偽造的基石。定期對員工進行識別深度偽造的培訓，可以顯著降低被欺騙的風險。該培訓應側(cè)重于合成媒體的微妙之處，并與深度偽造技術的最新發(fā)展保持同步。

在組織內(nèi)部培養(yǎng)一種核查文化，任何不尋?；蚩梢傻慕涣?/span>（特別是涉及敏感信息的交流）都要通過多種渠道進行交叉核查。

實現(xiàn)強大的驗證過程

對于關鍵通信，特別是在金融和法律環(huán)境中，實施多因素身份驗證和嚴格的驗證流程是必不可少的。例如，對于高風險交易或敏感信息共享進行語音和視頻通話確認可能是有效的。這種做法可以防止類似于前面提到的CEO偽造聲音進行欺詐活動的事件。

利用先進的網(wǎng)絡安全解決方案

我們可以通過將先進的網(wǎng)絡安全解決方案與深度偽造檢測能力相結(jié)合，利用人工智能來擊敗人工智能。使用人工智能和機器學習來分析和標記潛在深度偽造的工具增加了重要的安全層。

定期軟件和安全更新

維護最新的軟件，包括安全解決方案，對網(wǎng)絡安全至關重要。更新通常包含針對新發(fā)現(xiàn)的漏洞的補丁，這些漏洞可能被深度偽造和其他網(wǎng)絡威脅利用。積極主動地進行軟件更新可以顯著降低發(fā)生安全漏洞的可能性。

與外部專家合作

對于那些內(nèi)部網(wǎng)絡安全能力有限的組織來說，與外部安全專家合作可以提供增強的保護。這些專業(yè)人員可以提供有關最新威脅的信息，并協(xié)助制定專門針對深度偽造和其他新興網(wǎng)絡風險的策略。

個人警惕

作為個人，我們所有人在與媒體接觸時必須保持警惕，這包括對聳人聽聞或有爭議的內(nèi)容保持一定的懷疑態(tài)度，在分享或根據(jù)這些信息采取行動之前核實來源。

利用有助于檢測深度偽造的工具和瀏覽器擴展也有助于加強個人網(wǎng)絡安全實踐。

同樣值得注意的是，與任何其他創(chuàng)作一樣，深度偽造的質(zhì)量也會因創(chuàng)作者的能力和對細節(jié)的把控而良莠不齊。這意味著在某些情況下，仍然有可能發(fā)現(xiàn)不那么先進或復雜的深度偽造。在鑒別視頻過程中需要特別注意的事情包括：

• 不自然的眼球運動：人工智能生成的圖像或視頻可能無法準確地復制復雜而自然的眼球運動。這種差異可以表現(xiàn)為不尋常的眨眼模式或缺乏自然的眼球運動。
• 音頻-視頻同步問題：一些深度造假可能無法同步語音和嘴唇動作，導致明顯的差異。
• 顏色和陰影不一致：人工智能經(jīng)常在持續(xù)渲染顏色和陰影方面表現(xiàn)不佳，特別是在不同的照明條件下。注意膚色或背景顏色的不一致，陰影可能會出現(xiàn)錯位等情況。
• 不尋常的身體動作：人工智能也可能難以保持身體形狀的一致性，導致明顯的扭曲或不規(guī)則。這可能包括突然的、不自然的動作或表情，與一個人通常的動作或反應不一致。

簡而言之，打擊深度偽造需要多方面的方法，結(jié)合教育、強大的驗證過程、先進的技術、軟件維護、專家協(xié)作和個人警惕。這些做法是應對網(wǎng)絡安全領域日益復雜的深度偽造的綜合戰(zhàn)略的組成部分。此外，它們還將有助于抵御其他類型的網(wǎng)絡安全威脅，鼓勵個人和組織在當今以數(shù)字為中心的世界中必備所需要的安全思維。

深度偽造和網(wǎng)絡安全的未來

“潘多拉的魔盒”已經(jīng)打開，我們不能奢望深度偽造消失。相反地，隨著深度偽造變得越來越普遍、越來越微妙，我們將需要制定有效的應對措施，并在某些關鍵領域取得突破。

除了繼續(xù)開發(fā)先進的身份驗證工具外，包括OpenAI和網(wǎng)絡安全公司等人工智能開發(fā)商在內(nèi)的行業(yè)領導者還需要引導人工智能技術的開發(fā)和應用，以建立道德準則，并確保針對深度偽造威脅的強大防御機制。

此外，還需要新的立法和法規(guī)來禁止和懲罰為有害目的制作和傳播深度偽造的媒體。由于數(shù)字媒體的跨國性質(zhì)，還需要在法律框架方面進行國際合作，以有效打擊深度偽造。

正如我們上面提到的，教育公眾提高深度偽造認知和媒體素養(yǎng)是應對此類威脅的一個組成部分。在這場涉及廣泛網(wǎng)絡面（這些面都可能傳播錯誤信息）的斗爭中，僅靠技術和監(jiān)管無法贏得勝利。深度偽造不可避免地擴散需要一種多維的防御方法來應對，結(jié)合技術創(chuàng)新、道德行業(yè)實踐、明智的立法措施和公眾教育。

原文標題：Beyond Illusion | Addressing the Cybersecurity Impact of Deepfakes and Synthetic Media，作者：Migo Kedem