這些內(nèi)容并不全是“深度偽造”(deepfake)，后者特指設(shè)計(jì)得極具誤導(dǎo)性的內(nèi)容。

近年來(lái)，我們看到深度偽造被用于操縱選舉、實(shí)施欺詐和盜竊，以及未經(jīng)他人同意制作色情圖片。

隨著AI工具變得更加強(qiáng)大和易獲取，這些問(wèn)題只可能會(huì)愈演愈烈。例如，埃隆·馬斯克的AI公司xAI開(kāi)發(fā)的Grok 3，現(xiàn)在對(duì)所有X(Twitter)用戶免費(fèi)開(kāi)放，可用來(lái)制作逼真的真人深度偽造內(nèi)容。

有很多工具可以用來(lái)防范深度偽造帶來(lái)的欺騙或?yàn)E用。基于AI的檢測(cè)工具能以不同程度的成功率檢測(cè)內(nèi)容是否經(jīng)過(guò)數(shù)字生成或篡改。多因素身份驗(yàn)證和其他數(shù)字身份驗(yàn)證工具也可以防范社會(huì)工程學(xué)攻擊。

但深度偽造技術(shù)發(fā)展迅速，日新月異，這些措施還遠(yuǎn)遠(yuǎn)不夠，因此，如果你想采取措施保護(hù)自己，那么教育、批判性思維和意識(shí)的培養(yǎng)同樣重要，甚至更加重要。

批判性思維和意識(shí)

技術(shù)可以幫助我們防范深度偽造，但它不是萬(wàn)能的，也不是百分之百可靠的。

這就是為什么我認(rèn)為，防范AI生成的虛假信息帶來(lái)的危害，最好的防御手段是人的能力——情境意識(shí)和批判性思維。

企業(yè)今天就需要開(kāi)始培訓(xùn)員工，讓他們能夠批判性地評(píng)估內(nèi)容和信息。而作為個(gè)人，我們應(yīng)該了解那些居心叵測(cè)之人會(huì)如何以及為何試圖影響我們的想法和選擇——包括我們的民主選擇。

深度偽造帶來(lái)了一些獨(dú)特的挑戰(zhàn)，需要一些特定的技能來(lái)應(yīng)對(duì)：

事實(shí)核查和驗(yàn)證是兩種顯而易見(jiàn)的能力——如今，核實(shí)我們的信息來(lái)源，確定信息的真正來(lái)源比以往任何時(shí)候都更為重要。Facebook開(kāi)發(fā)了一些功能，當(dāng)用戶看到的信息可能具有欺騙性時(shí)會(huì)發(fā)出警告，比如信息來(lái)自似乎試圖隱藏其身份的來(lái)源。

不過(guò)，F(xiàn)acebook也因取消事實(shí)核查功能而受到批評(píng)，此舉可謂一種倒退。

情境意識(shí)通常就像問(wèn)“這合理嗎?”一樣簡(jiǎn)單。

了解背景和情境可能幫助許多人在2022年意識(shí)到這段關(guān)于弗拉基米爾·澤連斯基(Volodymyr Zelensky)向俄羅斯投降的視頻并非真實(shí)。

那家工程公司Arup的員工，被騙子用偽造的老板聲音騙走了2500萬(wàn)美元，如果他多留心這個(gè)要求的異常之處，可能會(huì)更有防備。

批判性思維技能幫助我們了解信息來(lái)自何處，以及他們?yōu)楹我研畔⒔o我們。虛假信息內(nèi)容通常會(huì)以極端的方式利用情緒，制造恐懼、憤怒或興奮。幸運(yùn)的是，我們可以被訓(xùn)練成能夠察覺(jué)自己何時(shí)被以這種方式操縱。

因此，我們?cè)谙M(fèi)任何內(nèi)容時(shí)，應(yīng)該學(xué)會(huì)考慮三件事：

它是在試圖影響我嗎?

它真的可能發(fā)生嗎?

我能相信告訴我信息的人嗎?

強(qiáng)調(diào)用這種批判性思維的方法思考內(nèi)容的重要性，對(duì)保護(hù)我們免受深度偽造影響至關(guān)重要。

適應(yīng)后真相世界

深度偽造技術(shù)只會(huì)變得更加復(fù)雜。我們很可能會(huì)到達(dá)一個(gè)連最好的檢測(cè)工具都無(wú)法總是識(shí)別出偽造視頻、圖像或音頻的地步。

我在這里提到的防御機(jī)制——批判性思維、意識(shí)和推理——可能在更長(zhǎng)的時(shí)間內(nèi)依然有效。

監(jiān)管會(huì)保護(hù)我們嗎?一些國(guó)家的政府已經(jīng)出臺(tái)了關(guān)于深度偽造的法規(guī)，然而，不幸的是，犯罪分子并不總是守法。

因此，各企業(yè)現(xiàn)在就需要做出反應(yīng)，確保每個(gè)人都了解在采取行動(dòng)之前核實(shí)和批判性評(píng)估信息的程序和政策。

對(duì)于個(gè)人而言，意識(shí)到AI虛假信息的危害，無(wú)論是試圖影響我們投票給誰(shuí)，還是我們給誰(shuí)捐款，都應(yīng)該成為我們的第二天性。

這應(yīng)該會(huì)幫助我們?cè)谝粋€(gè)未來(lái)保持正確的方向，在那個(gè)時(shí)候，我們可能無(wú)法確定自己親眼所見(jiàn)是否值得信賴。