近年來(lái)，隨著生成式人工智能的飛速發(fā)展，語(yǔ)音克隆、圖片克隆甚至視頻克隆（數(shù)字人）等深度偽造技術(shù)不斷成熟，已經(jīng)成為電信詐騙、“殺豬盤(pán)”網(wǎng)絡(luò)詐騙等網(wǎng)絡(luò)犯罪團(tuán)伙的熱門(mén)工具。如何識(shí)別和防范足可以假亂真的語(yǔ)音克隆已經(jīng)成為提高民眾安全意識(shí)的迫切議題。

近日，美國(guó)聯(lián)邦調(diào)查局（FBI）發(fā)布了一項(xiàng)重要建議：與家人設(shè)置一個(gè)專(zhuān)屬“暗號(hào)”或“暗語(yǔ)”，以應(yīng)對(duì)日益猖獗的AI語(yǔ)音克隆騙局。隨著越來(lái)越多的犯罪分子利用生成式AI技術(shù)模仿親友聲音實(shí)施詐騙，F(xiàn)BI提醒民眾，這種簡(jiǎn)單的防護(hù)措施可以有效識(shí)別騙局，保護(hù)財(cái)產(chǎn)安全。

AI語(yǔ)音克隆騙局如何運(yùn)作？

AI語(yǔ)音克隆技術(shù)已發(fā)展到令人驚嘆的地步，犯罪分子僅需一段（短至數(shù)秒鐘的）音頻樣本，就能生成逼真的合成語(yǔ)音，冒充親友，編造緊急情況，例如“遭遇綁架勒索”或“急需醫(yī)療費(fèi)用”，誘騙受害者匯款。

這類(lèi)騙局往往需要獲取目標(biāo)人物的公開(kāi)音頻樣本，例如播客、社交媒體視頻或公開(kāi)演講。因此，如果你的聲音未廣泛傳播，被克隆的可能性相對(duì)較低。但對(duì)公眾人物、企業(yè)高管或常在網(wǎng)上分享內(nèi)容的普通用戶(hù)來(lái)說(shuō)，這種風(fēng)險(xiǎn)較為突出。

暗號(hào)的力量

為了幫助公眾防范AI克隆騙局，F(xiàn)BI在最新發(fā)布的公共服務(wù)公告（I-120324-PSA）中提出了“暗號(hào)驗(yàn)證”方法。其核心思路是：在家人和親密朋友之間設(shè)置一個(gè)獨(dú)特且秘密的詞組，作為“身份驗(yàn)證密鑰”。當(dāng)接到疑似詐騙的來(lái)電時(shí)，只需提出要求對(duì)方說(shuō)出密語(yǔ)，便可輕松識(shí)別對(duì)方的真實(shí)身份。

例如，可以設(shè)置諸如“老鼠進(jìn)洞，黃雀出籠”、“青山不改，綠水長(zhǎng)流”之類(lèi)的暗號(hào)。當(dāng)然，這些例子只是示范，實(shí)際的暗號(hào)應(yīng)高度私密、獨(dú)特，確保安全性。

此外，在接到異常來(lái)電時(shí)，需要留意對(duì)方的通話語(yǔ)氣和用詞。如果對(duì)方聲音雖與親友相似，但語(yǔ)氣或措辭異常，則有可能是AI語(yǔ)音克隆。

語(yǔ)音克隆騙局只是生成式AI被濫用的冰山一角。犯罪分子還利用AI生成逼真的個(gè)人照片、身份證明文件，甚至部署聊天機(jī)器人，在釣魚(yú)網(wǎng)站上引導(dǎo)受害者落入圈套。這些AI工具顯著減少了傳統(tǒng)詐騙中常見(jiàn)的破綻，例如低劣的語(yǔ)法和明顯的假照片，大大提高了詐騙的成功率。

為此，F(xiàn)BI建議公眾限制公開(kāi)分享的個(gè)人音頻和圖像。例如，關(guān)閉社交媒體賬戶(hù)的公開(kāi)訪問(wèn)權(quán)限，僅允許熟人查看內(nèi)容，可以顯著減少成為目標(biāo)的風(fēng)險(xiǎn)。

需要指出的是，“暗號(hào)驗(yàn)證”的概念并非FBI首創(chuàng)。在AI語(yǔ)音合成和深度偽造領(lǐng)域，這一策略最早可追溯到2023年3月27日。AI開(kāi)發(fā)者Asara Near在推特上首次提出：“或許建立一個(gè)‘人類(lèi)驗(yàn)證’暗號(hào)會(huì)很有用。你的聯(lián)系人可以在接到可疑來(lái)電時(shí)向你詢(xún)問(wèn)這個(gè)暗號(hào)，以確認(rèn)他們是在與你本人通話，而不是一個(gè)深度偽造的數(shù)字人?！?/p>

這一想法迅速傳播開(kāi)來(lái)。到2024年2月，彭博社的一篇文章引用業(yè)內(nèi)人士的話指出：“這一理念已在AI研究界廣泛傳播，因?yàn)榘堤?hào)簡(jiǎn)單、免費(fèi)且高效。”

AI克隆時(shí)代如何防騙

GoUpSec安全專(zhuān)家FunyG指出，暗號(hào)/密碼/符契自古以來(lái)就是驗(yàn)證身份的工具。從秦漢的虎符，到現(xiàn)代的多因素身份驗(yàn)證，這種方法經(jīng)久不衰。在當(dāng)今高科技AI身份欺詐的時(shí)代，古老的“暗號(hào)”憑借其私密性和易操作性，依然展現(xiàn)出強(qiáng)大的實(shí)用價(jià)值。FunyG建議用戶(hù)采用以下方法管理個(gè)人“暴露面”并防御深度偽造詐騙：

• 設(shè)定暗號(hào)。與親友創(chuàng)建一個(gè)獨(dú)一無(wú)二的暗號(hào)，并保持秘密。這個(gè)詞組應(yīng)簡(jiǎn)單易記，但難以被他人猜測(cè)。
• 減少個(gè)人語(yǔ)音/視頻/圖片在線暴露。將社交媒體賬戶(hù)設(shè)置為私密模式，減少對(duì)外發(fā)布的音頻或視頻內(nèi)容，尤其是高質(zhì)量語(yǔ)音片段和面部視頻/圖片。
• 警惕異常通話。接到緊急求助來(lái)電時(shí)，仔細(xì)觀察對(duì)方的語(yǔ)氣和措辭是否與本人一致。
• 多層驗(yàn)證。在財(cái)務(wù)操作等敏感場(chǎng)景中，始終使用多種身份驗(yàn)證方法，避免單一因素被攻破。
• 保持警惕。對(duì)任何緊急的資金請(qǐng)求保持冷靜，必要時(shí)直接通過(guò)其他渠道核實(shí)情況。

AI時(shí)代的安全思考

隨著AI技術(shù)的普及與進(jìn)步，詐騙手段也在快速升級(jí)。語(yǔ)音克隆和深度偽造技術(shù)的應(yīng)用，揭示了技術(shù)的兩面性：一方面，它們推動(dòng)了人類(lèi)生活的便利與效率；另一方面，也為犯罪分子提供了更高效、更強(qiáng)大的工具。

“暗號(hào)驗(yàn)證”方法提醒我們，在最具顛覆性的AI技術(shù)革命中，最古老的安全方法和智慧依然有用武之地。我們開(kāi)發(fā)先進(jìn)安全技術(shù)和防御工具的同時(shí)，不要忘記從傳統(tǒng)文化和智慧中汲取靈感和方法，提升人的安全意識(shí)和“免疫力”。