[[432458]]

本文經(jīng)AI新媒體量子位（公眾號ID:QbitAI）授權(quán)轉(zhuǎn)載，轉(zhuǎn)載請聯(lián)系出處。

 一位銀行經(jīng)理接到公司董事打來的電話：公司安排了一項收購，要從賬戶里轉(zhuǎn)出巨額資金，希望他批準(zhǔn)這道流程，還附上了相關(guān)律師的電子郵件，以確認(rèn)金額和轉(zhuǎn)入賬戶。

這次交易合法合規(guī)，流程也并無問題，況且還是老板親自打的電話，他就按要求將3500萬美元如數(shù)轉(zhuǎn)出。

晴天霹靂的背后是AI語音轉(zhuǎn)換

直到轉(zhuǎn)完賬之后，這位迪拜高管也萬萬沒有想到，電話那頭熟悉的老板的聲音，其實是用語音克隆技術(shù)合成的。

這樁詐騙案由福布斯報道，但受害者的名字和其他更多細(xì)節(jié)沒有透露。據(jù)估計，這項精密的計劃至少涉及17人，自去年年初，騙取的資金已經(jīng)發(fā)往全球各地的銀行賬戶。

如果不是親耳聽到，應(yīng)該是不會相信會有這么神奇的事。

（完整視頻見下方鏈接)

網(wǎng)友表示，這講話太流暢了，應(yīng)該再加一些停頓……

不過不得不說，能做到這種程度已經(jīng)能夠以假亂真了。如果有更長的時間和更多的素材去訓(xùn)練，相似程度應(yīng)該還能更上一層樓。

更可怕的是，如此逼真的轉(zhuǎn)換，操作起來也不難。

例如在Github上大火的AI擬聲項目Real-Time-Voice-Cloning，能夠在5s內(nèi)克隆你的聲音并生成任意內(nèi)容，還能直接下載或者自行訓(xùn)練合成器。這個視頻就是基于該項目的訓(xùn)練成果。

開源項目可以直接從GitHub上直接獲?。?/p>

然后再錄入一段你的聲音和目標(biāo)聲音，打出想要讀出的文本內(nèi)容，就可以克隆出一段輸出音頻了。

面對這樣以假亂真的效果，也就不難理解這位銀行高管為什么會被輕易詐騙了。但這僅是已知使用語音克隆實施巨額詐騙的第二例，已經(jīng)遠(yuǎn)比第一例英國某能源公司22萬歐元詐騙案更為成功，其破壞力可見一斑。

科技中立，善惡由人

了解完這樣的新型詐騙手段不禁讓人想問，發(fā)明出AI語音轉(zhuǎn)換難道是用來騙人的嗎？

完全不是，語音轉(zhuǎn)換本可以用來做很有意義的事。在前些時候，語音轉(zhuǎn)換技術(shù)就曾在央視節(jié)目《等著我》中出現(xiàn)，幫助退役多年的袁爺爺，找回了當(dāng)時在戰(zhàn)場上一同作戰(zhàn)的老排長的“聲音”。

如今已有少數(shù)信息安全方面的創(chuàng)業(yè)公司關(guān)注到這一點。他們聲稱可以檢測出合成的語音以防止詐騙。

反詐原理是通過對比音頻里單詞的實際發(fā)音在細(xì)微程度上是否與真實人類的說話模式相匹配，畢竟人類發(fā)音不會像機(jī)器一樣標(biāo)準(zhǔn)、機(jī)械。

這也給我們提了一個醒，有必要及時關(guān)注科技新進(jìn)展，不斷提高安全意識。

對于長輩來說，今后除了要下載反詐app，可能還要多驗證驗證電話另一端是不是真正的兒子（女兒）～

趕快轉(zhuǎn)發(fā)到家族群，讓家人不要受騙！（保護(hù)）