[[275982]]

 當(dāng)?shù)貢r(shí)間 8 月 30 日，《華爾街日?qǐng)?bào)》消息：有犯罪分子使用基于人工智能的軟件冒充某能源公司德國(guó)總部 CEO 的聲音，對(duì)英國(guó)分公司進(jìn)行欺詐，并成功騙取了 220,000 歐元（約 243,000 美元）。網(wǎng)絡(luò)犯罪專家稱這是一種利用 AI 進(jìn)行黑客攻擊的不尋常案例。

“我是你老板，給我打錢(qián)”

今年 3 月，犯罪分子利用 AI 語(yǔ)音合成軟件，合成了英國(guó)某能源公司德國(guó)總公司 CEO 的聲音，冒充老板對(duì)英國(guó)公司的負(fù)責(zé)人進(jìn)行欺詐，讓他在一小時(shí)內(nèi)緊急將資金匯給一家匈牙利供應(yīng)商，并保證這筆資金將立即得到償還。

報(bào)道稱，該公司首席執(zhí)行官表示：由于聽(tīng)到了熟悉的輕微德國(guó)口音和他老板的聲音模式，所以對(duì)于轉(zhuǎn)賬的指令沒(méi)有任何懷疑。但最后的結(jié)果是，不僅轉(zhuǎn)賬的費(fèi)用沒(méi)有得到及時(shí)返還，騙子們還要求另一筆緊急匯款。然而這一次，這位英國(guó)分公司負(fù)責(zé)人拒絕了付款請(qǐng)求。

最終，這筆轉(zhuǎn)到匈牙利的資金最終被轉(zhuǎn)移到了墨西哥和其他地方。當(dāng)?shù)鼐缴形创_定此次網(wǎng)絡(luò)犯罪行動(dòng)背后的嫌疑人。

據(jù)了解，該公司由歐拉愛(ài)馬仕集團(tuán) (Euler Hermes Group) 承保，由集團(tuán)負(fù)責(zé)支付全部費(fèi)用。公司名稱和相關(guān)各方均未披露。

聲音版 DeepFake 成為新的犯罪手段

有網(wǎng)絡(luò)安全專家表示：基于人工智能的網(wǎng)絡(luò)攻擊僅僅是未來(lái)企業(yè)和組織可能面臨的主要難題的開(kāi)始。尤其當(dāng)這種性質(zhì)的攻擊被證明是成功的，同類(lèi)案件發(fā)生的頻率可能會(huì)成倍增加。

隨著模仿聲音工具的改進(jìn)，犯罪分子利用這些工具牟利的可能性也在增加。通過(guò)在電話中偽裝身份，威脅受害者從而更加容易獲得原本屬于私人的信息，并利用這些信息達(dá)到別有用心的目的。

早在今年 7 月，以色列國(guó)家網(wǎng)絡(luò)理事會(huì) (Israel National Cyber Directorate) 就發(fā)出了“新型網(wǎng)絡(luò)攻擊”的警告，這種攻擊利用人工智能技術(shù)冒充企業(yè)高管，指示員工在網(wǎng)絡(luò)上進(jìn)行轉(zhuǎn)賬等惡意活動(dòng)。

專家表示：與人工智能相關(guān)的同類(lèi)犯罪已經(jīng)造成了第一個(gè)受害者，這一事實(shí)應(yīng)該引起關(guān)注。

去年，設(shè)計(jì)反欺詐語(yǔ)音軟件的網(wǎng)絡(luò)安全公司 Pindrop 報(bào)告稱：從 2013 年到 2017 年，語(yǔ)音欺詐案件增加了 350%，大約在 638 個(gè)電話中就有 1 個(gè)是欺詐類(lèi) AI 軟件撥打的。

也有業(yè)內(nèi)人士認(rèn)為，為了保護(hù)公司免受經(jīng)濟(jì)和聲譽(yù)的影響，重要的是要通過(guò)后續(xù)電子郵件或其他替代方式驗(yàn)證“語(yǔ)音”指令。

基于人工智能的工具的興起有其優(yōu)點(diǎn)和缺點(diǎn)。一方面，它為探索和創(chuàng)造提供了更廣闊的空間；另一方面，它也為新型的犯罪、欺詐等手段提供了生長(zhǎng)的“溫床”。

開(kāi)源模型成“罪魁禍?zhǔn)?rdquo;？

前幾天，在中國(guó)火爆的一款名為“ZAO”的應(yīng)用軟件也被質(zhì)疑惡意收集用戶面部信息，更有專業(yè)的法律人士發(fā)現(xiàn)，這款軟件的用戶條款里存在“打擦邊球”的漏洞。北京時(shí)間 9 月 4 日，工信部對(duì) ZAO 軟件開(kāi)發(fā)公司進(jìn)行了約談，并要求整改。

跟“ZAO 事件”一樣，聲音版 DeepFake 也在技術(shù)論壇上引發(fā)了人們對(duì)于開(kāi)源模型的擔(dān)憂。在 Reddit 論壇上，已經(jīng)有不少人對(duì)此類(lèi)事件展開(kāi)了討論：

開(kāi)源社區(qū)中有許多正在進(jìn)行的開(kāi)源語(yǔ)音合成模型項(xiàng)目。此外，一些開(kāi)源語(yǔ)音合成模型已在未經(jīng)他人同意的情況下進(jìn)行著聲音訓(xùn)練。

這些模型可能會(huì)被濫用，我們不能在未經(jīng)別人同意的情況下克隆任何人的聲音。一個(gè)人的聲音模型可以使其面臨更高的騷擾和欺詐風(fēng)險(xiǎn)。

也有人從另外的角度提出建議：能否從保護(hù)受害者的角度是否可以采取一些措施？有些受害者甚至自己都不知道已經(jīng)在無(wú)意中泄露了隱私。

我們不應(yīng)該僅僅因?yàn)橛袗阂馐褂枚拐Z(yǔ)音合成技術(shù)，正如我們不應(yīng)該因?yàn)橥瑯拥睦碛山够ヂ?lián)網(wǎng)一樣。我們也不能期望每個(gè)人都能夠跟上時(shí)代，并且清楚地了解機(jī)器 / 深度學(xué)習(xí)可能帶來(lái)的新型威脅。在這里參與討論的每一個(gè)人基本都知道“DeepFake”是什么東西，但是其他人呢？

一個(gè)讓人有些無(wú)奈的事實(shí)是：參與討論的大部分人都表示，無(wú)法阻止有人利用技術(shù)作惡，目前人們能做的，也只能是期待盡快立法來(lái)對(duì)部分技術(shù)的使用加以約束，并加強(qiáng)對(duì)普通用戶的安全教育。

不過(guò)，也有人表示目前已有的在線模型質(zhì)量其實(shí)并沒(méi)有那么好：它們?nèi)匀恍枰?10-20 個(gè)小時(shí)的音頻數(shù)據(jù)；在優(yōu)化的硬件上，這些模型的實(shí)際推理速度為 16-60 倍；這些模型在自然度 (MOS) 方面的表現(xiàn)通常比串聯(lián)語(yǔ)音合成差；它們?cè)诓煌膱?chǎng)景下表現(xiàn)參差不齊，并不能很好地模仿和表達(dá)聲音。

但是，技術(shù)終將走向成熟，它會(huì)更具有傷害別人的潛力，使用者到底會(huì)用它來(lái)做什么，仍然是一個(gè)巨大的不可控的因素。