北京時(shí)間4月16日，全球頂級信息安全峰會CanSecWest 2021正在召開中。騰訊朱雀實(shí)驗(yàn)室受邀參加，并進(jìn)行了題為《The Risk of AI Abuse: Be Careful with Your Voice（AI被濫用的風(fēng)險(xiǎn)：小心您的聲音安全》的分享。這也是連續(xù)第四年騰訊安全平臺部旗下前沿安全研究團(tuán)隊(duì)的相關(guān)成果入選CanSecWest議題。

騰訊朱雀實(shí)驗(yàn)室的最新研究成果表明，VoIP電話劫持與AI語音模擬技術(shù)的結(jié)合將帶來極大潛在風(fēng)險(xiǎn)，在分享中，實(shí)驗(yàn)室創(chuàng)造性地展示了用AI進(jìn)行聲音克隆并劫持電話的攻擊場景。區(qū)別于此前腳本類的電信詐騙，這一新技術(shù)可實(shí)現(xiàn)從電話號碼到聲音音色的全鏈路偽造，攻擊者可以利用漏洞劫持VoIP電話，實(shí)現(xiàn)虛假電話的撥打，并基于深度偽造AI變聲技術(shù)生成特定人物的聲音進(jìn)行詐騙。

這里所說的VoIP是一種語音通話技術(shù)，經(jīng)由IP來進(jìn)行語音通話和參與多媒體會議，由于其使用便捷、成本低廉的特性，VoIP在全球范圍內(nèi)被廣泛應(yīng)用于辦公電話場景中。而VoIP電話劫持是由于早期版本的VoIP存在被網(wǎng)絡(luò)嗅探，并實(shí)施中間人攻擊的風(fēng)險(xiǎn)，攻擊者可利用漏洞篡改來電方的人名及電話號碼，使得接聽方的電話顯示為預(yù)設(shè)的任意內(nèi)容。

騰訊朱雀實(shí)驗(yàn)室研究顯示，通過深度學(xué)習(xí)技術(shù)可實(shí)現(xiàn)語音模擬，根據(jù)源人物的說話內(nèi)容合成具有目標(biāo)人物音色特征的音頻，輸出偽造特定人物的聲音。其實(shí)這項(xiàng)技術(shù)并不新鮮，在許多場景中已經(jīng)應(yīng)用，比如地圖軟件中的定制語音播報(bào)，就可以通過少量自己的聲音來定制與自己音色極為接近的播放聲音。

因此，在VoIP電話劫持中，利用少量被攻擊者的聲音，可以合成與被攻擊者音色相似的任意內(nèi)容的語音片段，再將虛假語音注入到電話中，就能達(dá)到以假亂真的效果，實(shí)現(xiàn)完整的電話欺騙鏈路。攻擊者可以輕松撥打虛假電話，冒充被攻擊者身份與目標(biāo)人員對話。

針對這一潛在風(fēng)險(xiǎn)，騰訊朱雀實(shí)驗(yàn)室研究員提出了建議——基于“用AI對抗AI”的思路，使用AI技術(shù)提取真實(shí)語音和虛假語音的特征，再根據(jù)特征差異來分辨真實(shí)語音和生成語音。同時(shí)，企業(yè)和個(gè)人盡量使用新版本的VoIP協(xié)議電話，如SIP、SRTP等，以減少電話被劫持的風(fēng)險(xiǎn)。

實(shí)際上，目前涉及語音的攻擊手段也愈加多樣化。騰訊研究員介紹，通過向語音中添加微小擾動，或修改部分頻譜信息，就可以欺騙語音識別系統(tǒng)。此外，通過將喚醒命令隱藏在不易察覺的音樂中，就可能喚醒智能設(shè)備進(jìn)行對應(yīng)操作。

騰訊云副總裁、騰訊安全平臺部負(fù)責(zé)人楊勇表示，AI技術(shù)與傳統(tǒng)安全攻擊技術(shù)的結(jié)合，衍生了新的應(yīng)用場景和與之對應(yīng)的濫用風(fēng)險(xiǎn)，AI的數(shù)據(jù)、算法、模型、基礎(chǔ)組件等核心要素更加需要安全的加持。騰訊朱雀實(shí)驗(yàn)室就一直致力于實(shí)戰(zhàn)級APT攻擊和AI安全研究，持續(xù)深耕現(xiàn)實(shí)網(wǎng)絡(luò)安全，為AI技術(shù)的正向用、放心用保駕護(hù)航。

作為全球頂級信息安全峰會，CanSecWest一直以其權(quán)威性、熱點(diǎn)性、前沿性而備受行業(yè)關(guān)注。本屆CanSecWest2021將持續(xù)到4月30日，除了騰訊朱雀實(shí)驗(yàn)室，來自百度、Adobe、Macfee、IOActive、加利福尼亞大學(xué)河濱分校等全世界的頂級安全專家也悉數(shù)到場，并將圍繞AI、云原生、物聯(lián)網(wǎng)、可信計(jì)算等安全前沿技術(shù)領(lǐng)域展開探討。