AI反詐!Deepfake音視頻檢測(cè)技術(shù)亮相CES,準(zhǔn)確率超90%
離大譜,一個(gè)標(biāo)有美國(guó)消費(fèi)者新聞與商業(yè)頻道CNBC logo的視頻稱:
“每個(gè)歐洲人靠ChatGPT,每周能賺3到4千歐元?!?/p>
“投資平臺(tái)利用AI,特別是GPT,來(lái)分析公司股票和在線趨勢(shì)信息。利用這些信息,程序自動(dòng)買賣股票,使平臺(tái)用戶獲利?!?/p>
好家伙,用ChatGPT這么好賺錢(qián)??
別急,亮相CES 2024的一種Deepfake音頻檢測(cè)技術(shù)來(lái)打假了。
上面視頻中字幕標(biāo)紅的內(nèi)容全都是偽造的,像下面這樣標(biāo)綠的部分才是真實(shí)的信息。
當(dāng)然,視頻右邊的實(shí)時(shí)監(jiān)測(cè)圖,早就說(shuō)明了一切,遇到偽造內(nèi)容縱坐標(biāo)嗖的一下就上去了。
這就是來(lái)自知名殺毒軟件公司邁克菲(McAfee)的一項(xiàng)打假技術(shù),名為Project Mockingbird。
隨著AI技術(shù)的發(fā)展,現(xiàn)在網(wǎng)絡(luò)上充斥著不少AI合成的音視頻,其中的信息也是真真假假,有時(shí)令人難以分辨,甚至有一些不法分子用其來(lái)詐騙和操縱公眾輿論。
而現(xiàn)在,邁克菲推出的這項(xiàng)技術(shù),據(jù)稱識(shí)別AI偽造音視頻準(zhǔn)確率超90%。
殺死一只“反舌鳥(niǎo)”
邁克菲2023年12月做的一項(xiàng)調(diào)查顯示,美國(guó)人對(duì)Deepfake的擔(dān)憂日益顯著,近68%的受訪者表示比去年更擔(dān)心Deepfake,33%的人明確表示遭遇過(guò)Deepfake騙局或了解相關(guān)情況。
像下面這樣?jì)饍旱摹懊姑菇o粉絲免費(fèi)送鍋”等AI合成的假視頻,就坑過(guò)不少人。
于是邁克菲推出了Project Mockingbird。取這么個(gè)名,原因是Mockingbird(可譯為反舌鳥(niǎo))是一種善于模仿其他鳥(niǎo)類及昆蟲(chóng)、兩棲動(dòng)物的叫聲的鳥(niǎo)。
他們的策略是用AI打敗AI。
Project Mockingbird使用AI驅(qū)動(dòng)的上下文、行為和類別檢測(cè)模型的組合,來(lái)識(shí)別視頻中的音頻是否可能是AI生成的。
具體來(lái)說(shuō)就是將音頻或視頻輸入模型,分類模型從音視頻數(shù)據(jù)中確定分析的內(nèi)容是否屬于預(yù)先定義的某些類別,并且可以確定偽造音頻的起始位置,標(biāo)記出偽造的部分。
邁克菲CTO Steve Grobman表示研究團(tuán)隊(duì)正在構(gòu)建Project Mockingbird核心技術(shù)模塊,將這項(xiàng)技術(shù)投入產(chǎn)品線中使用。
在官宣這項(xiàng)技術(shù)后,CNBC印度分支CNBC-TV18也轉(zhuǎn)發(fā)為其宣傳了一番:
參考鏈接:https://www.mcafee.com/en-us/consumer-corporate/newsroom/press-releases/press-release.html?news_id=509b05a3-65e9-46d4-9f17-2dbc606e111a。