這幾天，日本正式開始向太平洋排放核污染水的消息，引起了廣泛的關(guān)注。

而就在排放之前，有媒體報(bào)道稱，日本政府從去年起便開始利用AI工具監(jiān)控任何與福島核電站計(jì)劃排放核污水有關(guān)的言論。

今年6月，該AI發(fā)現(xiàn)了一份韓國媒體的報(bào)道，聲稱日本外務(wù)省高級官員向國際原子能機(jī)構(gòu)（IAEA）進(jìn)行了巨額政治獻(xiàn)金。

短短幾個(gè)小時(shí)之內(nèi)，日本政府便做出回應(yīng)，同時(shí)用英文和日文駁斥該報(bào)道「毫無根據(jù)」。

根據(jù)Nikkei Asia此前的報(bào)道，日本外務(wù)省在2023年推出了一套全新的AI系統(tǒng)，用于收集和分析社交媒體等平臺(tái)上的信息，以及在中長期內(nèi)對公眾輿論影響的追蹤。

值得注意的是，該框架不僅包括面向日本受眾的信息，還包括其他國家和地區(qū)針對日本的信息。

事件回顧

2011年3月，地震和海嘯摧毀了福島第一核電站的冷卻系統(tǒng)，導(dǎo)致三個(gè)反應(yīng)堆中的核燃料熔毀，放射性物質(zhì)不斷泄漏。隨之而來的大面積污染，迫使數(shù)萬人撤離。

為了抑制爆炸后過熱的反應(yīng)堆堆芯，自那以后，已經(jīng)有超過130萬立方米的海水被用于冷卻。

這些受污染的水也被收集起來，并存儲(chǔ)在該場地上的1000多個(gè)不銹鋼儲(chǔ)罐中。

在造成污染的64種放射性元素中，主要對人類健康構(gòu)成威脅的放射性元素為：碳-14，碘-131，銫-137，鍶-90，鈷-60和氚-3。

為了處理這些核污水，東京電力公司（TEPCO）采用了自行研發(fā)的先進(jìn)液體處理系統(tǒng)（ALPS），過程分為共沉淀、吸附和物理過濾等五個(gè)階段。

然而，如此大量的水也讓持續(xù)的儲(chǔ)存變得越來越困難。

2021年4月，日本政府正式批準(zhǔn)將這些經(jīng)過處理的核污水排入大海。

盡管多個(gè)國家和國際組織對此表示擔(dān)憂，但這并沒有阻止日本對該計(jì)劃的推進(jìn)。

與此同時(shí)，日本外務(wù)省也開始使用AI來監(jiān)控網(wǎng)上關(guān)于核污水中含有放射性物質(zhì)的報(bào)道，并通過制作大量宣傳材料來稀釋這些信息的濃度。

7月21日，日本外務(wù)省在推特上發(fā)布的一則動(dòng)畫視頻，就用日語、英語、法語、西班牙語、俄語、阿拉伯語、中文和韓語，解釋了核污水處理過程中采取的安全防護(hù)措施。

視頻解釋了工廠的水如何通過高級液體處理系統(tǒng)（ALPS）按照監(jiān)管標(biāo)準(zhǔn)進(jìn)行凈化。并且強(qiáng)調(diào)，在被釋放到更廣泛的海洋區(qū)域之前，排放的核污水已經(jīng)被海水稀釋了100倍。

AI監(jiān)控言論

實(shí)際上，這種監(jiān)控互聯(lián)網(wǎng)輿論的技術(shù)，在AI領(lǐng)域早已有了非常深入和廣泛的探索。

其中最為熱門的，便是利用算法、機(jī)器學(xué)習(xí)模型和人工的組合來應(yīng)對社交媒體中發(fā)布的「虛假新聞」。

2018年的一項(xiàng)Twitter研究顯示，虛假新聞報(bào)道被人類轉(zhuǎn)發(fā)的可能性比真實(shí)新聞高70%。

與此同時(shí)，真實(shí)新聞需要大約6倍的時(shí)間才能在1500人的群體中傳播，而且大部分時(shí)候的傳播范圍很少能超過1000人。相比之下，熱門的虛假新聞卻可以傳播到多達(dá)10萬人。

為此，Meta曾在2022年推出過一款全新的AI工具Sphere，用來確保信息的準(zhǔn)確性。

Sphere是第一個(gè)能夠一次性掃描數(shù)十萬引用，來檢查它們是否支持相應(yīng)聲明的AI模型。

Sphere的數(shù)據(jù)集包括1.34億個(gè)公共網(wǎng)頁。它依靠互聯(lián)網(wǎng)的集體知識(shí)來快速掃描數(shù)十萬條網(wǎng)絡(luò)引用，以尋找事實(shí)錯(cuò)誤。

Meta表示，Sphere已經(jīng)掃描了維基百科上所有頁面，以此來檢測它是否能夠找出并不支持頁面中聲明的引用來源。

當(dāng)Sphere發(fā)現(xiàn)可疑來源時(shí)，就會(huì)推薦更強(qiáng)大的來源或更正，來幫助提高條目的準(zhǔn)確性。

此前，就有不少AI系統(tǒng)能夠識(shí)別出缺乏引用來源的信息，但Meta的研究者表示，挑出可疑的說法并確定引用來源是否真正支持這種說法，需要「AI系統(tǒng)的深度理解和分析」。

Sphere的研發(fā)，標(biāo)志著Meta為解決平臺(tái)上的錯(cuò)誤信息所做的努力。

幾年來，Meta一直因?yàn)镕acebook、Instagram和WhatsApp上傳播的錯(cuò)誤信息，遭受著用戶和監(jiān)管機(jī)構(gòu)的嚴(yán)厲批評。CEO小扎甚至被召到國會(huì)面前討論這個(gè)問題。

發(fā)現(xiàn)假新聞，探索社交媒體傳播模式

在歐洲，還有一個(gè)Fandango項(xiàng)目，他們在構(gòu)建軟件工具，幫助記者和事實(shí)核查員檢測假新聞。

無論是PS還是DeepFake，F(xiàn)andango的系統(tǒng)都可以對這些變化進(jìn)行逆向工程，使用算法幫助記者發(fā)現(xiàn)被篡改的內(nèi)容。

另外，系統(tǒng)還會(huì)根據(jù)已經(jīng)被事實(shí)核查員標(biāo)記的假消息，尋找到具有類似詞語和觀點(diǎn)的網(wǎng)頁或者社交媒體帖子。

這個(gè)系統(tǒng)的背后，就是各種AI算法的支持，尤其是自然語言處理。

而瑞士盧加諾大學(xué)和英國倫敦帝國理工學(xué)院教授Bronstein，則采用一種非典型的AI方法來檢測假新聞。

這個(gè)項(xiàng)目叫做GoodNews，顛覆了傳統(tǒng)的假新聞AI探測工具。

在以往，這些工具會(huì)分析假新聞特有的語義特征，然而它們會(huì)經(jīng)常遇到障礙，比如WhatsApp這類平臺(tái)是加密的，并不允許訪問。

另外，很多時(shí)候假新聞可能是圖像，使用自然語言處理技術(shù)很難進(jìn)行分析。

因此，Bronstein教授的團(tuán)隊(duì)顛覆了傳統(tǒng)的模型，轉(zhuǎn)而研究假新聞是如何傳播的。

結(jié)果表明，假新聞在Facebook上的分享量可能遠(yuǎn)遠(yuǎn)多于點(diǎn)贊數(shù)，而普通帖子的點(diǎn)贊數(shù)往往多于分享量。通過發(fā)現(xiàn)這樣的模式，GoodNews就會(huì)將可信度分?jǐn)?shù)附加到新聞項(xiàng)目上。

團(tuán)隊(duì)的第一個(gè)模型使用基于圖形的機(jī)器學(xué)習(xí)，基于推特的數(shù)據(jù)訓(xùn)練，上面的某些消息被記者證明是虛假的。

由此，他們訓(xùn)練了AI算法，教會(huì)模型哪些故事是假的，哪些不是。

多模態(tài)DeepFake檢測，讓AIGC偽造無處可藏

除了單純的文本外，如Stable Diffusion等視覺生成模型的快速發(fā)展，也讓DeepFake問題愈發(fā)嚴(yán)峻。

在多模態(tài)媒體篡改中，各類新聞報(bào)道的圖片中重要人物的人臉（下圖中法國總統(tǒng)人臉）被替換，文字中關(guān)鍵短語或者單詞被篡改（下圖中正面短語「is welcome to」被篡改為負(fù)面短語「is forced to resign」）。

為了應(yīng)對新的挑戰(zhàn)，研究人員提出了一種多模態(tài)層次化篡改推理模型，可以通過融合與推理模態(tài)間的語義特征，來檢測到篡改樣本的跨模態(tài)語義不一致性。

目前，該工作已被CVPR 2023收錄。

具體來說，作者提出了多模態(tài)層次化篡改推理模型HierArchical Multi-modal Manipulation rEasoning tRansformer（HAMMER）。

此模型建立在基于雙塔結(jié)構(gòu)的多模態(tài)語義融合與推理的模型架構(gòu)上，并將多模態(tài)篡改的檢測與定位細(xì)粒度層次化地通過淺層與深層篡改推理來實(shí)現(xiàn)。

HAMMER模型具有以下兩個(gè)特點(diǎn)：

1. 在淺層篡改推理中，通過篡改感知的對比學(xué)習(xí)（Manipulation-Aware Contrastive Learning）來對齊圖像編碼器和文本編碼器提取出的圖像和文本單模態(tài)的語義特征。同時(shí)將單模態(tài)嵌入特征利用交叉注意力機(jī)制進(jìn)行信息交互，并設(shè)計(jì)局部塊注意力聚合機(jī)制（Local Patch Attentional Aggregation）來定位圖像篡改區(qū)域；

2. 在深層篡改推理中，利用多模態(tài)聚合器中的模態(tài)感知交叉注意力機(jī)制進(jìn)一步融合多模態(tài)語義特征。在此基礎(chǔ)上，進(jìn)行特殊的多模態(tài)序列標(biāo)記（multi-modal sequence tagging）和多模態(tài)多標(biāo)簽分類（multi-modal multi-label classification）來定位文本篡改單詞并檢測更細(xì)粒度的篡改類型。

實(shí)驗(yàn)結(jié)果表明研究團(tuán)隊(duì)提出的HAMMER與多模態(tài)和單模態(tài)檢測方法相比，都能更準(zhǔn)確地檢測并定位多模態(tài)媒體篡改。

從多模態(tài)篡改檢測和定位的可視化結(jié)果來看，HAMMER可以準(zhǔn)確地同時(shí)進(jìn)行篡改檢測與定位任務(wù)。

此外，關(guān)于篡改單詞的模型注意力可視化結(jié)果，進(jìn)一步展示了HAMMER是通過關(guān)注與篡改文本語義不一致性的圖像區(qū)域來進(jìn)行多模態(tài)篡改檢測和定位。