這是陰謀論？AI，你怎么看？
大數(shù)據(jù)文摘出品
來(lái)源：iflscience
編譯：在赤道的熊貓
晃動(dòng)的人體攝像機(jī)鏡頭上的音頻異常清晰。當(dāng)警察搜查一名之前在比薩店的客廳里開(kāi)了一槍的已戴上手銬的男子時(shí)，警官問(wèn)他為什么在那兒。該男子說(shuō)要調(diào)查戀童癖的戒指。對(duì)于令人難以置信的回答，軍官再次詢問(wèn)。另一名軍官說(shuō)到“Pizzagate。他在談?wù)揚(yáng)izzagate。”
在2016年短暫而令人毛骨悚然的互動(dòng)中，很明顯，長(zhǎng)期以來(lái)一直籠罩在社會(huì)邊緣的陰謀理論以一種非常危險(xiǎn)的方式進(jìn)入了現(xiàn)實(shí)世界。
可能會(huì)造成重大傷害的陰謀論在社交媒體上極受歡迎。在社交媒體上，不受限制的論壇允許志趣相投的人進(jìn)行交流。在這里，他們可以發(fā)展自己的理論并提出應(yīng)對(duì)措施，以應(yīng)對(duì)他們“發(fā)現(xiàn)”的威脅。
但是，如何判斷社交媒體上新興的敘述是否是毫無(wú)根據(jù)的陰謀論呢?事實(shí)證明，可以通過(guò)使用機(jī)器學(xué)習(xí)工具繪制敘事元素和聯(lián)系來(lái)區(qū)分陰謀論和真實(shí)陰謀。這些工具可以構(gòu)成預(yù)警系統(tǒng)的基礎(chǔ)，來(lái)提醒相關(guān)部門注意對(duì)現(xiàn)實(shí)世界構(gòu)成威脅的在線敘述。
由我和Vwani Roychowdhury帶領(lǐng)的加利福尼亞大學(xué)文化分析小組開(kāi)發(fā)出一種自動(dòng)方法。它可以確定社交媒體上的對(duì)話何時(shí)反映出陰謀論的典型跡象。我們已成功地將這些方法應(yīng)用于Pizzagate，COVID-19大流行和反抗疫苗接種運(yùn)動(dòng)的研究。
協(xié)作構(gòu)建，快速形成
真正的陰謀論是刻意隱藏的，在現(xiàn)實(shí)生活中的人們?yōu)榱俗约旱膼盒阅康亩餐Φ男袨?。相反，陰謀理論是公開(kāi)合作構(gòu)建和發(fā)展成的。
陰謀論是刻意的復(fù)雜的，反映了無(wú)所不包的世界觀。陰謀論不是試圖解釋一件事，而是試圖解釋一切， 發(fā)現(xiàn)人類交互作用域之間被隱藏的聯(lián)系-主要是因?yàn)樗鼈儾淮嬖凇?/p>
人們天生就容易受到陰謀論的影響，不確定的時(shí)期和焦慮的加劇會(huì)增加這種易感性。
雖然陰謀理論家的流行形象是一頭孤獨(dú)的狼將照片和紅色細(xì)繩之間令人費(fèi)解的聯(lián)系拼湊在一起，但這種形象在社交媒體時(shí)代已不再適用。陰謀論的理論已經(jīng)發(fā)展到網(wǎng)上，它現(xiàn)在已成為集體敘事的最終產(chǎn)物。參與者確定敘述框架的參數(shù)：故事的人物，地點(diǎn)和事物及其關(guān)系。陰謀理論的在線性質(zhì)為研究人員提供了一個(gè)機(jī)會(huì)，可以從這些理論的起源(從一系列經(jīng)常相互分離的謠言和故事片段到綜合敘述)中追溯這些理論的發(fā)展。在我們的工作中，Pizzagate是一個(gè)完美的主題。
Pizzagate于2016年10月下旬在總統(tǒng)大選前夕開(kāi)始發(fā)展。在一個(gè)月內(nèi)，它就完全形成了，并從一系列其他沒(méi)有聯(lián)系的領(lǐng)域中提取了完整的角色：民主政治，Podesta兄弟的私生活，休閑家庭用餐和撒旦的戀童癖交易。這些原本截然不同的領(lǐng)域之間的聯(lián)系敘事線索是對(duì)WikiLeaks在2016年10月最后一周拋棄的民主黨全國(guó)委員會(huì)泄漏的電子郵件的幻想性解釋。
AI敘事分析
我們開(kāi)發(fā)了一個(gè)模型- 一套機(jī)器學(xué)習(xí)工具。它可以根據(jù)人物，地點(diǎn)和事物及其關(guān)系識(shí)別敘事。機(jī)器學(xué)習(xí)算法處理了大量數(shù)據(jù)，來(lái)確定數(shù)據(jù)中事物的類別，然后確定特定事物屬于哪些類別。 我們分析了2016年4月至2018年2月在Reddit和4chan論壇上討論過(guò)Pizzagate的17498條帖子。該模型將每個(gè)帖子視為隱藏的故事的片段，并開(kāi)始發(fā)現(xiàn)敘述。該軟件可以識(shí)別帖子中的人物，地點(diǎn)和事物，并確定哪些是主要元素，哪些是次要元素以及它們是如何聯(lián)系起來(lái)的。 該模型確定了敘事的主要層次(在Pizzagate的事例中，民主政治，波德斯塔兄弟，休閑餐飲，撒旦教義和WikiLeaks)，以及這些層次如何共同構(gòu)成整個(gè)敘事。 為確保我們的方法產(chǎn)生準(zhǔn)確的輸出，我們將模型產(chǎn)生的敘述性框架圖與《紐約時(shí)報(bào)》上發(fā)表的插圖進(jìn)行了比較。我們的圖表與這些插圖一致，并且還提供了有關(guān)人員，地點(diǎn)和事物及其關(guān)系的詳細(xì)信息。
堅(jiān)固的事實(shí)，虛構(gòu)的小說(shuō)
為了了解我們是否能夠區(qū)分陰謀理論和實(shí)際陰謀，我們研究了Bridgegate， Chris Christie政府針對(duì)新澤西州的李堡市市長(zhǎng)的工作人員發(fā)起的一項(xiàng)政治償還行動(dòng)。
當(dāng)我們使用兩個(gè)單獨(dú)的集合比較我們的機(jī)器學(xué)習(xí)系統(tǒng)的結(jié)果時(shí)，陰謀論敘事框架的兩個(gè)顯著特征脫穎而出。
首先，雖然Bridgegate的敘述圖從2013年到2020年得到發(fā)展，Pizzagate的圖在一個(gè)月內(nèi)就完全形成并穩(wěn)定了。其次，Bridgegate的圖表在刪除元素后仍然存在，這意味著即使刪除了丑聞中的關(guān)鍵人物和關(guān)系，新澤西州的政治也將繼續(xù)作為一個(gè)單獨(dú)的連接網(wǎng)絡(luò)。
相反，Pizzagate圖很容易分解成較小的子圖。當(dāng)我們刪除直接來(lái)自WikiLeaks電子郵件解釋的人員，地點(diǎn)，事物和關(guān)系時(shí)，該圖就會(huì)分解為現(xiàn)實(shí)中政治，休閑餐飲，Podestas的私生活和奇異世界之間相互聯(lián)系的領(lǐng)域撒旦主義。
在下圖中，綠色平面是敘述的主要層，點(diǎn)是敘述的主要元素，藍(lán)線是圖層中元素之間的連接，紅線是圖層中元素之間的連接。紫色平面顯示所有組合的圖層，顯示所有點(diǎn)如何連接。刪除WikiLeaks平面會(huì)產(chǎn)生一個(gè)紫色平面，其點(diǎn)僅以小組形式連接。
Pizzagate陰謀論的各個(gè)層面相結(jié)合，形成了一個(gè)敘事的右上角。刪除一層，WikiLeaks發(fā)布的對(duì)電子郵件的奇特解釋，整個(gè)故事將散布在右下角。
預(yù)警系統(tǒng)?
我們的工作明顯的挑戰(zhàn)了道德準(zhǔn)則。比如，我們的方法可為陰謀論的討論生成更多帖子，這些帖子適用于討論的敘述框架。同樣，在給定任何領(lǐng)域的情況下，任何人都可以使用這個(gè)工具來(lái)提出新的陰謀論。
但是，正如我們對(duì)社交媒體論壇的研究所表明的，這種敘事武器化已經(jīng)在沒(méi)有自動(dòng)方法的情況下發(fā)生了。研究界可以發(fā)揮作用，幫助其他人了解武器化是如何發(fā)生的，并為保護(hù)公共安全和民主機(jī)構(gòu)的個(gè)人和組織開(kāi)發(fā)工具。
開(kāi)發(fā)一個(gè)追蹤陰謀理論敘述的出現(xiàn)和調(diào)整的預(yù)警系統(tǒng)，可以使研究人員和當(dāng)局對(duì)人們根據(jù)這些敘述采取的行動(dòng)有所警惕。也許有了這樣的系統(tǒng)，當(dāng)問(wèn)到為何槍手裝備著AR-15步槍出現(xiàn)在比薩店時(shí)，Pizzagate案的逮捕官并不會(huì)為槍手的回應(yīng)所困擾。
相關(guān)報(bào)道：
https://www.iflscience.com/technology/an-ai-tool-can-distinguish-between-a-conspiracy-theory-and-a-true-conspiracy/
【本文是51CTO專欄機(jī)構(gòu)大數(shù)據(jù)文摘的原創(chuàng)譯文，微信公眾號(hào)“大數(shù)據(jù)文摘（ id: BigDataDigest）”】
