近日，一張由AI生成的假照片在推特上瘋傳，照片上顯示的是華盛頓五角大樓發(fā)生劇烈爆炸的畫面。這個(gè)事件暴露出了馬斯克的Twitter Blue付費(fèi)認(rèn)證的真正問題。

周一上午晚些時(shí)候，這張假照片在社交信息平臺(tái)上一經(jīng)發(fā)布后不久就在網(wǎng)上瘋傳，直到美國政府官員出面，證實(shí)并譴責(zé)該照片只是個(gè)騙局才得以平息。

俄羅斯國家媒體和一個(gè)虛假的彭博新聞賬戶的個(gè)人資料名稱旁邊出現(xiàn)了藍(lán)色對勾認(rèn)證標(biāo)記，此事備受爭議。

美國東部時(shí)間上午10點(diǎn)左右，一張五角大樓草坪上熊熊燃燒的照片開始被大量轉(zhuǎn)發(fā)，并快速傳播，該照片的標(biāo)題為“華盛頓特區(qū)五角大樓附近發(fā)生大爆炸的初步報(bào)告”。

據(jù)《福布斯》報(bào)道，美國國防部發(fā)言人已經(jīng)聲明這張照片是個(gè)“錯(cuò)誤信息”。

到美國東部時(shí)間上午10點(diǎn)27分，阿靈頓消防和急救中心也在推特上譴責(zé)這是張假照片。該部門的推特賬號(hào)發(fā)布內(nèi)容稱：@PFPAOfficial和ACFD注意到網(wǎng)上流傳的有關(guān)五角大樓附近發(fā)生爆炸的社交媒體報(bào)道，但在五角大樓保留區(qū)或附近并未發(fā)生任何爆炸事件，對公眾不會(huì)造成直接的危險(xiǎn)或危害。

OSINT專家在幾分鐘內(nèi)就對圖像進(jìn)行了全面檢查，并指出了差異，證明圖像確實(shí)是由AI生成的假圖像。

Bellingcat的數(shù)字調(diào)查員Nick Walters表示，想偽造這樣一個(gè)事件非常困難，甚至可以說根本不可能。這通過觀察圖像中的建筑物的正面，以及圍欄融入人群屏障的方式就能輕松判斷真?zhèn)巍?/p>

Nick Walters稱，對于這樣一個(gè)重大的新聞報(bào)道，沒有其他第一手目擊者的照片或視頻發(fā)布在網(wǎng)上就沒那么可信。

此外，Nick Walters還在推特上寫道：人口稠密地區(qū)發(fā)生的大多數(shù)極端物理事件(爆炸、恐怖襲擊、大規(guī)模打斗)都會(huì)產(chǎn)生可識(shí)別的數(shù)字漣漪。

虛假的人工智能圖像雖然對創(chuàng)作者和觀眾來說很有趣，但自去年11月ChatGPT發(fā)布以來，這一直是治理實(shí)體和人工智能專家關(guān)注的最大問題之一。

本月早些時(shí)候，一名男子因利用深度技術(shù)在網(wǎng)上傳播虛假新聞而在中國被捕，面臨最高10年的監(jiān)禁。這名男子被指控使用ChatGPT制作了一個(gè)虛假的人工智能新聞視頻，該視頻描述了一場致命的火車相撞事故，然后將其發(fā)布在多個(gè)社交媒體網(wǎng)站上。

專家表示，隨著人工智能模型近年來不斷發(fā)展，社交媒體上的虛假信息非常令人擔(dān)憂，尤其是在2024年美國總統(tǒng)大選周期剛剛開始的情況下。

《赫芬頓郵報(bào)》的高級編輯Andy Campbell提到了去年秋天，推特首席執(zhí)行官馬斯克接管該公司時(shí)，他與推特用戶就其Twitter Blue認(rèn)證展開的斗爭。

以前是某家社交媒體公司能夠證明某個(gè)組織或個(gè)人的合法性后，其賬戶才會(huì)被授予推特的藍(lán)勾認(rèn)證，但現(xiàn)在是只要有人愿意每月支付8美元，都可免費(fèi)授予該標(biāo)記。

3月份，這個(gè)問題的爭議情況達(dá)到了頂峰，很多曾經(jīng)認(rèn)證過的名人和記者拒絕為曾經(jīng)免費(fèi)的服務(wù)付費(fèi)，并表示可以將這個(gè)認(rèn)證過的藍(lán)色標(biāo)記從他們的賬戶中移除掉。

Andy Campbell稱，這個(gè)藍(lán)色標(biāo)記付費(fèi)驗(yàn)證系統(tǒng)危險(xiǎn)就在于，如果某個(gè)賬戶在推特上發(fā)布了一張AI生成的關(guān)于五角大樓爆炸的假新聞?wù)掌?，但有了認(rèn)證，乍一看該賬戶像是一個(gè)合法的彭博新聞推送。

那個(gè)虛假的彭博新聞賬戶已經(jīng)被推特停用，但目前仍不知道這張偽造的五角大樓圖片是從哪里來的。雖然，這次的虛假五角大樓爆炸新聞的病毒式傳播很短暫，但這個(gè)謠言仍然導(dǎo)致周一紐約證券交易所出現(xiàn)了大跌的情況。

參考鏈接：https://cybernews.com/news/ai-fake-pentagon-explosion-viral-twitter-blue/