利用AI編造「火車撞人」假新聞！中國首例ChatGPT犯罪，東莞男子或面臨5年監(jiān)禁
大數(shù)據(jù)文摘出品
作者：Caleb
4月25日，根據(jù)百家號上的一篇報道稱，甘肅省一列火車撞上公路工人，造成9人死亡。
警方對此立即展開調(diào)查，發(fā)現(xiàn)在平臺上，共有21個賬號同時發(fā)布了不同版本的文章，涉及不同的事故地點，包括平?jīng)鍪嗅轻紖^(qū)、蘭州、隴南、定西、慶陽等地。
荷蘭一列載有乘客的火車周二在海牙附近撞上一臺起重機并脫軌，造成至少一名工人死亡，約30人受傷，這是該國多年來最嚴(yán)重的鐵路事故。
相關(guān)報道迅速得到關(guān)注，短時間內(nèi)獲得了超過15,000次點擊。
細想下，同時多地發(fā)生相似的事故？這也太過巧合了。
事實證明，這些報道確實是假新聞。
中國公安局網(wǎng)安大隊調(diào)查后發(fā)現(xiàn)，發(fā)布報道的帳號都隸屬于廣東深圳一間自媒體公司。
5月5日，警方前往廣東該名嫌疑人住處進行取證，審訊后發(fā)現(xiàn)，洪姓男子先搜尋了近年來中國討論度廣泛的社會新聞，隨后利用ChatGPT將特定元素例如時間、地點、日期或性別等進行修改，重新撰成一篇假新聞，藉由上傳這些文章讓帳號賺取流量再加以變現(xiàn)。
不僅如此，洪姓男子還利用ChatGPT制作了多個存在細小差距的假新聞版本，以避開百度旗下平臺的審查。
據(jù)了解，洪姓男子主要通過ChatGPT將收集到的新聞要素修改編輯后，上傳至其購買的百家號上非法獲利，目前案件正在進一步偵辦。
警方表示，洪姓男子編造假新聞并散布在網(wǎng)絡(luò)上供人大量瀏覽的行為，已涉嫌尋釁滋事罪，因此對其采取刑事強制措施，最高可判處五年有期徒刑。
首例因濫用人工智能而被捕的案件
這是中國因應(yīng)人工智能發(fā)展，于今年1月起頒布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》后偵破的第一起事件。
“規(guī)定”旨在促進人工智能產(chǎn)業(yè)發(fā)展和防止技術(shù)濫用的法規(guī)規(guī)定，通過深度合成技術(shù)（deepfake）制作的合成視頻和照片必須明確標(biāo)注，以防止公眾混淆。
該規(guī)定還涵蓋了deepfake提供者和用戶的責(zé)任，包括禁止使用該技術(shù)進行非法行為、建立審查制度和識別用戶信息。
最近，隨著ChatGPT的流行，中國在線搜索巨頭百度和其他科技公司也相繼推出了競品。
4月11日，中國國家互聯(lián)網(wǎng)信息辦公室（CAC）發(fā)布管理生成式AI服務(wù)的法規(guī)草案。據(jù)CAC稱，該法規(guī)預(yù)計將于今年某個時候生效。
ACA表示，國家支持人工智能自主創(chuàng)新和推廣應(yīng)用，但相關(guān)產(chǎn)品或服務(wù)應(yīng)符合法律法規(guī)要求，尊重社會公德和公共秩序，其中包括服務(wù)提供商接入、算法設(shè)計、訓(xùn)練數(shù)據(jù)選擇、內(nèi)容概括、用戶隱私和商業(yè)秘密等。
中國社會科學(xué)院大學(xué)法學(xué)院副教授劉曉春在接受采訪時表示，服務(wù)提供商有義務(wù)采取風(fēng)險防范措施并響應(yīng)監(jiān)管要求。
規(guī)范化使用AI是一個全球性難題
利用ChatGPT這類AI來生成假新聞并非中國獨有，美國AI專家、社交媒體公司和政府官員同樣關(guān)注生成式AI傳播錯誤信息的可能性。
今年4月，美國共和黨發(fā)布了一個人工智能生成的視頻廣告，假想了拜登再次當(dāng)選的情況下，將會引起美國與墨西哥邊境的大規(guī)模移民浪潮和舊金山文明崩潰。
雖然這則廣告被標(biāo)記為“人工智能生成”，但過于逼真的圖像仍然很容易讓人們將其視為現(xiàn)實。Reddit上的Midjourney子版塊也有用戶舉例說明了文本到圖像生成器如何創(chuàng)建未發(fā)生過的歷史事件，比如“2001年卡斯卡迪亞9.1大地震和海嘯”。
除此之外，人權(quán)非營利組織Amnesty World分支機構(gòu)Amnesty Norway在社交媒體賬戶上發(fā)布了人工智能生成的圖像，以此號召人們多多關(guān)注哥倫比亞全國罷工兩年。但這些圖像錯誤地描繪了哥倫比亞國旗，還用了假人代替了真正的抗議者。
隨著ChatGPT得到越來越多的關(guān)注和使用，國內(nèi)的立法者也一直在努力起草管理公司如何開發(fā)人工智能的相關(guān)規(guī)定。擬議的法規(guī)包括不生成虛假信息，明確標(biāo)記使用AI制作的內(nèi)容，并確保用于訓(xùn)練AI的數(shù)據(jù)不歧視種族、種族和性別。
但也可以想象，這是一項道阻且長的艱巨工作，還需要時間慢慢打磨。
相關(guān)報道：
