隨著巴以沖突的持續(xù)，相關(guān)新聞事件報道層出不窮，一些虛假內(nèi)容也開始混入其中，讓人真假難辨。最近，由AI生成、反映巴以沖突現(xiàn)場的圖片出現(xiàn)在知名圖片庫 Adobe Stock 中，并被一些新聞媒體采用。

作為一家積極擁抱生成式人工智能的圖片庫，Adobe Stock從2022年開始允許供稿人上傳和銷售由AI 生成的圖片，只是在上傳時要標注“是否由 AI 生成”，成功上架后也會將該圖片明確標記為“由 AI 生成”。除此要求外，提交準則與任何其他圖像相同，包括禁止上傳非法或侵權(quán)內(nèi)容。

但據(jù)澳大利亞網(wǎng)站Crikey報道，在Adobe Stock搜索與以色列、巴勒斯坦、加沙和哈馬斯相關(guān)的關(guān)鍵詞，會出現(xiàn)大量由AI生成的圖片，例如搜索巴勒斯坦時顯示的第一個結(jié)果標題就是“由人工智能生成的以色列和巴勒斯坦沖突”的圖片。其他一些圖片也顯示了抗議、實地沖突，甚至是兒童逃離爆炸現(xiàn)場的畫面，但所有這些也都是由AI生成。

圖1：在 Adobe Stock 上搜索巴以沖突時會搜索到大量 AI 圖像

令人擔憂的是，這些圖片已經(jīng)出現(xiàn)在一些在線新聞媒體、博客，但沒有將其標記為由人工智能生成，也尚不清楚這些媒體是否知道這些是虛假圖片。

圖2：一些媒體機構(gòu)在報道巴以沖突新聞時已經(jīng)使用圖1左上角那張由AI生成的圖片

事后，Adobe表示，所有生成式 AI 內(nèi)容在提交許可時都必須貼上相應(yīng)標簽，但也強調(diào)，客戶在購買使用時知道“這是一張由生成式 AI 工具創(chuàng)建的圖片”同樣重要。

識別圖片真假是一項復雜性工作

專家一再警告稱，人工智能將被用來在網(wǎng)上傳播錯誤信息，隨著越來越多看起來逼真的內(nèi)容在互聯(lián)網(wǎng)上發(fā)布和共享，解決這個問題變得越來越困難。

RMIT 高級講師 TJ Thomson 博士正在研究人工智能生成圖像的使用，他表示，人們擔心人工智能圖像使用的透明度以及受眾是否有足夠的文化知識能夠?qū)ζ溥M行識別。

根據(jù)一項被稱為“內(nèi)容真實性計劃”的措施，包括Adobe、微軟、BBC 和《紐約時報》在內(nèi)的科技和新聞組織正在嘗試實施內(nèi)容憑證技術(shù)，該憑證使用文件元數(shù)據(jù)來突出顯示圖片的來源，無論這些圖片是由真人拍攝還是AI生成。

然而，內(nèi)容憑證尚未在實際環(huán)境中部署，需要社交網(wǎng)絡(luò)、出版商、藝術(shù)家以及應(yīng)用程序、瀏覽器和生成人工智能開發(fā)人員的合作才能按預(yù)期工作。