10 月 6 日消息，據(jù)外媒 Engadget、Wired 等報道，美國馬里蘭大學(xué)的一個研究小組對 AI 生成內(nèi)容的“數(shù)字水印”技術(shù)可靠性進行研究，發(fā)現(xiàn)這一技術(shù)可被輕易破解。

該校計算機科學(xué)教授 Soheil Feizi 面對 AI 生成圖像的水印現(xiàn)狀時直言不諱：“目前我們沒有任何可靠的水印技術(shù)，我們破解了所有的水印?！?/p>

在測試過程中，研究人員可輕松避開現(xiàn)有的水印方法，并發(fā)現(xiàn)在非 AI 生成的圖像上添加“假水印”更為容易。同時，該團隊還開發(fā)出了一種“幾乎無法”從圖像中去除的水印技術(shù)，且不會完全損害圖像的知識產(chǎn)權(quán)。

而在加州大學(xué)圣巴巴拉分校和卡內(nèi)基梅隆大學(xué)合作的一項類似研究中，研究人員發(fā)現(xiàn)通過“模擬攻擊”，AI 生成圖像的水印可被輕易去除：通過破壞性的調(diào)整亮度、對比度或壓縮乃至旋轉(zhuǎn)圖像來去除，或通過建設(shè)性的高斯模糊等技術(shù)來去除。

據(jù)報道，AI 生成數(shù)字水印將成為一場與黑客之間的競爭。這種水印盡管肉眼不可見，但可以打擊濫用 AI 生成的內(nèi)容。

IT之家此前報道，美國政府曾在 7 月下旬宣布，已獲得多家人工智能頭部公司的自愿承諾，將對人工智能生成的內(nèi)容加水印等措施，以幫助提高技術(shù)的安全性。

亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI 這七家公司都同意提高其系統(tǒng)的安全性和透明度，包括允許第三方專家對其模型進行審查。

在發(fā)給 TechRadar 的一份聲明中，美國政府表示：“正在開發(fā)這些新興技術(shù)的公司有責(zé)任確保其產(chǎn)品的安全。為了充分發(fā)揮人工智能的潛力，美國政府鼓勵該行業(yè)堅持最高標(biāo)準(zhǔn)，以確保創(chuàng)新不會以犧牲美國人的權(quán)利和安全為代價。”