隨著生成式人工智能的高速發(fā)展，AI圖像正以前所未有的速度在網(wǎng)絡(luò)上傳播。從AI創(chuàng)作“宮崎駿風(fēng)格”動(dòng)畫圖，到仿真度極高的商品廣告照、新聞配圖，普通用戶只需輸入一句話，便可秒產(chǎn)專業(yè)級(jí)畫面。這種“視覺洪流”的背后，是OpenAI等技術(shù)巨頭不斷推陳出新的圖像生成模型——其中最先進(jìn)的，莫過于不久前發(fā)布的ChatGPT-4o內(nèi)嵌的ImageGen。

然而，技術(shù)越強(qiáng)，責(zé)任越重。近期，有AI研究人員發(fā)現(xiàn)，OpenAI正在悄然測(cè)試一項(xiàng)新功能：為免費(fèi)用戶生成的圖像加上“水印”。這一舉措表面上看是平臺(tái)對(duì)內(nèi)容可溯源的一次嘗試，但其背后，卻指向一個(gè)更加復(fù)雜的問題——AI視覺內(nèi)容的泛濫與監(jiān)管困境。

為什么要加水印？AI圖像“真假難辨”引擔(dān)憂

ChatGPT的ImageGen模型，自從對(duì)所有用戶開放后，圖像生成的門檻被進(jìn)一步拉低。無論是小紅書博主想做一個(gè)“吉卜力風(fēng)格的穿搭圖”，還是電商店主想快速產(chǎn)出幾張“理想生活方式”商品圖，AI都能信手拈來。

但問題也隨之而來：

• 版權(quán)問題：用AI模仿宮崎駿風(fēng)格是否侵權(quán)？當(dāng)圖像模型訓(xùn)練數(shù)據(jù)包含大量受版權(quán)保護(hù)的圖像，其輸出是否屬于“再創(chuàng)作”？
  
• 誤導(dǎo)性傳播：AI圖像逼真到足以亂真，若未加標(biāo)識(shí)，容易被用于制造謠言、偽造新聞。
  
• 責(zé)任歸屬模糊：生成式圖像一旦被用于違法用途，如欺詐、造謠，平臺(tái)是否需要承擔(dān)責(zé)任？

水印，正是OpenAI試圖解決這類問題的一個(gè)初步嘗試。

水印，是終極解決方案嗎？

從技術(shù)角度看，水印是一種“軟性監(jiān)管”工具：它不像數(shù)字版權(quán)管理（DRM）那樣強(qiáng)制限制使用權(quán)，而是通過“標(biāo)識(shí)性痕跡”來提醒圖像是由AI生成的。

但它的效果有限，原因包括：

• 容易被裁剪或篡改：如果水印是外顯的，用戶可以通過P圖輕松抹除；
  
• 免費(fèi)用戶限定，付費(fèi)用戶免除：這意味著想“避開水印”的人，只需支付月費(fèi)；
  
• 平臺(tái)意圖尚不明確：OpenAI目前只是“測(cè)試階段”，未來是否全面啟用、如何啟用，尚屬未知。
• 更關(guān)鍵的問題是，即便全面推廣了水印機(jī)制，其識(shí)別功能也遠(yuǎn)遠(yuǎn)跟不上內(nèi)容生成的速度。

監(jiān)管困境

我國(guó)即將正式實(shí)施《生成式人工智能服務(wù)管理辦法》，其中明確要求：

• 生成內(nèi)容需顯著標(biāo)注為AI生成；
  
• 對(duì)生成的虛假新聞、侵權(quán)內(nèi)容，平臺(tái)需承擔(dān)相應(yīng)監(jiān)管責(zé)任；
  
• 提倡數(shù)據(jù)來源合規(guī)、技術(shù)可解釋性與“算法道德”。

這些規(guī)定在全球范圍內(nèi)都屬于較早介入、相對(duì)明確的制度嘗試。但它同樣面臨幾個(gè)難點(diǎn)：

• 技術(shù)識(shí)別難：在AI圖像不斷精進(jìn)的背景下，肉眼難辨，技術(shù)溯源成本高；
  
• 平臺(tái)執(zhí)行難：生成內(nèi)容分散在無數(shù)APP、社交平臺(tái)，監(jiān)管精度有限；
  
• 國(guó)際協(xié)作弱：AI模型訓(xùn)練大多跨境進(jìn)行，內(nèi)容傳播無國(guó)界，單一國(guó)家的監(jiān)管難以形成閉環(huán)。

可以預(yù)見，未來的AI生成內(nèi)容監(jiān)管將呈現(xiàn)“技術(shù)+制度+共識(shí)”三管齊下的局面：

• 技術(shù)層面：平臺(tái)需加強(qiáng)“生成溯源機(jī)制”，包括不可篡改的數(shù)字水印、元數(shù)據(jù)嵌入等；
  
• 制度層面：各國(guó)需出臺(tái)更加明確的監(jiān)管標(biāo)準(zhǔn)，推動(dòng)平臺(tái)在合規(guī)、透明、安全方面“內(nèi)嵌”責(zé)任機(jī)制；
  
• 公眾層面：AI素養(yǎng)將成為新型媒介素養(yǎng)的一部分，用戶需學(xué)會(huì)識(shí)別AI內(nèi)容，并了解其潛在風(fēng)險(xiǎn)。

總之，生成式AI帶來的不僅是創(chuàng)意的解放，更是內(nèi)容生態(tài)的破壞性重構(gòu)與信任體系的再建。水印不是生成式AI內(nèi)容治理的終點(diǎn)，真正的挑戰(zhàn)，才剛剛開始。