01 概述

在這個由數(shù)據(jù)驅(qū)動的時代，人工智能（AI）正以其獨特的方式重塑我們的世界。AI不僅改變了我們獲取信息的方式，更在內(nèi)容創(chuàng)作領(lǐng)域掀起了一場革命。隨著生成性AI工具逐漸成為主流，人類創(chuàng)作與AI生成文本的界限變得模糊，這既帶來了前所未有的機(jī)遇，也帶來了關(guān)于真實性、作者身份和錯誤信息的挑戰(zhàn)。如何區(qū)分人類創(chuàng)作的內(nèi)容與AI生成的內(nèi)容，尤其是在AI變得越來越自然的情況下，成為了一個亟待解決的關(guān)鍵問題。

02 SynthID

開源的AI文本水印技術(shù)，為負(fù)責(zé)任的AI發(fā)展保駕護(hù)航

在這個背景下，Google開源了SynthID，這是一種AI文本水印技術(shù)，旨在通過負(fù)責(zé)任的AI發(fā)展，增強(qiáng)AI生成內(nèi)容的安全性、透明度和可追溯性。通過免費提供SynthID，Google希望能夠普及先進(jìn)的水印工具，這些工具可以在不改變可見特征的情況下識別AI生成的內(nèi)容。這一舉措是增強(qiáng)AI生態(tài)系統(tǒng)中信任的重要一步。

SynthID的技術(shù)概覽及其優(yōu)勢

SynthID通過先進(jìn)的深度學(xué)習(xí)模型，將不可見的水印直接集成到AI生成的文本中。與傳統(tǒng)的水印不同，SynthID的水印是無縫嵌入的，并且對篡改具有很高的抵抗力。通過嵌入跨AI文本格式工作的類似元數(shù)據(jù)的信號，SynthID可以確定給定文本是否為AI生成。這種水印很難在不顯著損害內(nèi)容的語言完整性的情況下移除，使其成為內(nèi)容驗證的強(qiáng)大工具。SynthID的韌性，加上其在嘈雜條件下工作的能力——即文本可能已經(jīng)過人工編輯——使其尤為強(qiáng)大。

03 SynthID-Text研究的洞見

最近在《自然》雜志上發(fā)表的一篇研究論文進(jìn)一步揭示了SynthID-Text的開發(fā)和測試情況。SynthID-Text是一種生產(chǎn)就緒的水印方案，它在確保高檢測準(zhǔn)確率的同時，保持了文本質(zhì)量，并且延遲最小。值得注意的是，SynthID-Text與推測性抽樣技術(shù)集成，這是一種用于提高生產(chǎn)系統(tǒng)效率的技術(shù)，允許在不影響文本生成速度的情況下進(jìn)行可擴(kuò)展的水印。在多個大型語言模型（LLMs）上的評估表明，與現(xiàn)有方法相比，SynthID-Text提供了改進(jìn)的可檢測性，而與人類評審員的并排比較表明，文本質(zhì)量沒有損失。在涉及近2000萬Gemini響應(yīng)的大規(guī)模實驗中，SynthID-Text保持了文本質(zhì)量，展示了其在現(xiàn)實世界應(yīng)用中的可行性。

SynthID的重要性

在AI生成內(nèi)容迅速擴(kuò)散的世界中，SynthID的重要性不言而喻。SynthID不僅作為一種驗證工具，還提供了問責(zé)制，這對于打擊虛假信息至關(guān)重要，尤其是當(dāng)AI生成的內(nèi)容越來越難以與人類創(chuàng)作區(qū)分開來時。測試結(jié)果令人鼓舞：在測試中，SynthID識別水印文本的準(zhǔn)確率超過了95%。此外，SynthID-Text中集成了一種名為Tournament抽樣的新型抽樣算法，通過嵌入難以移除的統(tǒng)計簽名，增強(qiáng)了檢測性能。通過開源SynthID，Google還邀請開發(fā)者社區(qū)為提高AI生成文本的透明度做出貢獻(xiàn)，促進(jìn)了一個更負(fù)責(zé)任的AI環(huán)境。

04 結(jié)語

Google決定開源SynthID用于AI文本水印，這是邁向負(fù)責(zé)任AI發(fā)展的重要一步。SynthID不僅有效地識別AI生成的內(nèi)容，還促進(jìn)了數(shù)字領(lǐng)域透明度的新時代。通過提供強(qiáng)大的水印技術(shù)和將其開放給社區(qū)，Google為道德AI發(fā)展樹立了高標(biāo)準(zhǔn)。隨著AI生成內(nèi)容的持續(xù)擴(kuò)展，像SynthID這樣的工具對于維護(hù)信息完整性和確保AI技術(shù)的負(fù)責(zé)任增長至關(guān)重要。

參考：

1. ??https://www.nature.com/articles/s41586-024-08025-4??
2. ??https://deepmind.google/technologies/synthid/??

?

本文轉(zhuǎn)載自公眾號Halo咯咯  作者：基咯咯

原文鏈接：??https://mp.weixin.qq.com/s/b3UVQ7xFcdMjogLOmjogFQ??