編輯 | 云昭

本周的OpenAI， 似乎并未辜負(fù)其名稱中的“開(kāi)放”字樣。

近日，OpenAI雖然沒(méi)有開(kāi)源任何新模型，但該公司非常之“清流”，一改銅臭的商業(yè)味道。

1.OpenAI加入開(kāi)放性組織推出內(nèi)容真實(shí)性工具

5月7日，該公司發(fā)布公告加入C2PA（致力于開(kāi)發(fā)確定內(nèi)容來(lái)源和真實(shí)性的技術(shù)規(guī)范，微軟和Adobe也是成員之一，非營(yíng)利性組織）的貿(mào)易組織的指導(dǎo)委員會(huì)，并表示這樣做的目的是為了幫助人們驗(yàn)證用于創(chuàng)建或編輯多種數(shù)字內(nèi)容的工具，并創(chuàng)建“專門(mén)幫助人們識(shí)別由我們自己的工具創(chuàng)建的內(nèi)容的新技術(shù)”。

直白的解釋，即，OpenAI希望與該領(lǐng)域的其他公司（包括競(jìng)爭(zhēng)對(duì)手）合作，開(kāi)發(fā)用于標(biāo)記AI生成的圖像、視頻和其他內(nèi)容的工具和技術(shù)，從而使觀看者能夠追溯到其來(lái)源并避免混淆他們用于現(xiàn)實(shí)世界的鏡頭和照片。

值得注意的是，C2PA這個(gè)組織發(fā)布過(guò)許多開(kāi)源技術(shù)標(biāo)準(zhǔn)，所以O(shè)penAI的接下來(lái)的好技術(shù)非常有望開(kāi)源出來(lái)給開(kāi)發(fā)者使用。

此外，就在同一天，OpenAI宣布將推出一款工具，可以檢測(cè)出由其“文本到圖像生成器Dall-E 3創(chuàng)建的圖像。OpenAl表示，在內(nèi)部測(cè)試中，該工具在約98%的時(shí)間內(nèi)能夠正確識(shí)別出由Dall-E 3創(chuàng)建的圖像，并且可以處理一些常見(jiàn)的修改，如壓縮、裁剪和飽和度變化等。

OpenAl還表示，計(jì)劃添加防篡改水印，對(duì)照片或音頻等數(shù)字內(nèi)容進(jìn)行標(biāo)記，且這些標(biāo)記很難被刪除。

2.OpenAI 要為行業(yè)立規(guī)矩

這還不夠，OpenAI開(kāi)始在行業(yè)內(nèi)立內(nèi)容標(biāo)準(zhǔn)了！

其官網(wǎng)博客在7日宣布OpenAI 正在開(kāi)發(fā)媒體管理器，該工具將使創(chuàng)作者和內(nèi)容所有者能夠告訴用戶他們擁有什么，并指定他們希望如何將自己的作品納入或排除在機(jī)器學(xué)習(xí)研究和訓(xùn)練之外。接下來(lái)，他們計(jì)劃推出更多選擇和功能。

這將需要尖端的機(jī)器學(xué)習(xí)研究來(lái)構(gòu)建有史以來(lái)第一個(gè)同類工具，以幫助我們識(shí)別多個(gè)來(lái)源的受版權(quán)保護(hù)的文本、圖像、音頻和視頻，并反映創(chuàng)作者的偏好。 

“在開(kāi)發(fā)媒體管理器時(shí)，我們正在與創(chuàng)作者、內(nèi)容所有者和監(jiān)管機(jī)構(gòu)合作。我們的目標(biāo)是在 2025 年之前推出該工具，并希望它能為整個(gè)人工智能行業(yè)樹(shù)立標(biāo)準(zhǔn)。”

緊接著，5月8日，OpenAI公開(kāi)分享了模型規(guī)范Model Spec，次日掌舵者Sam Altman評(píng)論道：

Model Spec規(guī)定了該公司模型如何運(yùn)行，之后會(huì)繼續(xù)傾聽(tīng)、討論并調(diào)整?！拔艺J(rèn)為明確某件事究竟是BUG、還是決策造成的，這將是非常有用的?！?/p>

據(jù)悉，這個(gè)“模型規(guī)范”，是一個(gè)框架文件，旨在塑造 OpenAI 應(yīng)用程序編程接口 (API) 和 ChatGPT 中使用的人工智能模型的行為，并在此基礎(chǔ)上使用網(wǎng)絡(luò)表單征求公眾反饋，開(kāi)放直到5月22日。

Altman表示，希望在社會(huì)最終同意的一些嚴(yán)格界限內(nèi)，讓用戶對(duì)AI擁有很大的控制權(quán)。

一系列的動(dòng)作都聚焦在一件事情上：給AI的使用行為立規(guī)矩，旨在解決AI技術(shù)加劇或帶來(lái)的虛假信息、深度偽造、內(nèi)容版權(quán)等問(wèn)題。

3.為AI大模型立“憲法”

OpenAI 表示，這份工作文件的發(fā)布是其更廣泛使命的一部分，即確保人工智能技術(shù)以對(duì)所有用戶有益且安全的方式運(yùn)行。

當(dāng)然，說(shuō)起來(lái)容易做起來(lái)難，而且這樣做很快就會(huì)陷入長(zhǎng)期懸而未決的關(guān)于技術(shù)、智能系統(tǒng)、計(jì)算、工具和更廣泛的社會(huì)的哲學(xué)辯論的領(lǐng)域。

正如 OpenAI 在其宣布 Model Spec 的博客文章中所寫(xiě)：

“即使一個(gè)模型的目的是對(duì)用戶廣泛有益和有幫助，這些意圖在實(shí)踐中也可能會(huì)發(fā)生沖突。例如，安全公司可能希望生成網(wǎng)絡(luò)釣魚(yú)電子郵件作為合成數(shù)據(jù)，以訓(xùn)練和開(kāi)發(fā)保護(hù)其客戶的分類器，但如果詐騙者使用相同的功能，則會(huì)有害?！?/p>

通過(guò)分享初稿，OpenAI 希望公眾就人工智能開(kāi)發(fā)中涉及的道德和實(shí)際考慮因素進(jìn)行更深入的對(duì)話。在接下來(lái)的兩周內(nèi)，用戶可以通過(guò) OpenAI網(wǎng)站上的模型規(guī)范反饋表提交意見(jiàn)。

之后，OpenAI 表示將在“明年分享有關(guān)模型規(guī)范變更的最新信息、對(duì)反饋的回應(yīng)以及其在塑造模型行為方面的研究進(jìn)展情況”。

盡管 OpenAI 在今天宣布模型規(guī)范的博文中并未具體說(shuō)明它究竟如何影響其人工智能模型的行為，以及模型規(guī)范中寫(xiě)入的一些原則是否包含在“系統(tǒng)提示”或“預(yù)先提示”中用于在人工智能系統(tǒng)向公眾提供服務(wù)之前對(duì)其進(jìn)行調(diào)整——但可以肯定的是，它對(duì)其產(chǎn)生了重大影響。

其實(shí)，Model Spec的推出，在某種程度上類似于競(jìng)爭(zhēng)對(duì)手Anthropic AI 的人工智能制定Claude“憲法”的路數(shù)，Antropic最初只是將其作為一個(gè)主要的差異化，但在一段時(shí)間內(nèi)并未廣泛強(qiáng)調(diào)這一點(diǎn)。

4.AI行為框架三定律

模型規(guī)范圍繞3個(gè)主要組成部分構(gòu)建：目標(biāo)、規(guī)則和默認(rèn)行為。這些元素是指導(dǎo)人工智能模型與人類用戶交互的支柱，確保它們不僅有效而且遵守道德標(biāo)準(zhǔn)。

目標(biāo)：該文件制定了廣泛的總體原則，旨在為開(kāi)發(fā)人員和最終用戶提供幫助。其中包括幫助用戶有效地實(shí)現(xiàn)他們的目標(biāo)，考慮對(duì)不同利益相關(guān)者的潛在影響，以及堅(jiān)持 OpenAI 在社區(qū)中積極反映的承諾。

規(guī)則：為了駕馭人工智能交互的復(fù)雜環(huán)境，模型規(guī)范建立了明確的規(guī)則。這些要求遵守適用法律、尊重知識(shí)產(chǎn)權(quán)、保護(hù)隱私，并嚴(yán)格禁止制作不安全工作 (NSFW) 內(nèi)容。

默認(rèn)行為：指南強(qiáng)調(diào)了假設(shè)良好意圖、必要時(shí)提出澄清問(wèn)題以及盡可能提供幫助但不過(guò)分的重要性。這些默認(rèn)值旨在促進(jìn)不同用戶和用例的不同需求之間的平衡。

AI 布道者、賓夕法尼亞大學(xué)沃頓商學(xué)院教授 Ethan Mollick 等人將其比作科幻作家阿西莫夫于 1942 年提出的虛構(gòu)“機(jī)器人三定律”。

5.質(zhì)疑聲音：模型功能被限制、示例回答欠妥

當(dāng)然，這個(gè)模型規(guī)范當(dāng)然還遠(yuǎn)遠(yuǎn)不能稱為完美，有網(wǎng)友甚至對(duì)于模型規(guī)范表示遺憾：因?yàn)檫@會(huì)阻止模型充分發(fā)揮其功能。

比較尷尬的地方就在于，本身在該示范中的一個(gè)示例就出問(wèn)題了?？萍甲骷褹ndrew 在 X 上指出，模型規(guī)范中包含的 OpenAI 的一個(gè)示例顯示，一個(gè)假設(shè)的“AI 助手”對(duì)用戶關(guān)于地球是平的錯(cuò)誤說(shuō)法做出了讓步，并且沒(méi)有提出疑問(wèn)。

同時(shí)，還有人對(duì)當(dāng)前 OpenAI 模型規(guī)范如何導(dǎo)致 ChatGPT 或其他 AI 模型行為的實(shí)現(xiàn)提出了質(zhì)疑。

6.一項(xiàng)馬拉松式的公開(kāi)工程

OpenAI 認(rèn)識(shí)到模型規(guī)范是一個(gè)不斷發(fā)展的文檔。它不僅反映了組織當(dāng)前的實(shí)踐，而且還是一個(gè)動(dòng)態(tài)框架，將根據(jù)正在進(jìn)行的研究和社區(qū)反饋進(jìn)行調(diào)整。

這種協(xié)商方法旨在收集不同的觀點(diǎn)，特別是來(lái)自政策制定者、值得信賴的機(jī)構(gòu)和領(lǐng)域?qū)＜业热蚶嫦嚓P(guān)者的觀點(diǎn)。

收到的反饋將在完善模型規(guī)范和塑造未來(lái)人工智能模型的發(fā)展方面發(fā)揮至關(guān)重要的作用。

OpenAI 計(jì)劃向公眾通報(bào)從這一反饋循環(huán)中獲得的變化和見(jiàn)解，強(qiáng)化其對(duì)負(fù)責(zé)任的人工智能開(kāi)發(fā)的承諾。

7.OpenAI是裁判，也是運(yùn)動(dòng)員？

無(wú)論如何，本周一系列開(kāi)放的動(dòng)作或許在透露出OpenAI在處于某種轉(zhuǎn)折點(diǎn)上。美大選將近，GPT-5的推出備受大家關(guān)注?！按竽Ｐ托袨闇?zhǔn)則”的推出，似乎也標(biāo)志著某種秩序即將悄然而至。

正如SamAltman所說(shuō)，通過(guò)明確定義人工智能模型應(yīng)如何按照其模型規(guī)范行事，并不斷尋求全球社區(qū)的意見(jiàn)，希望OpenAI 可以營(yíng)造這樣一個(gè)環(huán)境，讓AI能夠作為社會(huì)的積極力量蓬勃發(fā)展。

當(dāng)然，雖然OpenAI自身也在因?yàn)橥瑯拥氖虑樵诿媾R著訴訟和挑戰(zhàn)，比如：對(duì)未經(jīng)明確同意對(duì)藝術(shù)家作品而進(jìn)行訓(xùn)練而飽受批評(píng)。

醫(yī)者能否自醫(yī)？裁判還是運(yùn)動(dòng)員？則是另一個(gè)值得探討的話題了。

參考鏈接：

https://openai.com/index/introducing-the-model-spec

https://venturebeat.com/ai/openai-to-steer-content-authentication-group-c2pa-pledges-to-label-sora-videos-as-ai/

本文轉(zhuǎn)載自??51CTO技術(shù)棧??，作者：云昭