編輯 | 星璇
出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）
OpenAI 的競(jìng)爭(zhēng)對(duì)手初創(chuàng)公司Anthropic昨天發(fā)布了其 Claude系列人工智能模型的系統(tǒng)提示（System Prompt），并承諾未來(lái)將繼續(xù)這樣做，為快速發(fā)展的人工智能行業(yè)樹(shù)立了新的透明度標(biāo)準(zhǔn)。
圖片
1.系統(tǒng)提示為什么這么重要？
系統(tǒng)提示的作用很像大型語(yǔ)言模型（LLM）的操作說(shuō)明，告訴模型在與用戶(hù)交互時(shí)應(yīng)該遵循的一般規(guī)則以及應(yīng)該表現(xiàn)出的行為或個(gè)性，它們還傾向于顯示 LLM 在訓(xùn)練期間學(xué)習(xí)到的信息的截止日期。
大部分 LLM 都有系統(tǒng)提示，但并不是每家 AI 公司都會(huì)公開(kāi)發(fā)布。揭秘模型的系統(tǒng)提示甚至成了AI 越獄者的一種愛(ài)好。
但現(xiàn)在不用這些AI越獄者，Anthropic 直接“自曝”，在其網(wǎng)站的直接發(fā)布說(shuō)明部分發(fā)布了其Claude 3.5 Sonnet、Claude 3 Haiku 和 Claude 3 Opus型號(hào)的操作說(shuō)明。
此外，Anthropic 的開(kāi)發(fā)者關(guān)系主管Alex Albert 在 X上發(fā)布了一項(xiàng)承諾，即讓公眾了解其系統(tǒng)提示的最新情況，他寫(xiě)道：“我們將記錄對(duì) Claude dot ai 和我們的移動(dòng)應(yīng)用程序上的默認(rèn)系統(tǒng)提示所做的更改。”
2.Anthropic 的系統(tǒng)提示曝光了
針對(duì) Claude 3.5 Sonnet、Claude 3 Haiku 和 Claude 3 Opus 這三個(gè)模型的系統(tǒng)提示揭示了每個(gè)模型的一些有趣細(xì)節(jié)、它們的能力和知識(shí)日期截止值以及各種性格怪癖。
Claude 3.5 Sonnet是最先進(jìn)的版本，其知識(shí)庫(kù)于 2024 年 4 月更新。它為復(fù)雜問(wèn)題提供詳細(xì)答案，為簡(jiǎn)單任務(wù)提供簡(jiǎn)潔答案，強(qiáng)調(diào)準(zhǔn)確性和簡(jiǎn)潔性。該模型謹(jǐn)慎處理有爭(zhēng)議的話題，呈現(xiàn)信息時(shí)不會(huì)明確將其標(biāo)記為敏感或聲稱(chēng)客觀。此外，Claude 3.5 Sonnet 避免使用不必要的填充短語(yǔ)或道歉，并特別注意其處理圖像識(shí)別的方式，確保它永遠(yuǎn)不會(huì)承認(rèn)識(shí)別了任何人臉。
Claude 3 Opus的知識(shí)庫(kù)更新至 2023 年 8 月，擅長(zhǎng)處理復(fù)雜任務(wù)和寫(xiě)作。它旨在對(duì)簡(jiǎn)單查詢(xún)提供簡(jiǎn)潔的回復(fù)，對(duì)更復(fù)雜的問(wèn)題提供詳盡的答案。Claude 3 Opus 通過(guò)提供廣泛的視角、避免刻板印象和提供平衡的觀點(diǎn)來(lái)解決有爭(zhēng)議的話題。雖然它與 Sonnet 模型有一些相似之處，但它沒(méi)有采用相同的詳細(xì)行為準(zhǔn)則，例如避免道歉或不必要的肯定。
Claude 3 Haiku是 Claude 系列中速度最快的模型，同樣于 2023 年 8 月進(jìn)行了更新。它經(jīng)過(guò)優(yōu)化，可以快速、簡(jiǎn)潔地回答簡(jiǎn)單問(wèn)題，同時(shí)在需要解決更復(fù)雜的問(wèn)題時(shí)仍能提供全面的答案。與 Sonnet 相比，Haiku 的提示結(jié)構(gòu)更為直接，主要注重速度和效率，沒(méi)有 Sonnet 模型中更高級(jí)的行為細(xì)微差別。
3.為什么 Anthropic 發(fā)布其系統(tǒng)提示很重要
生成式AI系統(tǒng)一直都被描述為一個(gè)人類(lèi)難以理解的“黑匣子”，人們很難找出模型做出決定的原因和方式。黑匣子問(wèn)題繼而引發(fā)了對(duì)人工智能可解釋性的研究，這是一種闡明模型預(yù)測(cè)決策過(guò)程的方法。公眾對(duì)系統(tǒng)提示的訪問(wèn)是朝著稍微打開(kāi)黑匣子邁出的一步，但僅限于人們了解人工智能公司為其創(chuàng)建的模型設(shè)定的規(guī)則的程度。
所以，AI 開(kāi)發(fā)人員對(duì) Anthropic 這一透明性決定大為贊賞，并認(rèn)為：發(fā)布有關(guān) Claude 系統(tǒng)提示和更新的文檔將會(huì)令其在眾多大模型獨(dú)角獸中脫穎而出。
圖片
一位從行業(yè)者稱(chēng)：這是一個(gè)偉大的變化，希望業(yè)界也都行動(dòng)起來(lái)。
4.小遺憾：并非完全開(kāi)源
發(fā)布Claude 模型的系統(tǒng)提示并不意味著 Anthropic 開(kāi)放了該模型系列。運(yùn)行模型的實(shí)際源代碼以及訓(xùn)練數(shù)據(jù)集和底層“權(quán)重”（或模型設(shè)置）仍掌握在 Anthropic 手中。
盡管如此，Anthropic 發(fā)布 Claude 系統(tǒng)為其他 AI 公司指明了一條提高 AI 模型開(kāi)發(fā)透明度的道路。它還向用戶(hù)展示了他們的 AI 聊天機(jī)器人是如何設(shè)計(jì)的，從而讓用戶(hù)受益。
