點(diǎn)擊參加51CTO網(wǎng)站內(nèi)容調(diào)查問卷

作者 | Atty Eleti、Jeff Harris、Logan Kilpatrick

編譯 | 王瑞平、言征

OpenAI火力全開，對于開發(fā)者這個(gè)龐大的市場，當(dāng)然不會“一招鮮”式地收割！就在昨天，OpenAI又放狠招了！

當(dāng)?shù)貢r(shí)間6月13日，OpenAI重磅發(fā)布更新版GPT-3.5 Turbo和GPT-4模型，API新增函數(shù)調(diào)用功能。

更可怕的是，它還進(jìn)行了API其它方面的更新，包括更多可控的API模型、其它功能調(diào)用能力、更長的上下文和更低的價(jià)格，將嵌入模型成本降低了75%、GPT-3.5 Turbo的tokens輸入成本降低了25%。

“今年早些時(shí)候，我們發(fā)布了GPT-3.5 Turbo和GPT-4。在短短幾個(gè)月內(nèi)，開發(fā)人員就在這些型號的基礎(chǔ)上構(gòu)建出令人難以置信的新應(yīng)用程序，”O(jiān)pen AI在官網(wǎng)上表示。

一、更安全：包含用戶確認(rèn)步驟

自從ChatGPT的Alpha插件版本發(fā)布以來，OpenAI已經(jīng)熟知如何讓AI工具和語言模型安全有效地協(xié)同工作。

然而，仍有安全問題與漏洞頻頻出現(xiàn)。對此，OpenAI回應(yīng)：“我們正努力減輕安全風(fēng)險(xiǎn)帶來的損失。開發(fā)人員可以只使用程序中的可信工具?！?/p>

為在源頭控制安全問題的發(fā)生，OpenAI將程序設(shè)置為：在執(zhí)行具有實(shí)際影響的操作（如，發(fā)送電子郵件、在線發(fā)帖或購買）之前包含用戶確認(rèn)步驟，用來維護(hù)應(yīng)用程序的安全性。

二、新模型：GPT-4 與 GPT-3.5 Turbo

當(dāng)然，你一定更關(guān)心這兩種新模型究竟在哪些方面進(jìn)行了更新，OpenAI同樣提供了詳細(xì)說明：

1.GPT-4

GPT-4-0613包括更新和改進(jìn)的模型與函數(shù)調(diào)用。

GPT-4-32k-0613則包括與GPT-4-0613相同的改進(jìn)功能，并擴(kuò)展了上下文長度，以便更好理解較大的文本。

“有了這些更新，我們將在未來幾周從候補(bǔ)名單中邀請更多的用戶嘗試GPT-4，并打算借此機(jī)會完全刪除候補(bǔ)名單。感謝所有耐心等待的開發(fā)者，我們很高興看到你們使用GPT-4，”O(jiān)penAI在官網(wǎng)上對用戶說。

2.GPT-3.5 Turbo

GPT-3.5-turbo-0613具有與GPT-4相同的調(diào)用能力。通過系統(tǒng)提示消息，它展現(xiàn)出更可靠的操作性能。這兩個(gè)功能允許開發(fā)人員更有效控制模型響應(yīng)。

GPT-3.5-turbo-16k的上下文長度是GPT-3.5-turbo的4倍，價(jià)格是GPT-3.5-turbo的兩倍。每1K tokens輸入成本0.003美元，輸出成本0.004美元。16k上下文可以在每個(gè)請求中支持約20頁的文本。

三、程序員：訪問新模型，棄用舊版本

“今天，我們將開始升級和棄用3月份發(fā)布的 GPT-4 和 GPT-3.5 Turbo 初始版本。”

GPT-3.5 Turbo，GPT-4和GPT-4-32k應(yīng)用程序?qū)⒃?月27日自動升級成上述新型號。為比較不同版本模型的性能，OpenAI的Evals庫支持公共和私有評估，以體現(xiàn)出模型的更改將如何影響用戶使用。

需要更多時(shí)間過渡的開發(fā)人員可以自由選擇GPT-3.5-turbo-0301、GPT-4-0314或GPT-4-32k-0314等舊型號。

總之，根據(jù)OpenAI的指示，你可以在9月13日之前訪問舊型號，并通過模型棄用頁面了解最新信息。

四、函數(shù)調(diào)用：方便API使用外部工具

OpenAI在一篇博客文章中透露：“函數(shù)調(diào)用功能允許開發(fā)人員向GPT-3.5 Turbo和GPT-4提供編程函數(shù)，并讓模型創(chuàng)建代碼來執(zhí)行這些函數(shù)?！?/p>

例如，函數(shù)調(diào)用功能可以幫助創(chuàng)建聊天機(jī)器人。這些聊天機(jī)器人可以通過調(diào)用外部工具回答問題，將自然語言轉(zhuǎn)換為數(shù)據(jù)庫查詢功能，并從文本中提取結(jié)構(gòu)化數(shù)據(jù)。

OpenAI在官網(wǎng)上還表示：“這些模型經(jīng)過了微調(diào)可以檢測何時(shí)需要調(diào)用函數(shù)。函數(shù)調(diào)用允許開發(fā)人員更可靠地從模型中獲取結(jié)構(gòu)化數(shù)據(jù)?！?/p>

有了函數(shù)調(diào)用功能，開發(fā)人員可以向GPT-4-0613和GPT-3.5-turbo-0613描述函數(shù)并讓模型智能化選擇輸出包含調(diào)用這些函數(shù)參數(shù)的JSON對象，更可靠地將GPT功能與外部工具和API連接起來。

微調(diào)后的模型可根據(jù)用戶輸入檢測何時(shí)需要調(diào)用函數(shù)。函數(shù)調(diào)用功能則允許開發(fā)人員更可靠地從模型中獲得結(jié)構(gòu)化數(shù)據(jù)。

例如，開發(fā)人員可以創(chuàng)建聊天機(jī)器人，通過調(diào)用外部工具回答問題，也可以將自然語言轉(zhuǎn)換為API調(diào)用或數(shù)據(jù)庫查詢或者從文本中提取結(jié)構(gòu)化數(shù)據(jù)。

上述應(yīng)用通過/v1/chat/completions端點(diǎn)中的新API參數(shù)、functions和function_call實(shí)現(xiàn)，允許開發(fā)人員通過JSON Schema向模型描述函數(shù)并有選擇性地要求它調(diào)用特定函數(shù)。

五、開發(fā)者參考：函數(shù)調(diào)用示例

當(dāng)你輸入：現(xiàn)在Boston天氣如何?

步驟1：OpenAI API用函數(shù)和用戶輸入調(diào)用模型

請求和響應(yīng)如下：

Request

Response

步驟2：第三方API使用模型響應(yīng)調(diào)用API

         Request         

Response

步驟3：OpenAI API將響應(yīng)發(fā)送回模型進(jìn)行匯總

Request

Response

函數(shù)調(diào)用后會輸出結(jié)果：Boston目前天氣晴朗，氣溫為22攝氏度。

六、引入新風(fēng)格：擴(kuò)展上下文窗口，讀取文本數(shù)增多

除了函數(shù)調(diào)用功能，OpenAI在GPT-3.5 Turbo中引入了新的風(fēng)格，大大擴(kuò)展了上下文窗口。

上下文窗口的大小以標(biāo)記的多少或原始文本位置衡量，指的是模型在生成任何附加文本之前曾進(jìn)行的文本考量。具有較小上下文窗口的模型更容易“忘記”（甚至是最近的對話內(nèi)容），這會導(dǎo)致輸出的文本偏離主題。

從價(jià)格角度來看，新GPT-3.5 Turbo提供的上下文長度(16,000個(gè)token)是舊版本GPT-3.5 Turbo的4倍，價(jià)格是其2倍。其中，每1000個(gè)輸入模型token 0.003美元，每1000個(gè)輸出模型token 0.004美元。

OpenAI介紹，新版本模型可一次性讀取大約20頁文本，而人工智能初創(chuàng)公司Anthropic的旗艦?zāi)Ｐ涂梢蕴幚頂?shù)百頁文本。(OpenAI也正在測試GPT-4其中的一個(gè)版本，該版本擁有32,000個(gè)令牌上下文窗口，但只能進(jìn)行有限次發(fā)布。)

七、降價(jià)：為開發(fā)人員節(jié)約使用成本

“未來，我們將繼續(xù)使模型變得更高效，并將節(jié)省的成本回饋給開發(fā)人員?！?/p>

OpenAI把原始版本GPT 3.5的價(jià)格降低了25%。開發(fā)人員可以只為每1000個(gè)tokens輸入支付0.0015美元，每1000個(gè)tokens輸出支付0.002美元，這相當(dāng)于每美元約700頁文本。

此外，公司最流行的文本嵌入模型text- embedting-ada-002的價(jià)格也有所降低。它通常用于文本的搜索和推薦。如前文所述，現(xiàn)在，它每1000個(gè)tokens的價(jià)格為0.0001美元，相較于之前的價(jià)格降低了75%。

OpenAI表示，成本的減少是由于其模型效率逐漸升高。毫無疑問，這是公司關(guān)注的關(guān)鍵領(lǐng)域，也為此在研發(fā)和基礎(chǔ)設(shè)施上花費(fèi)了數(shù)億美元。

八、寫在最后：得開發(fā)者得天下

“開發(fā)者的反饋是平臺發(fā)展的基石，我們將繼續(xù)根據(jù)建議進(jìn)行改進(jìn)。很高興看到開發(fā)人員使用最新的模型和新功能。”O(jiān)penAI表示。

自3月初發(fā)布GPT-4之后，一直將重點(diǎn)放在對現(xiàn)有模型進(jìn)行更新而不是大規(guī)模從頭開始構(gòu)建新模型。

最近，在由《經(jīng)濟(jì)時(shí)報(bào)》主辦的一次會議上，OpenAI首席執(zhí)行官Sam Altman重申：“公司尚未開始培訓(xùn)GPT-4繼任者。在啟動該模型之前，公司還有很多工作要做?！?/p>

參考資料：

1.https://www.zdnet.com/article/gpt-3-5-vs-gpt-4-is-chatgpt-plus-worth-its-subscription-fee/

2.https://openai.com/blog/function-calling-and-other-api-updates