GPT-4 Turbo問世,API更劃算,128K上下文窗口引領新時代
一、簡介
在發(fā)布GPT-4(點擊了解GPT-4)僅僅八個月后,OpenAI推出了更新的模型GPT-4 Turbo,該模型具有可以在一次提示中容納300頁書的上下文窗口,并且提供更便宜的API訪問。
【GPT-4 Turbo】:https://openai.com/blog/new-models-and-developer-products-announced-at-devday
二、GPT-4 Turbo的新功能有哪些?
以下是GPT-4 Turbo的主要特點:
- 128K上下文窗口(比GPT-4大16倍)。
- 與GPT-4相比,輸入token的價格降低了3倍,輸出token的價格降低了2倍。
- 它具有截至2023年4月的知識(GPT-4的知識截止日期為2022年1月)。
【GPT-4 Turbo價格】:https://openai.com/pricing#gpt-4-turbo
三、如何訪問?
對于付費用戶,GPT-4 Turbo現(xiàn)在是ChatGPT中默認使用的模型。如果擁有OpenAI賬戶并已經(jīng)獲得了GPT-4的訪問權限,可以通過在Playground上切換到gpt-4-11-6-preview模型來訪問新模型。
圖片
OpenAI Playground截圖
GPT-4 Turbo對于所有付費開發(fā)者來說都是可用的,可以通過在API中傳遞gpt-4-1106-preview來嘗試。以下是使用JavaScript的聊天完成請求示例:
import OpenAI from "openai";
const openai = new OpenAI();
async function main() {
const completion = await openai.chat.completions.create({
messages: [{ role: "system", content: "You are a helpful assistant." }],
model: "gpt-4-1106-preview",
});
console.log(completion.choices[0]);
}
main();
以下是使用Python實現(xiàn)的方法:
from openai import OpenAI
client = OpenAI()
completion = client.chat.completions.create(
model="gpt-4-1106-preview",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello!"}
]
)
print(completion.choices[0].message)
四、API定價
作為開發(fā)者,降低定價是最令人興奮的一項更新。OpenAI已將輸入token的價格降低了3倍,將輸出token的價格降低了2倍。這使得新模型對于規(guī)模較小的開發(fā)者和初創(chuàng)公司更加易于獲取。
GPT-4 Turbo的API價格:
圖片
OpenAI GPT-4 Turbo定價
之前的GPT-4 API價格:
OpenAI GPT-4定價
token是用于自然語言處理的詞片段。對于英文文本,1個token大約等于4個字符或0.75個單詞。
此外,ChatGPT API的訪問費用與ChatGPT Plus訂閱費用是分開計費的。用戶可以在OpenAI賬戶的使用頁面上監(jiān)控自己的使用情況。
OpenAI使用情況界面
五、自動切換工具
在最新的ChatGPT用戶界面中,下拉菜單已經(jīng)消失了。它被替換為僅有的三個選項:GPT-4、GPT-3.5和插件。
ChatGPT模型選擇
現(xiàn)在,GPT-4 Turbo可自動為用戶選擇合適的工具。
“我們聽到了用戶的反饋。那個模型選擇器真的很煩人。” —— Sam Altman
例如,如果用戶要求AI生成一張圖片,它現(xiàn)在會聰明地使用Dall-E 3來生成圖片。
六、最后的思考
總的來說,很高興看到OpenAI在語言模型方面的快速創(chuàng)新。它們無疑是令人興奮的,為基于GPT的創(chuàng)新應用提供了廣泛的可能性。
然而,思考一下OpenAI的戰(zhàn)略方法也很有意思。最初,OpenAI發(fā)布了他們的API,允許開發(fā)者進行構建和創(chuàng)新,實際上承擔了早期采用和用戶參與的風險。事實證明,OpenAI 的這一舉措是明智之舉,因為它不僅培養(yǎng)了一個多樣化的應用生態(tài)系統(tǒng),還為他們提供了對最受需求的功能的洞察。
現(xiàn)在,OpenAI似乎正在有選擇地將這些受歡迎的功能直接集成到他們的平臺中,有效地精選了社區(qū)開發(fā)的最佳產(chǎn)品和服務。