ChatGPT重磅更新!新增API函數(shù)調(diào)用,上下文飆升4倍,價格打“骨折”
大數(shù)據(jù)文摘出品
剛剛!OpenAI 對 GPT系列發(fā)布了重大更新。其中包括最核心的是API新增函數(shù)調(diào)用(Function calling)能力。
此外還有:
- 更新和更可控制的gpt-4和gpt-3.5-turbo版本。
- 新推出的gpt-3.5-turbo 支持16k的上下文輸入。
- gpt-3.5-turbo輸入token成本降低25%。
- 最先進embeddings model降價75%
- 開放gpt-3.5-turbo和gpt-4 API,不再設(shè)置等待時間表。
在這次更新中,OpenAI 重點介紹了函數(shù)調(diào)用:開發(fā)者不用手動選擇函數(shù),只需要模型描述需要用到的函數(shù),何時調(diào)用哪個函數(shù)都是模型根據(jù)提示詞自己決定的,與GPT-4調(diào)用插件的機制一樣。
這些模型已經(jīng)進行了微調(diào),可以檢測到何時需要調(diào)用函數(shù),也可以生成符合函數(shù)簽名的JSON響應(yīng)。換句話說,函數(shù)調(diào)用使得開發(fā)者能夠更可靠地從模型中獲取結(jié)構(gòu)化數(shù)據(jù)。
更新模型:GPT-4和gpt-3.5-turbo大升級
GPT-4/GPT-3.5-turbo有兩個模型,編號都是0613(意為:6月13號更新?)。
其中,gpt-4-0613包括一個更新且改進的模型,具有函數(shù)調(diào)用功能;gpt-4-32k-0613包括與gpt-4-0613相同的改進,同時擴展了上下文長度,以便更好地理解較大的文本。
gpt-3.5-turbo-0613 包括與 GPT-4 相同的函數(shù)調(diào)用以及通過系統(tǒng)消息提供的更可靠的可控性;gpt-3.5-turbo-16k 的16k 上下文意味著該模型現(xiàn)在可以在單個請求中支持約 20 頁文本。
此次更新OpenAI提供了更多的服務(wù),但卻只收取更低的價格,妥妥的業(yè)界良心?。?/p>
“text-embedding-ada-002 將成本降低 75% 至每 1K Token 0.0001 美元。
gpt-3.5-turbo-16k 的定價為每 1K 輸入Token 0.003 美元,每 1K 輸出Token 0.004 美元。
gpt-3.5-turbo’s 輸入Token的成本降低了 25%”
價格計劃更新后,有網(wǎng)友表示:OpenAI好像、貌似給免單了。
API使用示例,解放開發(fā)者雙手
關(guān)于函數(shù)調(diào)用功能,OpenAI給出了以下幾個示例。
1.請求轉(zhuǎn)換
“給Anya發(fā)郵件,看她是否想在下周五喝咖啡”這樣的請求轉(zhuǎn)換為函數(shù)調(diào)用:
send_email(to: string, body: string)
“波士頓的天氣如何?”轉(zhuǎn)換為函數(shù)調(diào)用:
get_current_weather(location: string, unit: 'celsius' | 'fahrenheit')。
2.將自然語言轉(zhuǎn)換為API調(diào)用或數(shù)據(jù)庫查詢
本月前十名的客戶是誰?
get_customers_by_revenue(start_date: string, end_date: string, limit: int)
Acme公司上個月下了多少訂單,能轉(zhuǎn)換為SQL查詢:
sql_query(query: string)
3.從文本中提取結(jié)構(gòu)化數(shù)據(jù)
定義函數(shù)提取Wikipedia文章中提到的所有人物:
extract_people_data(people: [{name: string, birthday: string, location: string}])
圖注:調(diào)用外部API執(zhí)行操作或回答問題
OpenAI 和它的GPT計劃
在最近的一次訪談中,OpenAI的掌舵人Sam Altman公布了最近兩年的GPT計劃。例如2023年的計劃是降低GPT-4的成本,以及提高響應(yīng)速度,其他還包括:
- 更長的上下文窗口,可能會支持100w的token;
- 微調(diào)API,幫助開發(fā)人員更好的開發(fā);
- 支持會話狀態(tài)的API。
顯然,這次更新是對更長的上下文窗口,幫助開發(fā)人員更好開發(fā)的承諾的一種回應(yīng)。果然,這種純粹創(chuàng)業(yè)團隊,更多的是考慮如何讓AI技術(shù)更好的服務(wù)更多的人群。而非像某公司,動不動就商業(yè)化、賦能啥的,把技術(shù)包裝成普通用戶用不起的樣子。
如果細數(shù)OpenAI,會發(fā)現(xiàn)它是一家堅持夢想的機構(gòu),且想把事情做到極致的公司。
OpenAI最初是一個非盈利性人工智能研究實驗室,2016年獲得了薩姆?奧爾特曼和埃隆?馬斯克10億美元的資助。
2019年OpenAI轉(zhuǎn)型為盈利性人工智能研究實驗室,以吸收投資者的資金。
在實驗室支持其研究的資金已所剩無幾的時候,微軟又宣布將在實驗室投資10億美元。
CEO Altman 表示,在早期的時候,GPT-4 非常慢,還有bug,很多事情做得不好。但是,最早期的計算機也是這樣,它們?nèi)匀恢赶蛄宋覀兩钪袑⒁兊梅浅V匾臇|西的道路,盡管需要幾十年的時間才能發(fā)展。換句話說,這家公司并沒有因為初始的KPI不好,就放棄計劃。
正如微軟亞洲研究院前副院長、瀾舟科技創(chuàng)始人周明在一次采訪中提到的:
OpenAI最大的功績是把各方面做到極致,是集成創(chuàng)新的典范。
世界上有幾類人,有人就是要研究底層創(chuàng)新。有的是在底層創(chuàng)新上做應(yīng)用,一般的應(yīng)用是解決單項任務(wù)。還有的是做集成創(chuàng)新,把所有工作、應(yīng)用、算法都在一個大平臺上體現(xiàn),形成里程碑。OpenAI 恰好集成創(chuàng)新做得非常好。
參考鏈接:
- https://mp.weixin.qq.com/s/p42pBVyjZws8XsstDoR2Jw
- https://openai.com/blog/function-calling-and-other-api-updates