OpenAI大更新,API接口升級,并降低價格
6月14日消息,OpenAI為了在生成式人工智能領域中保持競爭優(yōu)勢,正在升級文本生成模型,并降低價格。
美國當?shù)貢r間周二,OpenAI宣布發(fā)布了GPT-3.5 Turbo和GPT-4的新版本。其中,GPT-4是其最新的文本生成人工智能模型,具備函數(shù)調(diào)用(Function Calling)功能。
OpenAI在博客文章中解釋,函數(shù)調(diào)用功能允許開發(fā)人員向GPT-3.5 Turbo和GPT-4描述編程函數(shù),讓模型創(chuàng)建代碼來執(zhí)行這些函數(shù)。例如,函數(shù)調(diào)用功能可以幫助創(chuàng)建聊天機器人,這些聊天機器人通過調(diào)用外部工具來回答問題,將自然語言轉(zhuǎn)換為數(shù)據(jù)庫查詢,并從文本中提取結(jié)構(gòu)化數(shù)據(jù)。
OpenAI寫道:“這些模型已經(jīng)經(jīng)過微調(diào),可以檢測何時需要調(diào)用函數(shù),并使用符合函數(shù)簽名的JSON進行響應。函數(shù)調(diào)用允許開發(fā)人員更可靠地從模型中獲得結(jié)構(gòu)化數(shù)據(jù)?!?/p>
除了函數(shù)調(diào)用功能,OpenAI還發(fā)布了新版GPT-3.5 Turbo。這個新版大大擴展了上下文窗口長度。上下文窗口是指模型在生成任何新文本之前需要考慮的文本,以tokens或原始文本為單位測量。短上下文窗口模型傾向于“忘記”最近對話的內(nèi)容,這往往會導致它們偏離主題,或出現(xiàn)各種問題。
新版GPT-3.5 Turbo提供的上下文長度是迭代前的四倍,達到了16000 tokens。而價格只是其兩倍,即每1000個輸入tokens為0.003美元,每1000個輸出tokens為0.004美元。OpenAI表示,新版GPT-3.5 Turbo可以每次讀取大約20頁的文本。不過,值得注意的是,人工智能初創(chuàng)公司Anthropic的旗艦模型可以處理數(shù)百頁的文本。據(jù)悉,OpenAI正在測試GPT-4的一個新版本,該版本的上下文窗口長度為32000 tokens,但僅限量發(fā)布。
同時,OpenAI表示,他們將把GPT-3.5 Turbo的價格降低25%。當然,這主要是指老版本的GPT-3.5 Turbo,而不是帶有擴展上下文窗口的版本?,F(xiàn)在,開發(fā)人員可以以每1000個輸入tokens 0.0015美元和每1000個輸出tokens 0.002美元的價格使用該模型,這相當于1美元可以處理大約700頁文件。
OpenAI最受歡迎的文本嵌入模型text-embedding-ada-002的價格也有所降低。文本嵌入可以衡量文本字符串的相關性,通常用于搜索(根據(jù)與查詢字符串的相關性對結(jié)果進行排序)和推薦(推薦具有相關文本字符串的條目)。
現(xiàn)在,text-embedding-ada-002每1000個tokens的價格為0.0001美元,比之前的價格降低了75%。OpenAI表示,這是由于其系統(tǒng)效率得到提升。毫無疑問,這是這家初創(chuàng)公司關注的重點領域,因為它在研發(fā)和基礎設施上花費了數(shù)億美元。
OpenAI表示,在3月初發(fā)布GPT-4之后,將對現(xiàn)有模型進行增量更新,而不是大規(guī)模從頭開始構(gòu)建新模型。最近,《經(jīng)濟時報》主辦了一次會議,OpenAI首席執(zhí)行官薩姆·阿爾特曼(Sam Altman)重申,該公司尚未開始培訓GPT-4的迭代模型。在構(gòu)建該模型之前,OpenAI“還有很多工作要做”。