JavaScript對(duì)象表示法（JSON）文件和數(shù)據(jù)交換格式是行業(yè)標(biāo)準(zhǔn)，因?yàn)樗纫子谌祟愰喿x，又便于機(jī)器解析。

然而，大型語(yǔ)言模型（LLMs）在處理JSON時(shí)常常遇到困難，它們可能會(huì)產(chǎn)生幻覺(jué)，創(chuàng)建出部分符合指令的奇怪響應(yīng)，或者完全無(wú)法解析，這通常要求開(kāi)發(fā)者使用諸如開(kāi)源工具、大量不同的提示或重復(fù)請(qǐng)求等變通方法，以確保輸出的互操作性。

現(xiàn)在，OpenAI通過(guò)其API發(fā)布的結(jié)構(gòu)化輸出功能，幫助緩解這些挫折，該功能有助于確保模型生成的輸出與JSON模式匹配，這些模式至關(guān)重要，因?yàn)樗鼈兠枋隽私o定JSON文檔中的內(nèi)容、結(jié)構(gòu)、數(shù)據(jù)類型和預(yù)期約束。

OpenAI表示，這是開(kāi)發(fā)者最為需求的功能，因?yàn)樗试S在各種應(yīng)用程序中保持一致性。OpenAI CEO Sam Altman今天在X上發(fā)帖稱，這一發(fā)布是“非常受歡迎的需求”。

公司表示，其在新GPT-4o上的結(jié)構(gòu)化輸出評(píng)估得分為“完美的100%”。

這一新功能發(fā)布于OpenAI本周一系列激動(dòng)人心的事件之后：三位關(guān)鍵高管——John Schulman、Greg Brockman和Peter Deng——突然宣布離職，而Elon Musk再次起訴公司，稱其背叛了AI使命，形容這如同“莎士比亞式的背叛”。

輕松確保模式遵循

JSON是一種基于文本的格式，用于存儲(chǔ)和交換數(shù)據(jù)。由于其簡(jiǎn)單、靈活和與各種編程語(yǔ)言兼容，它已成為開(kāi)發(fā)者中最受歡迎的數(shù)據(jù)格式之一。OpenAI迅速滿足了開(kāi)發(fā)者的需求，在去年的開(kāi)發(fā)者日上發(fā)布了其模型的JSON模式。

通過(guò)API中的結(jié)構(gòu)化輸出，開(kāi)發(fā)者可以約束OpenAI模型以匹配模式。OpenAI表示，這一功能還使其模型能夠更好地理解更復(fù)雜的模式。

“結(jié)構(gòu)化輸出是JSON模式的演變，”公司在其博客中寫(xiě)道，“雖然兩者都確保生成有效的JSON，但只有結(jié)構(gòu)化輸出確保模式遵循?！边@意味著開(kāi)發(fā)者“無(wú)需擔(dān)心模型省略必需的鍵或幻化出無(wú)效的枚舉值?！保杜e值是命名語(yǔ)言中常量的過(guò)程，使代碼更易讀和維護(hù)）。

開(kāi)發(fā)者可以要求結(jié)構(gòu)化輸出以逐步的方式生成答案，以引導(dǎo)至預(yù)期的輸出。根據(jù)OpenAI的說(shuō)法，開(kāi)發(fā)者不需要驗(yàn)證或重試格式錯(cuò)誤的響應(yīng)，并且該功能允許更簡(jiǎn)單的提示，同時(shí)提供明確的拒絕。

“安全是OpenAI的首要任務(wù)——新的結(jié)構(gòu)化輸出功能將遵守我們現(xiàn)有的安全政策，仍然允許模型拒絕不安全的請(qǐng)求。”公司寫(xiě)道。

結(jié)構(gòu)化輸出可在GPT-4o-mini、GPT-4o和這些模型的微調(diào)版本上使用，并可用于Chat Completions API、Assistants API和Batch API，還兼容視覺(jué)輸入。

OpenAI強(qiáng)調(diào)，這一新功能“從開(kāi)源社區(qū)的優(yōu)秀工作中汲取靈感：即outlines、jsonformer、instructor、guidance和lark庫(kù)?！?/p>