編譯 | 伊風(fēng)

出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）

Meta 是本周當(dāng)之無(wú)愧的AI巨星！剛剛推出的 Llama 3 憑借著強(qiáng)大的性能和開(kāi)源生態(tài)的優(yōu)勢(shì)在 LLM 排行榜上迅速躍升。

按理說(shuō)，Llama 3在開(kāi)源的狀態(tài)下做到了 GPT-3.7 的水平，必然會(huì)顯得用戶(hù)（尤其是企業(yè)用戶(hù)，他們更具備獨(dú)立部署Llama 3的能力）花錢(qián)買(mǎi)來(lái)的 GPT-4 沒(méi)那么香了。網(wǎng)友于是紛紛拱火，“鼓勵(lì)”O(jiān)penAI 交出 GPT-5，才能繼續(xù)穩(wěn)坐大模型王位。

不單單是網(wǎng)友，就連 OpenAI 的研究員也有點(diǎn)坐不住了，跑到X上發(fā)了一條含義曖昧的推文。

圖片

這下網(wǎng)友更加焦急地推測(cè)，性能強(qiáng)悍的 Llama 3 可能會(huì)擾亂 GPT-5 的發(fā)布時(shí)間表，甚至提前到4.22日。

直到周四，OpenAI的新動(dòng)作才姍姍來(lái)遲。

圖片

OpenAI 重磅推出了其擴(kuò)展的 API 客戶(hù)的企業(yè)級(jí)功能，進(jìn)一步豐富其助手 API，并引入旨在增強(qiáng)安全性和行政控制以及更有效管理成本的新工具。

OpenAI對(duì)它寄予厚望：“當(dāng)你與開(kāi)發(fā)者和企業(yè)談?wù)?AI 模型的有意義工作時(shí)，OpenAI 仍然領(lǐng)先，”O(jiān)penAI API 產(chǎn)品負(fù)責(zé)人 Olivier Godement說(shuō)。

不過(guò)，OpenAI這一迂回作戰(zhàn)的策略，到底是讓很多人始料不及?！坝望}不進(jìn)”的網(wǎng)友回復(fù)道，“你是不是把GPT-5拼錯(cuò)了”？   

圖片

不過(guò)，就像小扎曾在采訪(fǎng)里坦言，Meta會(huì)開(kāi)源模型，但不會(huì)開(kāi)源產(chǎn)品。過(guò)硬的產(chǎn)品才是一家企業(yè)真正的技術(shù)壁壘和現(xiàn)金牛。一味燒錢(qián)的時(shí)代過(guò)去了，現(xiàn)在的AI主旋律是探索更多的商業(yè)價(jià)值。

OpenAI在此時(shí)高調(diào)宣布升級(jí)企業(yè)級(jí)產(chǎn)品，足可見(jiàn)其在To B賽道廝殺的決心。那么這款新升級(jí)的API的能力是否能讓企業(yè)心動(dòng)到為其買(mǎi)單呢？

1.私有鏈接和加強(qiáng)的安全功能

在重要的安全升級(jí)中，新的API產(chǎn)品引入了私有鏈接，這種安全方法允許 Microsoft 的 Azure 云服務(wù)和 OpenAI 之間進(jìn)行直接通信，這有助于最小化通過(guò) API 發(fā)送的客戶(hù)數(shù)據(jù)和查詢(xún)的“對(duì)開(kāi)放互聯(lián)網(wǎng)的暴露”。

這一新增功能補(bǔ)充了現(xiàn)有的安全棧，包括 SOC 2 Type II 認(rèn)證、單點(diǎn)登錄（SSO）、靜態(tài) AES-256 數(shù)據(jù)加密、傳輸中的 TLS 1.2 加密和基于角色的訪(fǎng)問(wèn)控制。   

此外，OpenAI 引入了原生的多因素認(rèn)證（MFA）以加強(qiáng)訪(fǎng)問(wèn)控制，以符合日益增長(zhǎng)的合規(guī)性需求。

對(duì)于需要 HIPAA 合規(guī)性的醫(yī)療保健公司，OpenAI 繼續(xù)提供商業(yè)伙伴協(xié)議，并為符合條件的 API 客戶(hù)提供零數(shù)據(jù)保留政策。

2.升級(jí)的助手 API，可處理 500 倍更多的文件

OpenAI 提供的一個(gè)較少宣傳但最重要的企業(yè)產(chǎn)品是其助手 API。它允許企業(yè)部署他們訓(xùn)練的定制微調(diào)模型，并通過(guò)檢索增強(qiáng)生成（RAG）調(diào)用特定文檔，并提供相應(yīng)的會(huì)話(huà)助手。

例如，電子商務(wù)公司 Klarna 今年早些時(shí)候夸贊其使用 OpenAI 助手 API 制作的 AI 助手，能夠完成 700 名全職人類(lèi)代理的工作，重復(fù)查詢(xún)減少了 25%，解決時(shí)間幾乎減少了 82%（從 11 分鐘減少到 2 分鐘）。

OpenAI 現(xiàn)已升級(jí)助手 API，包括新的“file_search”功能，增強(qiáng)文件檢索能力，每個(gè)助手可以處理多達(dá) 10,000 個(gè)文件。

這代表了比以前限制的 20 個(gè)文件增加了 50 倍，并增加了并行查詢(xún)、改進(jìn)的重新排名和查詢(xún)重寫(xiě)等附加功能。

此外，API 現(xiàn)在支持流式傳輸，以實(shí)時(shí)會(huì)話(huà)響應(yīng)——這意味著像 GPT-4 Turbo 或 GPT-3.5 Turbo 這樣的 AI 模型將盡可能快地返回輸出，而不是等待完整響應(yīng)的生成。

它進(jìn)一步集成了新的“vector_store”對(duì)象以更好地管理文件，并提供更細(xì)粒度的令牌使用控制，以幫助有效管理成本。

3.新功能“項(xiàng)目”，可控制人員對(duì)特定任務(wù)的訪(fǎng)問(wèn)

一個(gè)名為“Projects”的新功能提供了改進(jìn)的行政監(jiān)督，允許組織在項(xiàng)目級(jí)別中管理角色和 API 密鑰。

此功能允許企業(yè)客戶(hù)限定權(quán)限、控制可用模型，并設(shè)置基于使用的限額以避免意外成本——這些增強(qiáng)功能承諾顯著簡(jiǎn)化項(xiàng)目管理。

本質(zhì)上，他們可以將一個(gè)微調(diào)版本的 AI 模型甚至一個(gè)普通的模型隔離到特定的任務(wù)或文檔集，并允許特定的人員在每個(gè)任務(wù)上工作。

因此，如果你的企業(yè)有一個(gè)團(tuán)隊(duì)正在處理一組面向公眾的文檔，另一個(gè)團(tuán)隊(duì)正在處理一組機(jī)密或內(nèi)部文檔，你可以在 OpenAI 的 API 內(nèi)為每個(gè)分配一個(gè)單獨(dú)的項(xiàng)目，兩者可以使用 AI 模型分別工作，而不會(huì)混合或危及后者。

“隨著越來(lái)越多的組織甚至單獨(dú)的開(kāi)發(fā)者部署 AI，他們希望在受限的盒子里做事，”O(jiān)penAI 的產(chǎn)品團(tuán)隊(duì)成員 Miqdad Jaffer 在昨天與 外媒 VentureBeat 進(jìn)行的相同視頻電話(huà)采訪(fǎng)中說(shuō)。“‘項(xiàng)目’讓你做的是將你的資源、你的成員隔離到一個(gè)小型的個(gè)性化項(xiàng)目中。你得到了單獨(dú)的使用報(bào)告。你有能力控制訪(fǎng)問(wèn)、安全、延遲、吞吐量和成本，一個(gè)組織確實(shí)可以以非常安全的方式構(gòu)建。如果你是一個(gè)單獨(dú)的開(kāi)發(fā)者，你可以毫無(wú)顧慮地部署數(shù)百個(gè)項(xiàng)目?！?   

最后一點(diǎn)對(duì)于同時(shí)咨詢(xún)或處理多個(gè)客戶(hù)的開(kāi)發(fā)團(tuán)隊(duì)特別有幫助。

4.還有一些新的升級(jí)

為了進(jìn)一步幫助組織以經(jīng)濟(jì)方式擴(kuò)展其 AI 運(yùn)營(yíng)，OpenAI 引入了新的成本管理功能。

這些包括為每分鐘保持一致水平的令牌使用量的客戶(hù)提供折扣率，并通過(guò)新的 Batch API 為異步工作負(fù)載提供成本降低 50%，該 API 還具有更高的速率限制，并承諾在 24 小時(shí)內(nèi)提供結(jié)果。

然而，要使用它，客戶(hù)必須在單個(gè)請(qǐng)求中一起發(fā)送他們的令牌批次——他們想要 AI 模型分析的輸入，無(wú)論是提示還是文件——并愿意等待最多 24 小時(shí)以從 OpenAI 的 AI 模型接收響應(yīng)。

雖然這看起來(lái)像是很長(zhǎng)時(shí)間，但 OpenAI 的高管告訴 VentureBeat，返回可以快至 10-20 分鐘。

它還旨在為不需要 AI 模型即時(shí)響應(yīng)的客戶(hù)和企業(yè)設(shè)計(jì)，比如一個(gè)調(diào)查記者研究長(zhǎng)篇特寫(xiě)文章，想要發(fā)送一堆政府文件讓 OpenAI 的 GPT-4 Turbo 篩選并挑選出選定的細(xì)節(jié)。

或者，一個(gè)企業(yè)準(zhǔn)備一份報(bào)告，查看其過(guò)去幾周的財(cái)務(wù)表現(xiàn)，而不是幾天或幾分鐘內(nèi)到期。

隨著 OpenAI 繼續(xù)增強(qiáng)其產(chǎn)品，專(zhuān)注于企業(yè)級(jí)安全、行政控制和成本管理，更新表明該公司有興趣為企業(yè)直接提供更“即插即用”的體驗(yàn)，以應(yīng)對(duì) Llama 3 的升空和像 Mistral 這樣可能需要企業(yè)方面進(jìn)行更多設(shè)置的開(kāi)放模型的崛起。

參考鏈接：https://venturebeat.com/ai/openai-shrugs-off-metas-llama-3-ascent-with-new-enterprise-ai-features/

本文轉(zhuǎn)載自??51CTO技術(shù)棧??，編譯：伊風(fēng)