編譯 | 伊風(fēng)
出品 | 51CTO技術(shù)棧（微信號：blog51cto）
Meta 是本周當(dāng)之無愧的AI巨星！剛剛推出的 Llama 3 憑借著強(qiáng)大的性能和開源生態(tài)的優(yōu)勢在 LLM 排行榜上迅速躍升。
按理說，Llama 3在開源的狀態(tài)下做到了 GPT-3.7 的水平，必然會顯得用戶（尤其是企業(yè)用戶，他們更具備獨(dú)立部署Llama 3的能力）花錢買來的 GPT-4 沒那么香了。網(wǎng)友于是紛紛拱火，“鼓勵(lì)”O(jiān)penAI 交出 GPT-5，才能繼續(xù)穩(wěn)坐大模型王位。
不單單是網(wǎng)友，就連 OpenAI 的研究員也有點(diǎn)坐不住了，跑到X上發(fā)了一條含義曖昧的推文。
圖片
這下網(wǎng)友更加焦急地推測，性能強(qiáng)悍的 Llama 3 可能會擾亂 GPT-5 的發(fā)布時(shí)間表，甚至提前到4.22日。
直到周四，OpenAI的新動作才姍姍來遲。
圖片
OpenAI 重磅推出了其擴(kuò)展的 API 客戶的企業(yè)級功能，進(jìn)一步豐富其助手 API，并引入旨在增強(qiáng)安全性和行政控制以及更有效管理成本的新工具。
OpenAI對它寄予厚望：“當(dāng)你與開發(fā)者和企業(yè)談?wù)?AI 模型的有意義工作時(shí)，OpenAI 仍然領(lǐng)先，”O(jiān)penAI API 產(chǎn)品負(fù)責(zé)人 Olivier Godement說。
不過，OpenAI這一迂回作戰(zhàn)的策略，到底是讓很多人始料不及?！坝望}不進(jìn)”的網(wǎng)友回復(fù)道，“你是不是把GPT-5拼錯(cuò)了”？
圖片
不過，就像小扎曾在采訪里坦言，Meta會開源模型，但不會開源產(chǎn)品。過硬的產(chǎn)品才是一家企業(yè)真正的技術(shù)壁壘和現(xiàn)金牛。一味燒錢的時(shí)代過去了，現(xiàn)在的AI主旋律是探索更多的商業(yè)價(jià)值。
OpenAI在此時(shí)高調(diào)宣布升級企業(yè)級產(chǎn)品，足可見其在To B賽道廝殺的決心。那么這款新升級的API的能力是否能讓企業(yè)心動到為其買單呢？
1.私有鏈接和加強(qiáng)的安全功能
在重要的安全升級中，新的API產(chǎn)品引入了私有鏈接，這種安全方法允許 Microsoft 的 Azure 云服務(wù)和 OpenAI 之間進(jìn)行直接通信，這有助于最小化通過 API 發(fā)送的客戶數(shù)據(jù)和查詢的“對開放互聯(lián)網(wǎng)的暴露”。
這一新增功能補(bǔ)充了現(xiàn)有的安全棧，包括 SOC 2 Type II 認(rèn)證、單點(diǎn)登錄（SSO）、靜態(tài) AES-256 數(shù)據(jù)加密、傳輸中的 TLS 1.2 加密和基于角色的訪問控制。
此外，OpenAI 引入了原生的多因素認(rèn)證（MFA）以加強(qiáng)訪問控制，以符合日益增長的合規(guī)性需求。
對于需要 HIPAA 合規(guī)性的醫(yī)療保健公司，OpenAI 繼續(xù)提供商業(yè)伙伴協(xié)議，并為符合條件的 API 客戶提供零數(shù)據(jù)保留政策。
2.升級的助手 API，可處理 500 倍更多的文件
OpenAI 提供的一個(gè)較少宣傳但最重要的企業(yè)產(chǎn)品是其助手 API。它允許企業(yè)部署他們訓(xùn)練的定制微調(diào)模型，并通過檢索增強(qiáng)生成（RAG）調(diào)用特定文檔，并提供相應(yīng)的會話助手。
例如，電子商務(wù)公司 Klarna 今年早些時(shí)候夸贊其使用 OpenAI 助手 API 制作的 AI 助手，能夠完成 700 名全職人類代理的工作，重復(fù)查詢減少了 25%，解決時(shí)間幾乎減少了 82%（從 11 分鐘減少到 2 分鐘）。
OpenAI 現(xiàn)已升級助手 API，包括新的“file_search”功能，增強(qiáng)文件檢索能力，每個(gè)助手可以處理多達(dá) 10,000 個(gè)文件。
這代表了比以前限制的 20 個(gè)文件增加了 50 倍，并增加了并行查詢、改進(jìn)的重新排名和查詢重寫等附加功能。
此外，API 現(xiàn)在支持流式傳輸，以實(shí)時(shí)會話響應(yīng)——這意味著像 GPT-4 Turbo 或 GPT-3.5 Turbo 這樣的 AI 模型將盡可能快地返回輸出，而不是等待完整響應(yīng)的生成。
它進(jìn)一步集成了新的“vector_store”對象以更好地管理文件，并提供更細(xì)粒度的令牌使用控制，以幫助有效管理成本。
3.新功能“項(xiàng)目”，可控制人員對特定任務(wù)的訪問
一個(gè)名為“Projects”的新功能提供了改進(jìn)的行政監(jiān)督，允許組織在項(xiàng)目級別中管理角色和 API 密鑰。
此功能允許企業(yè)客戶限定權(quán)限、控制可用模型，并設(shè)置基于使用的限額以避免意外成本——這些增強(qiáng)功能承諾顯著簡化項(xiàng)目管理。
本質(zhì)上，他們可以將一個(gè)微調(diào)版本的 AI 模型甚至一個(gè)普通的模型隔離到特定的任務(wù)或文檔集，并允許特定的人員在每個(gè)任務(wù)上工作。
因此，如果你的企業(yè)有一個(gè)團(tuán)隊(duì)正在處理一組面向公眾的文檔，另一個(gè)團(tuán)隊(duì)正在處理一組機(jī)密或內(nèi)部文檔，你可以在 OpenAI 的 API 內(nèi)為每個(gè)分配一個(gè)單獨(dú)的項(xiàng)目，兩者可以使用 AI 模型分別工作，而不會混合或危及后者。
“隨著越來越多的組織甚至單獨(dú)的開發(fā)者部署 AI，他們希望在受限的盒子里做事，”O(jiān)penAI 的產(chǎn)品團(tuán)隊(duì)成員 Miqdad Jaffer 在昨天與 外媒 VentureBeat 進(jìn)行的相同視頻電話采訪中說?！啊?xiàng)目’讓你做的是將你的資源、你的成員隔離到一個(gè)小型的個(gè)性化項(xiàng)目中。你得到了單獨(dú)的使用報(bào)告。你有能力控制訪問、安全、延遲、吞吐量和成本，一個(gè)組織確實(shí)可以以非常安全的方式構(gòu)建。如果你是一個(gè)單獨(dú)的開發(fā)者，你可以毫無顧慮地部署數(shù)百個(gè)項(xiàng)目?！?
最后一點(diǎn)對于同時(shí)咨詢或處理多個(gè)客戶的開發(fā)團(tuán)隊(duì)特別有幫助。
4.還有一些新的升級
為了進(jìn)一步幫助組織以經(jīng)濟(jì)方式擴(kuò)展其 AI 運(yùn)營，OpenAI 引入了新的成本管理功能。
這些包括為每分鐘保持一致水平的令牌使用量的客戶提供折扣率，并通過新的 Batch API 為異步工作負(fù)載提供成本降低 50%，該 API 還具有更高的速率限制，并承諾在 24 小時(shí)內(nèi)提供結(jié)果。
然而，要使用它，客戶必須在單個(gè)請求中一起發(fā)送他們的令牌批次——他們想要 AI 模型分析的輸入，無論是提示還是文件——并愿意等待最多 24 小時(shí)以從 OpenAI 的 AI 模型接收響應(yīng)。
雖然這看起來像是很長時(shí)間，但 OpenAI 的高管告訴 VentureBeat，返回可以快至 10-20 分鐘。
它還旨在為不需要 AI 模型即時(shí)響應(yīng)的客戶和企業(yè)設(shè)計(jì)，比如一個(gè)調(diào)查記者研究長篇特寫文章，想要發(fā)送一堆政府文件讓 OpenAI 的 GPT-4 Turbo 篩選并挑選出選定的細(xì)節(jié)。
或者，一個(gè)企業(yè)準(zhǔn)備一份報(bào)告，查看其過去幾周的財(cái)務(wù)表現(xiàn)，而不是幾天或幾分鐘內(nèi)到期。
隨著 OpenAI 繼續(xù)增強(qiáng)其產(chǎn)品，專注于企業(yè)級安全、行政控制和成本管理，更新表明該公司有興趣為企業(yè)直接提供更“即插即用”的體驗(yàn)，以應(yīng)對 Llama 3 的升空和像 Mistral 這樣可能需要企業(yè)方面進(jìn)行更多設(shè)置的開放模型的崛起。
參考鏈接：https://venturebeat.com/ai/openai-shrugs-off-metas-llama-3-ascent-with-new-enterprise-ai-features/
