打造ChatGPT平替，成本暴降95%！OpenAI硬核更新下月發(fā)布，視覺(jué)API要來(lái)

作者：新智元 2023-10-13 13:12:27

人工智能新聞

為了吸引更多開(kāi)發(fā)者，OpenAI正在計(jì)劃一波重大更新，并且讓構(gòu)建ChatGPT應(yīng)用的成本降低多達(dá)20倍！

天下開(kāi)發(fā)人員，苦OpenAI模型價(jià)格久矣。

路透爆料稱(chēng)，在11月6日首屆開(kāi)發(fā)者大會(huì)上，OpenAI將推出年度重磅更新：

在開(kāi)發(fā)工具中增加內(nèi)存存儲(chǔ)（memory storage）功能，讓API成本大幅降價(jià)95%。

也就是說(shuō)，開(kāi)發(fā)者苦等的福音終于來(lái)了，未來(lái)能夠以更低成本、更快速度用GPT模型構(gòu)建應(yīng)用。

另外，OpenAI還計(jì)劃推出「視覺(jué)」能力加持的全新開(kāi)發(fā)工具。

這樣，開(kāi)發(fā)者可以構(gòu)建「分析圖像」和「描述圖像」更強(qiáng)大的應(yīng)用。

這些新功能的開(kāi)放，最終指向著一個(gè)共同的目標(biāo)：構(gòu)建大模型加持的AI智能體。

OpenAI此舉正沿著Sam Altman設(shè)想一步步推進(jìn)，不僅在用戶中打開(kāi)市場(chǎng)，同時(shí)還要成為一個(gè)提供熱門(mén)開(kāi)發(fā)者平臺(tái)的公司。

OpenAI把價(jià)格打下來(lái)了

去年11月，ChatGPT橫空出世，吸引了全球數(shù)億人使用，創(chuàng)下消費(fèi)級(jí)應(yīng)用用戶數(shù)增長(zhǎng)里程碑。

除了網(wǎng)頁(yè)版，ChatGPT還推出了iOS版，以及安卓版程序。

這樣客觀的下載量，將為OpenAI帶來(lái)一些盈利。內(nèi)部高管預(yù)計(jì)，今年將帶來(lái)2億美元的收入，24年將有10億美元到賬。

可見(jiàn)，ChatGPT在消費(fèi)者群里中已經(jīng)打下了江山，但在開(kāi)發(fā)圈子里，讓開(kāi)發(fā)者基于OpenAI技術(shù)構(gòu)建業(yè)務(wù)，卻面臨重重挑戰(zhàn)。

在首席執(zhí)行官Altman看來(lái)，讓OpenAI成為其他構(gòu)建應(yīng)用程序公司不可或缺的一部分，是公司的戰(zhàn)略目標(biāo)之一。

他與開(kāi)發(fā)者會(huì)面，急切地表達(dá)基于OpenAI模型構(gòu)建新生態(tài)系統(tǒng)的愿望。

目前，GPT模型能力已經(jīng)融入到了，美版「餓了么」DoorDash、寫(xiě)作助手Jasper等無(wú)數(shù)應(yīng)用程序中。

但，這還遠(yuǎn)遠(yuǎn)不夠。

6月，Sam Altman在AI開(kāi)發(fā)平臺(tái)Humanloop的首席執(zhí)行官采訪中，曾透露了自家的未來(lái)產(chǎn)品路線圖。

其中提到了一點(diǎn)是「有記憶的API」（Stateful API）——目前大部分token被浪費(fèi)在上文的傳輸中，將來(lái)會(huì)有一個(gè)能夠記住對(duì)話歷史的API版本。

這恰恰與添加「內(nèi)存存儲(chǔ)」的想法不謀而合。增加這一功能可以優(yōu)化成本的原因有以下幾點(diǎn)：

- 新的緩存功能與LangChain的記憶鏈（Memory Chain）原理類(lèi)似，可以將之前的對(duì)話歷史轉(zhuǎn)化為嵌入式向量進(jìn)行存儲(chǔ)。新的會(huì)話內(nèi)容只需在增量標(biāo)記中進(jìn)行處理，而無(wú)需重新輸入整個(gè)上下文。