有了大型語言模型的加持，開發(fā)者可以實(shí)現(xiàn)很多全新的功能，適應(yīng)更廣泛的應(yīng)用場(chǎng)景。

甚至LLM本身就具有編碼能力，可以把自然語言指令直接轉(zhuǎn)成代碼，用戶只需要提出想法、創(chuàng)意就能自動(dòng)生成一個(gè)應(yīng)用程序。

而作為大型語言模型開發(fā)框架的兩大巨頭，LangChain和DemoGPT最近官宣開展深度合作，用戶可以利用LangChain用自然語言來構(gòu)建、生成一個(gè)應(yīng)用程序，然后在DemoGPT Marketplace上進(jìn)行展示、交換，與目標(biāo)用戶進(jìn)行互動(dòng)，獲取社區(qū)反饋，并最終將應(yīng)用程序進(jìn)行變現(xiàn)。

圖片

也就是說，基本不用寫代碼，只需要一個(gè)足夠好的創(chuàng)意，就可以躺著掙錢了！

DemoGPT：LangChain應(yīng)用的新戰(zhàn)場(chǎng)

DemoGPT是一個(gè)開源項(xiàng)目，致力于增強(qiáng)、簡(jiǎn)化基于大型語言模型（LLM）的應(yīng)用程序開發(fā)流程，DemoGPT的核心競(jìng)爭(zhēng)力在于協(xié)同各種基礎(chǔ)模型的功能，只需一個(gè)提示即可自動(dòng)生成LangChain x Streamlit應(yīng)用程序。

圖片

從DemoGPT的運(yùn)行框架和架構(gòu)設(shè)計(jì)中可以發(fā)現(xiàn)，DemoGPT是一個(gè)面向代碼生成操作的結(jié)構(gòu)化方法。

主要包括規(guī)劃、任務(wù)創(chuàng)建、代碼段生成、代碼段合并、數(shù)據(jù)庫(kù)保存，每個(gè)階段都在確保最佳功能和效率方面發(fā)揮著關(guān)鍵作用。

規(guī)劃（Planning）：先根據(jù)用戶的指令生成一個(gè)規(guī)劃

當(dāng)用戶提交指令后，首先會(huì)調(diào)用規(guī)劃模塊，這一部分也是DemoGPT整體結(jié)構(gòu)的基石，因?yàn)楹罄m(xù)步驟高度依賴于HuggingGPT啟發(fā)的有效全局規(guī)劃。

不過與HuggingGPT直接根據(jù)指令生成任務(wù)列表不同的是，DemoGPT首先用自然語言創(chuàng)建規(guī)劃，再創(chuàng)建任務(wù)列表，這種處理方式對(duì)于LLM來說更直觀。

規(guī)劃模塊知道所有可用的工具集以最小化幻覺問題，還使用了一個(gè)自我完善（self-refining）的策略，以便持續(xù)規(guī)劃，直到被自己驗(yàn)證通過為止。

圖片

任務(wù)創(chuàng)建（Task Creation）：使用計(jì)劃和指令創(chuàng)建特定任務(wù)

在實(shí)驗(yàn)結(jié)果中可以看到，相比直接從指令中生成任務(wù)列表，使用自然語言規(guī)劃可以最大限度地減少幻覺。

圖片

DemoGPT的新方法也減少了任務(wù)創(chuàng)建過程中所需的細(xì)化步驟的數(shù)量，自我完善的子階段也有助于擺脫幻覺：模塊會(huì)檢查每個(gè)任務(wù)的（輸入，輸出）數(shù)據(jù)對(duì)，然后根據(jù)生成結(jié)果給自己反饋，再根據(jù)最后一次迭代的結(jié)果再次生成任務(wù)，并持續(xù)循環(huán)此過程直到通過測(cè)試。

代碼段生成（Code Snippet Generation:）：將任務(wù)轉(zhuǎn)換為Python代碼片段

每個(gè)任務(wù)都需要特定的提示符，因此當(dāng)把目標(biāo)任務(wù)轉(zhuǎn)換為Python代碼時(shí)，需要使用自定義的提示符進(jìn)行轉(zhuǎn)換；轉(zhuǎn)換過程中考慮到了之前生成的代碼，因此所有的步驟都可以很好地協(xié)同運(yùn)行。

圖片

組合代碼段（Combining the Code Snippets）：代碼片段被組合成最終代碼，實(shí)現(xiàn)交互式應(yīng)用程序

所有代碼段都將被放入提示符中，要求語言模型將代碼組合在一起；最終代碼需要與Streamlit兼容（例如狀態(tài)管理等），模塊的輸出通過自我完善技術(shù)實(shí)現(xiàn)進(jìn)一步改進(jìn)，以確保與Streamlit兼容。

圖片

數(shù)據(jù)庫(kù)保存（DB saving下一版本中推出）：生成的計(jì)劃、任務(wù)和代碼片段存儲(chǔ)在矢量數(shù)據(jù)庫(kù)中

在整個(gè)架構(gòu)中，每一個(gè)階段都在對(duì)輸出進(jìn)行自我優(yōu)化以擺脫幻覺的問題。

此外，每個(gè)模塊都有專門的樣例用于少樣本學(xué)習(xí)，適配了大部分應(yīng)用場(chǎng)景，使得應(yīng)用程序可以創(chuàng)建更輕量級(jí)的模型，如不到GPT-4十分之一成本的GPT-3.5模型。

為了進(jìn)一步降低成本并提高性能，數(shù)據(jù)庫(kù)保存模塊旨在將完善后的結(jié)果（規(guī)劃、任務(wù)和代碼片段）保存到矢量數(shù)據(jù)庫(kù)中，以便下次從矢量數(shù)據(jù)庫(kù)中獲取相關(guān)示例并用于少樣本學(xué)習(xí)，以減少完善步驟的數(shù)量，可以進(jìn)一步降低應(yīng)用程序生成的成本，同時(shí)提高生成速度。

DemoGPT實(shí)戰(zhàn)

安裝DemoGPT

安裝過程只需要一行命令即可。

pip install demogpt

使用DemoGPT

用戶可以通過CLI或Python接口來使用DemoGPT庫(kù)。

命令行接口（CLI）

用戶只需要在控制臺(tái)鍵入demogpt命令，即可將DemoGPT應(yīng)用程序作為Streamlit應(yīng)用程序運(yùn)行，運(yùn)行后即可輸入自己的API密鑰并選擇要使用的基礎(chǔ)模型。

當(dāng)一切準(zhǔn)備就緒后，用戶可以從提示符開始創(chuàng)建應(yīng)用程序，只需要幾秒鐘就可以打造出一個(gè)PDF聊天機(jī)器人，或者打造出一個(gè)情感分析工具，接收網(wǎng)站內(nèi)容，并返回文本的語氣。

應(yīng)用程序只會(huì)受到給定提示的限制，因此使用較長(zhǎng)的提示，用戶就可以創(chuàng)建出復(fù)雜且獨(dú)特的AI應(yīng)用程序。

圖片

比如說推文生成器，DemoGPT可以從給定的主題標(biāo)簽和tweet的語氣生成推文。

網(wǎng)絡(luò)博主（Web Blogger）可以從給定的網(wǎng)站url中生成中等長(zhǎng)度的博客。

Python庫(kù)用法

用戶也可以將DemoGPT應(yīng)用程序作為Python庫(kù)運(yùn)行，合并到已有的Python應(yīng)用中：

from demogpt import DemoGPT#實(shí)例化DemoGPT代理agent = DemoGPT(model_name="gpt-3.5-turbo-0613", openai_api_key="YOUR_API_KEY", max_steps=10)#設(shè)置您的指令和標(biāo)題instruction = "Your instruction here"title = "Your title here"#迭代生成階段并提取最終代碼code = ""for phase in agent(instructinotallow=instruction, title=title):    print(phase)  # This will display the resulting JSON for each generation stage.    if phase["done"]:        code = phase["code"]  # Extract the final code.print(code)

LangChain x DemoGPT：從創(chuàng)意到市場(chǎng)

假設(shè)有一位AI愛好者，并且她有一個(gè)關(guān)于語言模型的、功能強(qiáng)大的應(yīng)用程序開發(fā)的絕妙想法，那她就可以訪問LangChain網(wǎng)站，并使用集成的DemoGPT應(yīng)用程序來實(shí)現(xiàn)自己的想法。

圖片

首先需要在LangChain網(wǎng)站上生成應(yīng)用程序，只需要通過一些提示和輸入即可完成制作，并且能夠?qū)崟r(shí)接入現(xiàn)實(shí)世界。

經(jīng)過調(diào)試后，只要對(duì)應(yīng)用程序的運(yùn)行結(jié)果感到滿意，Sarah就可以在DemoGPT Marketplace上展示應(yīng)用程序，全球觀眾都可以訪問使用。

圖片

網(wǎng)址鏈接：https://www.langchain.com/

其他開發(fā)人員、企業(yè)或AI愛好者都可以在網(wǎng)站上發(fā)現(xiàn)Sarah的應(yīng)用程序，與之交互，提供反饋，甚至提出協(xié)作請(qǐng)求來提升應(yīng)用程序的效果。

圖片

此外，Marketplace也為用戶提供了通過許可或API銷售將其應(yīng)用程序變現(xiàn)的機(jī)會(huì)。

隨著應(yīng)用程序獲得更多關(guān)注，接收到更多社區(qū)的反饋后，用戶還可以回到LangChain網(wǎng)站上來迭代和改進(jìn)應(yīng)用程序，確保功能上與用戶保持相關(guān)且有價(jià)值。

整個(gè)創(chuàng)建、展示、反饋和改進(jìn)的循環(huán)過程確保了LangChain x DemoGPT生態(tài)系統(tǒng)保持活力、創(chuàng)新和以用戶為中心。

除此之外，DemoGPT和LangChain合作后，最讓人感到興奮的前景之一就是DemoGPT Marketplace，開發(fā)者希望可以打造出一個(gè)平臺(tái)，讓LangChain社區(qū)與全球的AI愛好者一起，共同創(chuàng)建、展示、交換甚至將其自動(dòng)生成的應(yīng)用程序變現(xiàn)。

DemoGPT Marketplace不僅僅是一個(gè)平臺(tái)，還將是一個(gè)充滿活力的社區(qū)和空間，LangChain用戶可以在其中協(xié)作，迭代和改進(jìn)應(yīng)用程序，確保該生態(tài)系統(tǒng)保持動(dòng)態(tài)，以用戶為中心，并處于技術(shù)進(jìn)步的前沿。

隨著Streamlit帶來的交互性和用戶體驗(yàn)的增強(qiáng)，這些應(yīng)用程序?qū)⒉粌H僅是功能性的，而且會(huì)帶來真正的變革。

平臺(tái)的未來

當(dāng)用戶在LangChain上制作出獨(dú)一無二的應(yīng)用程序時(shí)，開發(fā)團(tuán)隊(duì)希望并設(shè)想這些創(chuàng)新的作品可以在DemoGPT Marketplace上找到一個(gè)新家，并和其他的應(yīng)用程序共同展示，讓更廣泛的受眾可以發(fā)現(xiàn)、互動(dòng)并從這些工具中獲得價(jià)值。

此次LangChain x DemoGPT合作背后的愿景是建立一個(gè)協(xié)同生態(tài)系統(tǒng)，用戶在LangChain上實(shí)現(xiàn)應(yīng)用程序生成，并在DemoGPT Marketplace上提供一個(gè)發(fā)現(xiàn)平臺(tái)，彌合創(chuàng)作者和消費(fèi)者之間的差距，可以說是LLM世界的巨大進(jìn)步！

參考資料：

https://blog.langchain.dev/langchain-demogpt-new-era-for-gen-ai-applications/