說到大模型應(yīng)用的理想態(tài)，我相信很多人都可以想到《鋼鐵俠》里面的賈維斯，可以根據(jù)環(huán)境、天氣、對(duì)手火力等情況，給鋼鐵俠提供決策指導(dǎo)或者自主決策。

大模型Agent就是人們希望借助大模型實(shí)現(xiàn)的類似于賈維斯一樣智能助手能力，它具備環(huán)境感知能力、自主理解、決策制定以及行動(dòng)執(zhí)行的能力。

在實(shí)現(xiàn)Agent架構(gòu)過程中，有很多思維方式和傳統(tǒng)軟件工程思維是相似的。

軟件工程是對(duì)物理世界的邏輯映射，所以面向?qū)ο笏枷氪笮衅涞溃I(lǐng)域驅(qū)動(dòng)的內(nèi)核也是面向?qū)ο螅?/p>

Agent架構(gòu)，則是面向目標(biāo)的架構(gòu)，通過感知、思考、行動(dòng)的緊密結(jié)合，完成復(fù)雜任務(wù)。

圖片

智能體（Agent）是一個(gè)可以自主思考，理解用戶需求，還能進(jìn)行任務(wù)拆解，通過調(diào)用外部工具擴(kuò)展自身能力的大模型應(yīng)用。

圖片

主要包含以下幾部分：推理規(guī)劃、獲取存儲(chǔ)記憶、調(diào)用外部工具、執(zhí)行推理動(dòng)作。

圖片

感知組件：是Agent與外部世界互動(dòng)的橋梁，負(fù)責(zé)收集和解析環(huán)境數(shù)據(jù)，就像自動(dòng)駕駛車輛的雷達(dá)、攝像頭、傳感器等感知元器件。

規(guī)劃組件：是Agent的大腦，將目標(biāo)任務(wù)拆解為可執(zhí)行的步驟，制定實(shí)現(xiàn)目標(biāo)的策略，比如項(xiàng)目管理Agent，可以根據(jù)項(xiàng)目日期調(diào)配資源，分配任務(wù)給組員。實(shí)現(xiàn)方式主要借助提示詞工程，如ReAct、COT推理實(shí)現(xiàn)，使得Agent可以精準(zhǔn)拆解任務(wù)，分步解決。

記憶組件：記憶分為長(zhǎng)期記憶和短期記憶，允許Agent對(duì)記憶的存儲(chǔ)和檢索。短期記憶如客服的多輪對(duì)話，長(zhǎng)期記憶的如存儲(chǔ)用戶特征，業(yè)務(wù)數(shù)據(jù)等，通常借助向量數(shù)據(jù)庫(kù)實(shí)現(xiàn)快速存取。

工具使用：Agent通過調(diào)用外部工具增強(qiáng)自身能力。一般是各種工具或者API、插件等。

行動(dòng)組件：是Agent執(zhí)行任務(wù)的具體行為，完成對(duì)環(huán)境的響應(yīng)。比如一個(gè)智能家居控制系統(tǒng)，可以根據(jù)環(huán)境濕度、光度調(diào)節(jié)家中照明。

圖片

在具體落地上看，智能體（Agent）是一套工作流，比如可以用coze或者dify以工作流的方式搭建一個(gè)智能體，每個(gè)編排節(jié)點(diǎn)都是調(diào)用的外部的API（類似于function call）。

比如UC伯克利打造的端側(cè)Agent，slogan就是“為函數(shù)調(diào)用而生！”

也可以和RAG結(jié)合，Agent通過RAG獲取專業(yè)知識(shí)，如專業(yè)數(shù)據(jù)、學(xué)術(shù)報(bào)告、行業(yè)報(bào)告等，增強(qiáng)智能體知識(shí)的廣度和深度。

圖片

比如一份財(cái)報(bào)分析Agent，可以自動(dòng)完成數(shù)據(jù)收集、分析、報(bào)告生成，技術(shù)上包括架構(gòu)設(shè)計(jì)、Prompt設(shè)計(jì)、數(shù)據(jù)獲取、RAG檢索、LLM處理、報(bào)告生成等。

圖片

實(shí)現(xiàn)Agent，可以借助如LangChain或者LlamaIndex主流大模型基礎(chǔ)組件，里面已經(jīng)對(duì)大模型、文檔加載器、向量數(shù)據(jù)庫(kù)、嵌入模型等做了抽象封裝，可以極大簡(jiǎn)化開發(fā)過程。

但結(jié)合到具體業(yè)務(wù)之下擴(kuò)展性較差，難以和企業(yè)中現(xiàn)有的IT系統(tǒng)進(jìn)行低成本集成，也可以選擇自建Agent架構(gòu)的方法。

在Agent架構(gòu)落地上，其實(shí)和傳統(tǒng)的軟件架構(gòu)非常像。

最簡(jiǎn)單的思路，你可以將大模型視為一個(gè)高內(nèi)聚的存儲(chǔ)與檢索基礎(chǔ)服務(wù)。

比如，當(dāng)用戶通過Prompt發(fā)起一個(gè)需求時(shí)，一個(gè)路由組件對(duì)Prompt進(jìn)行推理解析，以及意圖分拆，并將不同的意圖任務(wù)路由分發(fā)到不同的專有小模型上（可能是通過特定數(shù)據(jù)微調(diào)過的模型）。

圖片

如果需要進(jìn)行更復(fù)雜的任務(wù)拆解，可以將路由模塊中的任務(wù)推理模塊單獨(dú)拆出來，然后將各種專有模型的答案匯總，生成一個(gè)較為全面的答案。

圖片

如果想要提升請(qǐng)求響應(yīng)的速度和解決模型幻覺和推理慢的問題，可以在架構(gòu)中引入緩存或者向量數(shù)據(jù)庫(kù)。

因?yàn)橛辛司彺?，后續(xù)類似Prompt的檢索答案生成速度就很快了。

圖片

上面幾種架構(gòu)面對(duì)的都是較為簡(jiǎn)單的場(chǎng)景需求，但它們也算是Agent，一個(gè)標(biāo)準(zhǔn)的Agent應(yīng)該是包含規(guī)劃、執(zhí)行、觀測(cè)、重新規(guī)劃幾部分的。

圖片

對(duì)于用戶輸入的Prompt，Agent首先做規(guī)劃，將需求拆解成若干子任務(wù)，然后對(duì)每個(gè)子任務(wù)分別執(zhí)行，同時(shí)對(duì)每一步執(zhí)行過程和結(jié)果進(jìn)行觀測(cè)，如果出現(xiàn)觀測(cè)不合格的情況，就重新規(guī)劃-執(zhí)行，直到觀測(cè)結(jié)果合格生成答案。

圖片

更復(fù)雜的Agent架構(gòu)，是將以上幾種模式組合起來。

圖片

隨著大模型越來越成熟，很多問題幻覺、成本問題陸續(xù)被解決了。

學(xué)習(xí)和掌握大模型也不再需要特別專業(yè)的知識(shí)了，掌握基本的微調(diào)基本上可以滿足業(yè)務(wù)需求，基本上你可以把他當(dāng)做一個(gè)存在和檢索中間件使用了。

在了解和落地大模型應(yīng)用過程中，越來越發(fā)現(xiàn)傳統(tǒng)的軟件工程的價(jià)值并不是消失，反而變大了。

因?yàn)檐浖こ趟枷?，本質(zhì)上是一種工程思維，是一種以合理抽象、低成本擴(kuò)展為核心的建模思想，大模型再?gòu)?qiáng)大，目前也只能是工具屬性，作為整個(gè)數(shù)字化、智能化業(yè)務(wù)架構(gòu)中的一環(huán)，軟件工程思維，可以非常直觀的讓你知道大模型應(yīng)該嫁接在哪里，以及如何更好的發(fā)揮大模型的價(jià)值。