大型語言模型（Large Language Models, LLMs）徹底改變了我們與信息的交互方式。然而，LLMs 完全依賴內(nèi)部知識的局限性，常常限制了其在處理復(fù)雜問題時的準(zhǔn)確性和深度。正是在這一背景下，檢索增強生成（Retrieval-Augmented Generation, RAG）應(yīng)運而生。RAG 通過允許 LLMs 訪問和處理外部信息來源，成功彌合了這一差距，從而生成更具依據(jù)和信息豐富性的回答。

雖然標(biāo)準(zhǔn) RAG 在處理少量文檔的簡單查詢方面表現(xiàn)出色，但 Agentic RAG 更進一步，成為問答領(lǐng)域的強大解決方案。通過引入人工智能代理（AI Agents）增添了一層智能，這些代理作為自主決策者，分析初始檢索結(jié)果，并戰(zhàn)略性地選擇最有效的工具進行進一步的數(shù)據(jù)獲取。

這種多步驟推理能力使 Agentic RAG 能夠勝任復(fù)雜的科研任務(wù)，例如總結(jié)多文檔信息、進行跨文檔比較，甚至主動提出后續(xù)問題——所有這些都在一個高效且協(xié)調(diào)的流程中實現(xiàn)。這些智能代理將 LLMs 從被動回應(yīng)者轉(zhuǎn)變?yōu)橹鲃诱{(diào)查者，能夠深入挖掘復(fù)雜信息，并提供全面且深思熟慮的答案 ...

01、什么是 RAG（Retrieval-Augmented Generation ）？

RAG（Retrieval-Augmented Generation - 檢索增強生成 ）是一種構(gòu)建基于大型語言模型（LLM）應(yīng)用的技術(shù)創(chuàng)新，通過利用外部知識源為 LLM 提供相關(guān)上下文，從而減少幻覺（Hallucination）現(xiàn)象，提高生成內(nèi)容的準(zhǔn)確性和可靠性。在當(dāng)今信息爆炸的時代，RAG 為 LLM 提供了超越內(nèi)部知識限制的能力，使其能夠在復(fù)雜場景中生成更具依據(jù)的回答。

通常而言，一個基本的 RAG 流水線通常包含兩個核心組件：檢索組件和生成組件。其中，檢索組件通常由嵌入模型（Embedding Model）和向量數(shù)據(jù)庫（Vector Database）組成，用于從外部知識庫中提取信息；而生成組件則由 LLM 負責(zé)，根據(jù)檢索到的上下文生成最終輸出。

在推理階段，用戶查詢會觸發(fā)對索引文檔的相似性搜索，檢索出與查詢最相關(guān)的內(nèi)容，并將其作為附加上下文提供給 LLM，從而增強生成的質(zhì)量和相關(guān)性。

盡管傳統(tǒng) RAG（即 Vanilla RAG）在許多簡單應(yīng)用場景中表現(xiàn)出色，但它仍存在兩個顯著的局限性：

• 單一知識源限制：基礎(chǔ) RAG 流水線僅考慮單一外部知識源。然而，在實際應(yīng)用中，有些解決方案可能需要整合多個外部知識源，例如結(jié)合內(nèi)部文檔庫和實時數(shù)據(jù)源；更有甚者，可能需要借助外部工具和 API（如網(wǎng)絡(luò)搜索或第三方服務(wù)）來獲取更全面的信息。這種單一性限制了 RAG 在復(fù)雜任務(wù)中的適應(yīng)性。
• 一次檢索的局限性：傳統(tǒng) RAG 是一種“單次”（one-shot）解決方案，即上下文僅檢索一次，且缺乏對檢索結(jié)果質(zhì)量的進一步推理或驗證。這意味著，如果初始檢索結(jié)果不充分或存在噪聲，生成內(nèi)容可能無法達到預(yù)期效果，特別是在需要多輪推理或深度分析的場景中。

 這些局限性凸顯了 RAG 技術(shù)的發(fā)展空間，為滿足日益增長的客戶訴求，解決客戶的痛點，未來的 RAG 優(yōu)化可能包括多源知識整合、動態(tài)上下文驗證以及與外部工具的深度融合，以滿足更廣泛的場景需求。

02、什么是 Agentic RAG ？

從本質(zhì)上而言，Agentic RAG（代理增強檢索生成）是一種基于代理實現(xiàn)的 RAG（Retrieval-Augmented Generation，檢索增強生成）技術(shù)，徹底革新了我們處理問答的方式。

簡單來說，Agentic RAG = Agent-based RAG implementation（基于代理的 RAG 實現(xiàn)）。

與傳統(tǒng)僅依賴大型語言模型（Large Language Models, LLMs）的方法不同，Agentic RAG 引入了智能代理框架，這些代理能夠應(yīng)對復(fù)雜問題，涉及精細規(guī)劃、多步驟推理以及外部工具的充分利用。它們?nèi)缤?jīng)驗豐富的科研專家，熟練地穿梭于多份文檔之間，比較信息、生成總結(jié)，并提供全面且準(zhǔn)確的答案。此外，Agentic RAG 的設(shè)計具備高度可擴展性，新增文檔可由子代理自動管理，仿佛組建了一支由專業(yè)研究人員組成的團隊，協(xié)作滿足大家的信息需求。

在實際的應(yīng)用場景中，我們可以想象一下：假設(shè)擁有一個由多位專家組成的研究團隊，每位成員各具專長，協(xié)同工作以滿足您的信息查詢需求。無論是比較不同文檔中的觀點、深入剖析某份文檔的細節(jié)，還是從多份總結(jié)中提煉洞見，Agentic RAG 的代理都能以精準(zhǔn)高效的方式完成任務(wù)。這種類比生動體現(xiàn)了其核心價值：將靜態(tài)問答轉(zhuǎn)化為動態(tài)、智能的知識探索過程。

Agentic RAG 憑借其創(chuàng)新設(shè)計，展現(xiàn)出以下關(guān)鍵特性和顯著優(yōu)勢，具體可參考：

1、協(xié)調(diào)問答過程

Agentic RAG 通過將問答過程分解為可管理的步驟，分配適當(dāng)?shù)拇韴?zhí)行任務(wù)，并確保無縫協(xié)作，從而優(yōu)化結(jié)果。例如，在處理多文檔分析時，代理會按步驟檢索、比較和總結(jié)，確保輸出邏輯嚴(yán)密。

2、規(guī)劃與推理能力

Agentic RAG 框架內(nèi)的代理具備高級規(guī)劃和多步驟推理能力，能夠制定最佳信息檢索、分析和綜合策略，有效應(yīng)對復(fù)雜問題。例如，代理可能先檢索基礎(chǔ)數(shù)據(jù)，再通過推理生成深層洞見。

3、上下文感知

系統(tǒng)會考慮當(dāng)前情境、歷史交互和用戶偏好，做出明智決策并采取適當(dāng)行動。例如，根據(jù)用戶過往查詢調(diào)整檢索優(yōu)先級。

4、提升準(zhǔn)確性與效率

通過結(jié)合 LLMs 和代理系統(tǒng)的優(yōu)勢，Agentic RAG 相較傳統(tǒng)方法在問答準(zhǔn)確性和效率上實現(xiàn)顯著提升。例如，減少幻覺（hallucination）并加速響應(yīng)時間。

當(dāng)然，除了上述的關(guān)鍵特性外，Agentic RAG 在目標(biāo)驅(qū)動、工具使用與適應(yīng)性、持續(xù)學(xué)習(xí)、靈活性與定制化以及創(chuàng)新應(yīng)用等具有明顯特征優(yōu)勢。

03、Agentic RAG 是如何工作的呢 ？

Agentic RAG（代理增強檢索生成）的運作方式體現(xiàn)了對傳統(tǒng)檢索增強生成（RAG）流程的智能化升級。雖然智能代理（Agents）可以被整合進 RAG 流水線的不同階段，但 Agentic RAG 通常特指在檢索組件中引入代理技術(shù)的實現(xiàn)。這一設(shè)計將檢索過程從靜態(tài)操作轉(zhuǎn)變?yōu)閯討B(tài)、智能化的決策過程，使其能夠更高效地應(yīng)對復(fù)雜信息需求。

在現(xiàn)代 AI 應(yīng)用中，尤其是在處理多源知識和實時數(shù)據(jù)時，Agentic RAG 的靈活性成為其核心優(yōu)勢。Agentic RAG 的核心在于其多層次架構(gòu)，融合了代理智能、檢索技術(shù)和生成模型。以下是其主要技術(shù)組件：

1.智能代理（Agents）

這些代理是基于規(guī)則或強化學(xué)習(xí)的智能實體，能夠根據(jù)任務(wù)目標(biāo)自主決策。它們負責(zé)制定檢索策略、評估檢索結(jié)果的 relevance（相關(guān)性）并調(diào)整查詢參數(shù)。例如，一個代理可能根據(jù)用戶問題動態(tài)調(diào)整關(guān)鍵詞，或在檢索結(jié)果不足時主動擴展知識庫范圍。

2.檢索模塊（Retrieval Component）

采用向量檢索（如基于嵌入的 ANN 算法）或混合檢索（結(jié)合關(guān)鍵字和語義匹配），從外部知識庫（如文檔庫、數(shù)據(jù)庫或?qū)崟r數(shù)據(jù)源）中提取相關(guān)信息。Agentic RAG 優(yōu)化了傳統(tǒng) RAG 的檢索過程，代理可以根據(jù)上下文優(yōu)先級選擇最優(yōu)數(shù)據(jù)源。

3.生成模塊（Generation Component）

基于檢索到的信息，LLM 生成響應(yīng)。代理在此過程中監(jiān)控生成質(zhì)量，必要時觸發(fā)重新檢索或修改提示（prompt），確保輸出準(zhǔn)確且符合意圖。

4.反饋與優(yōu)化循環(huán)

Agentic RAG 引入了閉環(huán)反饋機制，代理通過用戶反饋或性能指標(biāo)（如準(zhǔn)確率、F1 分數(shù)）不斷優(yōu)化檢索和生成策略，體現(xiàn)其“agentic”（自主性）特性。

接下來，我們將從如下 2 個維度，簡要解析  Agentic RAG 最為本質(zhì)的工作機制，具體可參考如下所示：

1.代理在檢索組件中的作用

具體而言，檢索組件通過引入具備多工具訪問能力的檢索代理（Retrieval Agents）而具備“代理化”（Agentic）特性。這些代理能夠調(diào)用多種檢索工具，顯著擴展了信息獲取的廣度和深度。以下是常見的檢索工具示例：

• 向量搜索引擎（也稱為查詢引擎）：與傳統(tǒng) RAG 流水線類似，該工具通過向量索引（Vector Index）執(zhí)行向量搜索，利用嵌入模型（Embedding Model）計算查詢與文檔的相似性，快速定位相關(guān)內(nèi)容。
• 網(wǎng)絡(luò)搜索：代理可以實時訪問互聯(lián)網(wǎng)，檢索最新信息，例如新聞或趨勢數(shù)據(jù)，彌補知識庫滯后性。
• 計算器：用于處理涉及數(shù)值計算的查詢，例如統(tǒng)計分析或財務(wù)數(shù)據(jù)處理。
• 任何可編程 API：包括電子郵件客戶端、聊天程序或?qū)Ｓ密浖涌?，允許代理通過程序化方式訪問動態(tài)數(shù)據(jù)源。
• 更多擴展工具：如文檔解析器、數(shù)據(jù)庫查詢工具等，代理可根據(jù)任務(wù)需求靈活選擇。

     上述這些工具的多樣性使得 Agentic RAG 能夠適配從簡單文檔檢索到跨平臺數(shù)據(jù)整合的多種場景。

2.代理的推理與行動能力

在具備了多工具支持后，RAG 代理能夠基于任務(wù)需求進行推理并采取行動，處理以下典型檢索場景：

• 決定是否進行檢索：代理會根據(jù)查詢的復(fù)雜性或已有上下文，判斷是否需要額外檢索。例如，對于一個已有明確答案的簡單問題，代理可能直接跳過檢索步驟，節(jié)省計算資源。
• 選擇合適的檢索工具：代理會評估任務(wù)特性，智能選擇最優(yōu)工具。例如，涉及實時數(shù)據(jù)的查詢可能優(yōu)先調(diào)用網(wǎng)絡(luò)搜索，而數(shù)值問題則依賴計算器。
• 自行構(gòu)建查詢：代理能夠動態(tài)優(yōu)化查詢語句，調(diào)整關(guān)鍵詞或語義表達，以提高檢索的精準(zhǔn)性和相關(guān)性。例如，將模糊問題“天氣如何”細化為“2023年10月北京天氣預(yù)測”。
• 評估與再檢索決策：代理會對檢索到的上下文進行質(zhì)量評估（如相關(guān)性、完整性），并在必要時觸發(fā)再檢索。例如，如果初始結(jié)果缺乏深度，代理可能擴展搜索范圍或更換工具，確保輸出滿足要求。

04、Agentic RAG 常見的使用模式 ？

在 RAG （檢索增強生成）框架中，智能代理（Agents）展現(xiàn)出多樣化的使用模式，這些模式根據(jù)特定任務(wù)和目標(biāo)進行了針對性設(shè)計。這些使用模式充分體現(xiàn)了代理在與 RAG 系統(tǒng)交互中的靈活性與適應(yīng)性，尤其在處理復(fù)雜信息需求時尤為突出。以下是 Agentic RAG 框架中代理的關(guān)鍵使用模式，它們共同構(gòu)成了這一技術(shù)在實際應(yīng)用中的核心價值。

1.將現(xiàn)有 RAG 流水線作為工具

可以將已有的 RAG 流水線作為工具，用于完成特定任務(wù)或生成輸出。通過利用成熟的流水線，代理能夠簡化操作流程，充分利用 RAG 框架中已有的檢索和生成能力。例如，在企業(yè)知識管理中，代理可能調(diào)用預(yù)訓(xùn)練的 RAG 流水線，從內(nèi)部文檔庫中提取信息并生成報告，從而提高效率并確保一致性。這種模式特別適合需要快速部署的場景，最大化利用現(xiàn)有資源。

2.作為獨立的 RAG 工具運行

可以在 RAG 框架內(nèi)獨立運行，作為一個完整的 RAG 工具，基于輸入查詢自主生成響應(yīng)，而無需依賴外部工具或流水線。這種自主性使其能夠在資源有限或離線環(huán)境中發(fā)揮作用。例如，在移動設(shè)備上，代理可能僅依靠本地知識庫直接回答用戶問題，減少網(wǎng)絡(luò)依賴并提升響應(yīng)速度。

3.根據(jù)查詢上下文動態(tài)檢索工具

根據(jù)查詢時的上下文，從 RAG 系統(tǒng)動態(tài)檢索相關(guān)工具，例如向量索引（Vector Index）。這種工具檢索能力使代理能夠根據(jù)每個查詢的具體需求調(diào)整行動策略。例如，當(dāng)用戶提出“最近的氣候變化趨勢”時，代理可能優(yōu)先選擇網(wǎng)絡(luò)搜索工具，而非僅依賴靜態(tài)向量索引，從而確保信息的時效性。

4.跨現(xiàn)有工具進行查詢規(guī)劃

從 RAG 系統(tǒng)預(yù)定義工具集（Predefined Toolset）中選擇合適工具的能力，從而執(zhí)行查詢規(guī)劃任務(wù)。這種優(yōu)化選擇確保工具與查詢需求及預(yù)期結(jié)果高度匹配。例如，在學(xué)術(shù)研究中，代理可能根據(jù)查詢復(fù)雜性，組合使用文檔檢索和計算工具，制定多步驟檢索計劃。

5.從候選工具池中選擇工具

當(dāng) RAG 系統(tǒng)提供廣泛的工具選項時，代理可以從根據(jù)查詢檢索出的候選工具池中挑選最適合的工具。這一選擇過程確保所選工具與查詢上下文和目標(biāo)高度契合。例如，在金融分析場景中，代理可能從多個數(shù)據(jù) API 和計算工具中選擇最優(yōu)組合，以生成實時市場洞見。