01、概述

隨著人工智能（AI）技術(shù)的迅猛發(fā)展，深度學(xué)習(xí)模型正在不斷突破原有的認(rèn)知與交互極限。特別是隨著大語言模型（LLM）的普及與改進(jìn)，AI的應(yīng)用場(chǎng)景逐漸擴(kuò)展。然而，盡管這些模型在處理語言和信息上表現(xiàn)出色，它們?cè)趫?zhí)行真實(shí)世界的行動(dòng)和任務(wù)上仍存在局限。這一背景下，自主RAG系統(tǒng)（Agentic RAG）應(yīng)運(yùn)而生，結(jié)合了知識(shí)檢索和自主決策，開辟了智能AI的新方向。本文將帶您探索Agentic RAG的演變歷程，深入了解其背后的核心技術(shù)和應(yīng)用前景。

02、從長(zhǎng)上下文LLM到RAG系統(tǒng)的演變

1. 大語言模型（LLM）及其局限

LLM的出現(xiàn)讓人與信息的交互方式發(fā)生了質(zhì)的飛躍。然而，傳統(tǒng)LLM的知識(shí)庫是靜態(tài)的，完全依賴于模型內(nèi)部存儲(chǔ)的信息。這種設(shè)計(jì)模式導(dǎo)致了當(dāng)LLM處理一些復(fù)雜查詢時(shí)，容易產(chǎn)生偏差或事實(shí)性錯(cuò)誤。

2. 檢索增強(qiáng)生成（RAG）的出現(xiàn)

為了彌補(bǔ)LLM的缺陷，RAG技術(shù)應(yīng)運(yùn)而生。RAG允許LLM連接到外部數(shù)據(jù)源，通過檢索外部知識(shí)來提升對(duì)復(fù)雜問題的回答能力。在RAG的運(yùn)作過程中，模型執(zhí)行以下三步：

• 查詢管理：接收到查詢后，模型優(yōu)化查詢以提升搜索效率；
• 信息檢索：通過算法從外部數(shù)據(jù)源中尋找相關(guān)文檔；
• 響應(yīng)生成：利用檢索到的信息，生成更為精準(zhǔn)的答案。

盡管RAG系統(tǒng)顯著提升了模型的準(zhǔn)確性，但仍存在“靜態(tài)”特點(diǎn)，缺乏自主決策和任務(wù)執(zhí)行能力。

03、自主RAG：從“檢索增強(qiáng)”到“自主行動(dòng)”

1. RAG的短板與自主RAG的誕生

RAG雖然在信息檢索上表現(xiàn)出色，但因缺乏智能決策層，無法獨(dú)立執(zhí)行復(fù)雜任務(wù)。為此，自主RAG（Agentic RAG）加入了“決策層”，具備了根據(jù)檢索信息自主分析并選擇最佳解決路徑的能力。這意味著自主RAG不僅能夠提供信息，還能夠在特定環(huán)境下執(zhí)行任務(wù)。

2. 自主RAG與AI Agent的概念

自主RAG與智能代理（AI Agent）密切相關(guān)，屬于“智能系統(tǒng)”的范疇。AI Agent是一種能夠在動(dòng)態(tài)環(huán)境中自主判斷、決策并執(zhí)行操作的系統(tǒng)。與傳統(tǒng)RAG依賴外部數(shù)據(jù)增強(qiáng)不同，AI Agent通過工具互動(dòng)和任務(wù)執(zhí)行實(shí)現(xiàn)真正的自主化。

LLM與RAG的最新進(jìn)展

1. 優(yōu)化檢索算法

為了提升信息檢索的效率，研究人員采用了重排序算法和多向量檢索等方法，使系統(tǒng)能夠更準(zhǔn)確地找到相關(guān)內(nèi)容。同時(shí)，通過引入語義緩存技術(shù)，可以臨時(shí)存儲(chǔ)已處理的查詢，減少重復(fù)檢索的計(jì)算成本。

2. 多模態(tài)集成

多模態(tài)集成擴(kuò)展了LLM和RAG的功能，不再局限于文本處理，而是結(jié)合圖像等多種數(shù)據(jù)源，使得AI在信息交互上更加靈活。

RAG與AI Agent的核心區(qū)別

從表中可以看出，RAG擅長(zhǎng)優(yōu)化回答內(nèi)容，而AI Agent則專注于任務(wù)的自主執(zhí)行和完成。二者的區(qū)別不僅在于任務(wù)復(fù)雜度，更體現(xiàn)在設(shè)計(jì)的靈活性與環(huán)境互動(dòng)能力上。

04、概述

長(zhǎng)上下文LLM、RAG和自主RAG的架構(gòu)差異

長(zhǎng)上下文LLM

長(zhǎng)上下文LLM如GPT-3等基于大規(guī)模文本訓(xùn)練，能夠處理和生成長(zhǎng)篇內(nèi)容，但僅依賴于內(nèi)部的靜態(tài)知識(shí)庫，無法動(dòng)態(tài)更新。長(zhǎng)上下文LLM的強(qiáng)項(xiàng)包括：

• 總結(jié)長(zhǎng)文檔
• 維持長(zhǎng)對(duì)話的連貫性
• 處理帶有復(fù)雜上下文的內(nèi)容

RAG的增強(qiáng)能力

RAG通過連接外部數(shù)據(jù)來源，使得LLM可以從外部獲取更多信息，進(jìn)而生成更具上下文的回答。然而，RAG仍然依賴于外部數(shù)據(jù)而非自主決策。

自主RAG的決策能力

自主RAG在RAG的基礎(chǔ)上增加了“決策模塊”，不僅能檢索外部信息，還能對(duì)檢索內(nèi)容進(jìn)行自主分析并執(zhí)行決策。這一設(shè)計(jì)使其在執(zhí)行任務(wù)時(shí)更加高效智能。

05、新技術(shù)與適用場(chǎng)景

新技術(shù)：自路由（Self-Route）的平衡之道

自主RAG的發(fā)展催生了一種新的架構(gòu)模式——“自路由”（Self-Route）。Self-Route是RAG與長(zhǎng)上下文LLM的結(jié)合，旨在平衡計(jì)算成本與性能。其設(shè)計(jì)思路在于，系統(tǒng)首先判斷查詢是否能通過RAG處理，若不能則啟用長(zhǎng)上下文LLM獲取完整答案。這一設(shè)計(jì)的優(yōu)勢(shì)在于：

• 降低計(jì)算成本：通過在簡(jiǎn)單查詢時(shí)使用RAG，減少了長(zhǎng)上下文LLM的使用頻率。
• 自動(dòng)調(diào)節(jié)復(fù)雜度：根據(jù)查詢的難易程度，自動(dòng)選擇合適的解決方案。

適用場(chǎng)景

• 何時(shí)使用RAG：當(dāng)查詢內(nèi)容超出模型的上下文窗口且需要外部數(shù)據(jù)支持時(shí)，RAG能夠以較低的計(jì)算成本完成任務(wù)。
• 何時(shí)使用長(zhǎng)上下文LLM：在對(duì)長(zhǎng)文本的總結(jié)、延展對(duì)話或復(fù)雜上下文要求較高時(shí)，長(zhǎng)上下文LLM是最佳選擇。
• 何時(shí)使用自路由（Self-Route）：在對(duì)成本和性能要求均較高的場(chǎng)景下，自路由是一種兼具效率與效果的平衡解決方案。

06、結(jié)語

本次討論圍繞Agentic RAG的進(jìn)化展開，結(jié)合了長(zhǎng)上下文LLM、檢索增強(qiáng)生成（RAG）和自主RAG的架構(gòu)特性，分析了各技術(shù)在信息處理與任務(wù)執(zhí)行上的優(yōu)勢(shì)與不足。長(zhǎng)上下文LLM在對(duì)話與文本生成上表現(xiàn)出色，而RAG進(jìn)一步提升了上下文的準(zhǔn)確性；然而二者在自主行動(dòng)能力上仍有缺憾。Agentic RAG的出現(xiàn)，使得AI從“靜態(tài)回答”走向“動(dòng)態(tài)決策”。其中，自路由架構(gòu)成為當(dāng)前平衡性能與成本的理想選擇。

參考：

1. ??https://www.linkedin.com/posts/sushant-thakur-1a6279265_evolution-of-rag-long-context-llms-to-agentic-activity-7253845332827000832-q1vD??

?

本文轉(zhuǎn)載自公眾號(hào)Halo咯咯  作者：基咯咯

原文鏈接：??https://mp.weixin.qq.com/s/YUhGGdIGdyDYQUlco5LXJA??