01、概述

近年來(lái)，隨著檢索增強(qiáng)生成（Retrieval Augmented Generation，RAG）應(yīng)用的快速普及，其性能優(yōu)化成為開(kāi)發(fā)者們關(guān)注的熱點(diǎn)。盡管基礎(chǔ)RAG管道設(shè)計(jì)較為簡(jiǎn)單，但要滿足實(shí)際業(yè)務(wù)需求，往往需要更高級(jí)的優(yōu)化策略。本文將全面解讀RAG優(yōu)化的各類方法，幫助大家快速掌握主流策略并在實(shí)踐中應(yīng)用。

02、RAG管道基礎(chǔ)：從零開(kāi)始理解工作原理

一個(gè)標(biāo)準(zhǔn)的RAG管道一般包含以下幾個(gè)基本步驟：

• 文檔加載與分塊：將文檔內(nèi)容拆分為多個(gè)小塊（chunk），并將這些塊存儲(chǔ)到向量數(shù)據(jù)庫(kù)（如Milvus或Zilliz Cloud）。
• 檢索相關(guān)內(nèi)容：根據(jù)查詢，向量數(shù)據(jù)庫(kù)找到與查詢最相關(guān)的Top-K文檔塊。
• 注入上下文：將檢索到的文檔塊作為上下文注入大語(yǔ)言模型（LLM）的提示中。
• 生成回答：LLM結(jié)合上下文生成最終的答案。

這種直觀的流程雖然高效，但在復(fù)雜場(chǎng)景中可能出現(xiàn)性能瓶頸，比如信息丟失或回答不準(zhǔn)確。因此，針對(duì)RAG各環(huán)節(jié)的優(yōu)化策略便應(yīng)運(yùn)而生。

03、RAG優(yōu)化策略分類：全面覆蓋五大方向

可以將RAG優(yōu)化策略劃分為以下五大類：

1. 查詢優(yōu)化（Query Enhancement）：通過(guò)修改用戶查詢表達(dá)方式，使意圖更清晰，提升查詢準(zhǔn)確性。
2. 索引優(yōu)化（Indexing Enhancement）：通過(guò)改進(jìn)索引方式，增強(qiáng)文檔塊的檢索效率。
3. 檢索器優(yōu)化（Retriever Enhancement）：提升檢索階段的準(zhǔn)確性與上下文覆蓋范圍。
4. 生成器優(yōu)化（Generator Enhancement）：改善提示設(shè)計(jì)，確保生成更優(yōu)質(zhì)的答案。
5. 管道優(yōu)化（Pipeline Enhancement）：優(yōu)化整體RAG管道流程，動(dòng)態(tài)調(diào)整系統(tǒng)執(zhí)行方式。

接下來(lái)，我們將逐一探討每一類優(yōu)化方法及其應(yīng)用場(chǎng)景。

一、查詢優(yōu)化：為系統(tǒng)注入“清晰思路”

在RAG系統(tǒng)中，查詢的準(zhǔn)確性至關(guān)重要。以下幾種方法能夠幫助優(yōu)化查詢階段：

1. 假設(shè)性問(wèn)題生成（Hypothetical Questions）

通過(guò)大語(yǔ)言模型（LLM）生成一組假設(shè)性問(wèn)題，模擬用戶可能的提問(wèn)方式。

• 流程：先根據(jù)文檔塊生成假設(shè)性問(wèn)題，將其存儲(chǔ)于向量數(shù)據(jù)庫(kù)中。當(dāng)用戶提交實(shí)際查詢時(shí)，系統(tǒng)先檢索假設(shè)性問(wèn)題，再返回相關(guān)文檔塊供LLM生成答案。
• 優(yōu)點(diǎn)：緩解跨領(lǐng)域查詢的對(duì)稱性問(wèn)題，提高檢索精度。
• 缺點(diǎn)：生成假設(shè)性問(wèn)題可能增加計(jì)算開(kāi)銷，且存在不確定性。

2. 假設(shè)性文檔嵌入（HyDE）

HyDE方法會(huì)根據(jù)用戶查詢生成一個(gè)“假設(shè)性回答”，將其轉(zhuǎn)化為向量嵌入后用于檢索文檔塊。

• 優(yōu)勢(shì)：類似于假設(shè)性問(wèn)題生成，但通過(guò)直接生成答案有效處理復(fù)雜查詢。
• 不足：生成“假設(shè)性回答”需要額外的計(jì)算資源。

3. 子查詢拆分（Sub-Queries）

對(duì)于復(fù)雜查詢，可以先將其拆分為多個(gè)子查詢，分別檢索并合并答案。例如：

• 原始查詢：Milvus和Zilliz Cloud的功能有什么不同？
• 拆分后：

• 子查詢1：Milvus的功能有哪些？
• 子查詢2：Zilliz Cloud的功能有哪些？

通過(guò)簡(jiǎn)化復(fù)雜查詢，系統(tǒng)可以更準(zhǔn)確地檢索相關(guān)內(nèi)容。

4. 退一步提問(wèn)（Stepback Prompts）

將復(fù)雜的查詢轉(zhuǎn)化為“退一步”問(wèn)題。例如：

• 用戶問(wèn)題：Milvus是否可以存儲(chǔ)10億條記錄的數(shù)據(jù)集？
• 退一步問(wèn)題：Milvus能處理的數(shù)據(jù)集規(guī)模上限是多少？

這種方法能夠簡(jiǎn)化原始問(wèn)題，使檢索更具針對(duì)性。

二、索引優(yōu)化：打造高效的文檔檢索方式

索引階段的優(yōu)化方法可以幫助系統(tǒng)更快速、更精準(zhǔn)地定位相關(guān)文檔塊。

1. 自動(dòng)合并文檔塊

在索引過(guò)程中，建立“父子層級(jí)”：

• 初始檢索時(shí)聚焦細(xì)粒度子文檔塊。
• 如果多個(gè)子塊來(lái)自同一父文檔，則將父文檔提供給LLM作為上下文。

此方法已在LlamaIndex中實(shí)現(xiàn)，對(duì)提升檢索覆蓋率非常有效。

2. 構(gòu)建分層索引

采用兩級(jí)索引結(jié)構(gòu)：

• 第一級(jí)存儲(chǔ)文檔摘要，用于快速篩選相關(guān)文檔。
• 第二級(jí)存儲(chǔ)文檔塊，僅檢索篩選出的相關(guān)文檔內(nèi)的內(nèi)容。

這種方式在處理大規(guī)模數(shù)據(jù)或分層結(jié)構(gòu)數(shù)據(jù)（如圖書(shū)館藏）時(shí)尤為適用。

3. 混合檢索與重排序（Hybrid Retrieval & Reranking）

結(jié)合詞頻算法（如BM25）或稀疏嵌入方法（如Splade）與向量檢索。檢索完成后，通過(guò)重排序算法（如Cross-Encoder）對(duì)結(jié)果進(jìn)行相關(guān)性排序。

• 優(yōu)點(diǎn)：提升了檢索覆蓋率，減少向量召回不足的問(wèn)題。

三、檢索器優(yōu)化：讓信息“更近一步”

1. 句子窗口檢索（Sentence Window Retrieval）

在向量數(shù)據(jù)庫(kù)中檢索細(xì)粒度文檔塊，但將更大范圍的上下文信息提供給LLM，以減少信息遺漏。

• 注意：窗口大小需要根據(jù)業(yè)務(wù)需求動(dòng)態(tài)調(diào)整，避免過(guò)多無(wú)關(guān)信息干擾。

2. 元數(shù)據(jù)篩選（Meta-data Filtering）

通過(guò)時(shí)間、類別等元數(shù)據(jù)過(guò)濾檢索結(jié)果。例如，對(duì)于財(cái)報(bào)查詢，僅保留用戶指定年份的相關(guān)文檔。此方法在數(shù)據(jù)量龐大且元數(shù)據(jù)豐富的場(chǎng)景中非常有效。

四、生成器優(yōu)化：從提示設(shè)計(jì)到內(nèi)容生成

1. 壓縮提示信息

對(duì)檢索到的文檔塊進(jìn)行信息壓縮，減少無(wú)關(guān)細(xì)節(jié)并強(qiáng)調(diào)重點(diǎn)。

• 優(yōu)點(diǎn)：優(yōu)化有限提示窗口內(nèi)的信息利用率，提高生成答案的準(zhǔn)確性。

2. 調(diào)整提示塊順序

研究發(fā)現(xiàn)，LLM更傾向于使用提示開(kāi)頭和結(jié)尾的信息。因此，可以將高置信度文檔塊放置在提示的首尾，以提升回答質(zhì)量。

五、管道優(yōu)化：全面提升RAG系統(tǒng)效率

1. 自我反思（Self-reflection）

對(duì)于模糊或不確定的文檔塊，系統(tǒng)可進(jìn)行“二次反思”，利用自然語(yǔ)言推理（NLI）或額外工具進(jìn)行驗(yàn)證，從而確?；卮鸬臏?zhǔn)確性。

2. 查詢路由（Query Routing）

設(shè)計(jì)一個(gè)路由代理，判斷查詢是否需要經(jīng)過(guò)RAG管道。簡(jiǎn)單問(wèn)題可直接由LLM回答，復(fù)雜問(wèn)題則進(jìn)入RAG系統(tǒng)處理。

• 優(yōu)勢(shì)：提升響應(yīng)速度，避免不必要的管道資源消耗。

03、總結(jié)：實(shí)現(xiàn)RAG應(yīng)用的性能飛躍

盡管標(biāo)準(zhǔn)RAG管道設(shè)計(jì)較為簡(jiǎn)潔，但為了達(dá)到實(shí)際業(yè)務(wù)的性能要求，采用多種優(yōu)化策略是必要的。本文從查詢優(yōu)化、索引優(yōu)化、檢索器優(yōu)化、生成器優(yōu)化及管道優(yōu)化五大方向，詳細(xì)解析了多種方法及其實(shí)際應(yīng)用場(chǎng)景。

在實(shí)際應(yīng)用中，開(kāi)發(fā)者可以根據(jù)需求靈活組合這些策略，為RAG系統(tǒng)注入更多智慧，推動(dòng)其在多領(lǐng)域的廣泛應(yīng)用。希望本文的總結(jié)能幫助大家快速掌握RAG優(yōu)化技巧，為您的AI項(xiàng)目提供新思路！

參考：

1. ??https://docs.llamaindex.ai/en/stable/examples/retrievers/recursive_retriever_nodes/??
2. ??https://arxiv.org/abs/2307.03172??

本文轉(zhuǎn)載自公眾號(hào)Halo咯咯 作者：基咯咯

原文鏈接：??https://mp.weixin.qq.com/s/touyEJAkGpMUAL5x9oGvvg??