什么是RAG？

RAG是一種將信息檢索與生成模型相結(jié)合的混合架構(gòu)。首先，檢索器從外部知識(shí)庫(kù)或文檔集中獲取與用戶查詢相關(guān)的內(nèi)容片段；然后，生成器基于這些檢索到的內(nèi)容生成自然語(yǔ)言輸出，確保生成的內(nèi)容既信息豐富，又具備高度的相關(guān)性和準(zhǔn)確性。RAG 模型由兩個(gè)主要模塊構(gòu)成：檢索器（Retriever）與生成器（Generator）。這兩個(gè)模塊相互配合，確保生成的文本既包含外部的相關(guān)知識(shí)，又具備自然流暢的語(yǔ)言表達(dá)。

RAG的工作原理是什么？

在RAG模型中，用戶的查詢首先被轉(zhuǎn)化為向量表示，然后在知識(shí)庫(kù)中執(zhí)行向量檢索。通常，檢索器采用諸如BERT等預(yù)訓(xùn)練模型生成查詢和文檔片段的向量表示，并通過(guò)相似度計(jì)算（如余弦相似度）匹配最相關(guān)的文檔片段。RAG的檢索器不僅僅依賴簡(jiǎn)單的關(guān)鍵詞匹配，而是采用語(yǔ)義級(jí)別的向量表示，從而在面對(duì)復(fù)雜問(wèn)題或模糊查詢時(shí)，能夠更加準(zhǔn)確地找到相關(guān)知識(shí)。這一步驟對(duì)于最終生成的回答至關(guān)重要，因?yàn)闄z索的效率和質(zhì)量直接決定了生成器可利用的上下文信息 。

生成階段是RAG模型的核心部分，生成器負(fù)責(zé)基于檢索到的內(nèi)容生成連貫且自然的文本回答。RAG中的生成器，如BART或GPT等模型，結(jié)合用戶輸入的查詢和檢索到的文檔片段，生成更加精準(zhǔn)且豐富的答案。與傳統(tǒng)生成模型相比，RAG的生成器不僅能夠生成語(yǔ)言流暢的回答，還可以根據(jù)外部知識(shí)庫(kù)中的實(shí)際信息提供更具事實(shí)依據(jù)的內(nèi)容，從而提高了生成的準(zhǔn)確性 。

RAG模型在對(duì)話系統(tǒng)中能夠有效支持多輪交互。每一輪的查詢和生成結(jié)果會(huì)作為下一輪的輸入，系統(tǒng)通過(guò)分析和學(xué)習(xí)用戶的反饋，逐步優(yōu)化后續(xù)查詢的上下文。通過(guò)這種循環(huán)反饋機(jī)制，RAG能夠更好地調(diào)整其檢索和生成策略，使得在多輪對(duì)話中生成的答案越來(lái)越符合用戶的期望。此外，多輪交互還增強(qiáng)了RAG在復(fù)雜對(duì)話場(chǎng)景中的適應(yīng)性，使其能夠處理跨多輪的知識(shí)整合和復(fù)雜推理 。

RAG的工作流程？

RAG模型的工作流程可以總結(jié)為以下幾個(gè)步驟：

1. 輸入查詢：用戶輸入問(wèn)題，系統(tǒng)將其轉(zhuǎn)化為向量表示。
2. 文檔檢索：檢索器從知識(shí)庫(kù)中提取與查詢最相關(guān)的文檔片段，通常使用向量檢索技術(shù)或BM25等傳統(tǒng)技術(shù)進(jìn)行。
3. 生成答案：生成器接收檢索器提供的片段，并基于這些片段生成自然語(yǔ)言答案。生成器不僅基于原始的用戶查詢，還會(huì)利用檢索到的片段提供更加豐富、上下文相關(guān)的答案。
4. 輸出結(jié)果：生成的答案反饋給用戶，這個(gè)過(guò)程確保了用戶能夠獲得基于最新和相關(guān)信息的準(zhǔn)確回答。
5. 
   

1. 數(shù)據(jù)加載與查詢輸入：

1. 用戶通過(guò)界面或API提交自然語(yǔ)言查詢，系統(tǒng)接收查詢作為輸入。
2. 輸入被傳遞至向量化器，利用向量化技術(shù)（如BERT或Sentence Transformer）將自然語(yǔ)言查詢轉(zhuǎn)換為向量表示。

2. 文檔檢索：
3. 向量化后的查詢會(huì)傳遞給檢索器，檢索器通過(guò)在知識(shí)庫(kù)中查找最相關(guān)的文檔片段。
4. 檢索可以基于稀疏檢索技術(shù)（如BM25）或密集檢索技術(shù)（如DPR）來(lái)提高匹配效率和精度。
5. 生成器處理與自然語(yǔ)言生成：
6. 檢索到的文檔片段作為生成器的輸入，生成器（如GPT、BART或T5）基于查詢和文檔內(nèi)容生成自然語(yǔ)言回答。
7. 生成器結(jié)合了外部檢索結(jié)果和預(yù)訓(xùn)練模型的語(yǔ)言知識(shí)，使回答更加精準(zhǔn)、自然。
8. 結(jié)果輸出：
9. 系統(tǒng)生成的答案通過(guò)API或界面返回給用戶，確保答案連貫且知識(shí)準(zhǔn)確。
10. 反饋與優(yōu)化：
11. 用戶可以對(duì)生成的答案進(jìn)行反饋，系統(tǒng)根據(jù)反饋優(yōu)化檢索與生成過(guò)程。
12. 通過(guò)微調(diào)模型參數(shù)或調(diào)整檢索權(quán)重，系統(tǒng)逐步改進(jìn)其性能，確保未來(lái)查詢時(shí)更高的準(zhǔn)確性與效率。

RAG在智能問(wèn)答系統(tǒng)中的應(yīng)用 

• RAG通過(guò)實(shí)時(shí)檢索外部知識(shí)庫(kù)，生成包含準(zhǔn)確且詳細(xì)的答案，避免傳統(tǒng)生成模型可能產(chǎn)生的錯(cuò)誤信息。例如，在醫(yī)療問(wèn)答系統(tǒng)中，RAG能夠結(jié)合最新的醫(yī)學(xué)文獻(xiàn)，生成包含最新治療方案的準(zhǔn)確答案，避免生成模型提供過(guò)時(shí)或錯(cuò)誤的建議。這種方法幫助醫(yī)療專家快速獲得最新的研究成果和診療建議，提升醫(yī)療決策的質(zhì)量。

    用戶通過(guò)Web應(yīng)用程序發(fā)起查詢：

    使用Azure AD進(jìn)行身份驗(yàn)證：

    用戶權(quán)限檢查：

    Azure AI搜索服務(wù)：

    文檔智能處理：

    文檔來(lái)源：

    Azure Open AI生成響應(yīng)：

    響應(yīng)返回用戶：

整個(gè)流程展示了Azure AI技術(shù)的集成，通過(guò)文檔檢索、智能處理以及自然語(yǔ)言生成來(lái)處理復(fù)雜的查詢，并確保了數(shù)據(jù)的安全和合規(guī)性。

醫(yī)療問(wèn)答系統(tǒng)案例

1. 用戶在一個(gè)Web應(yīng)用上輸入查詢請(qǐng)求，這個(gè)請(qǐng)求進(jìn)入后端系統(tǒng)，啟動(dòng)了整個(gè)數(shù)據(jù)處理流程。
2. 系統(tǒng)通過(guò)Azure Active Directory (Azure AD) 對(duì)用戶進(jìn)行身份驗(yàn)證，確保只有經(jīng)過(guò)授權(quán)的用戶才能訪問(wèn)系統(tǒng)和數(shù)據(jù)。
3. 系統(tǒng)根據(jù)用戶的組權(quán)限（由Azure AD管理）過(guò)濾用戶能夠訪問(wèn)的內(nèi)容。這個(gè)步驟保證了用戶只能看到他們有權(quán)限查看的信息。
4. 過(guò)濾后的用戶查詢被傳遞給Azure AI搜索服務(wù)，該服務(wù)會(huì)在已索引的數(shù)據(jù)庫(kù)或文檔中查找與查詢相關(guān)的內(nèi)容。這個(gè)搜索引擎通過(guò)語(yǔ)義搜索技術(shù)檢索最相關(guān)的信息。
5. 系統(tǒng)使用OCR（光學(xué)字符識(shí)別）和文檔提取等技術(shù)處理輸入的文檔，將非結(jié)構(gòu)化數(shù)據(jù)轉(zhuǎn)換為結(jié)構(gòu)化、可搜索的數(shù)據(jù)，便于Azure AI進(jìn)行檢索。
6. 這些文檔來(lái)自預(yù)先存儲(chǔ)的輸入文檔集合，這些文檔在被用戶查詢之前已經(jīng)通過(guò)文檔智能處理進(jìn)行了準(zhǔn)備和索引。
7. 在檢索到相關(guān)信息后，數(shù)據(jù)會(huì)被傳遞到Azure Open AI，該模塊利用自然語(yǔ)言生成（NLG）技術(shù)，根據(jù)用戶的查詢和檢索結(jié)果生成連貫的回答。
8. 最終生成的回答通過(guò)Web應(yīng)用程序返回給用戶，完成整個(gè)查詢到響應(yīng)的流程。

RAG在信息檢索與文本生成 

• 文本生成：RAG不僅可以檢索相關(guān)文檔，還能根據(jù)這些文檔生成總結(jié)、報(bào)告或文檔摘要，從而增強(qiáng)生成內(nèi)容的連貫性和準(zhǔn)確性。例如，法律領(lǐng)域中，RAG可以整合相關(guān)法條和判例，生成詳細(xì)的法律意見(jiàn)書(shū)，確保內(nèi)容的全面性和嚴(yán)謹(jǐn)性。這在法律咨詢和文件生成過(guò)程中尤為重要，可以幫助律師和法律從業(yè)者提高工作效率。

     內(nèi)容總結(jié)：

     背景： 傳統(tǒng)的大語(yǔ)言模型 (LLMs) 在生成任務(wù)中表現(xiàn)優(yōu)異，但在處理法律領(lǐng)域中的復(fù)雜任務(wù)時(shí)存在局限。法律文檔具有獨(dú)特的結(jié)構(gòu)和術(shù)語(yǔ)，標(biāo)準(zhǔn)的檢索評(píng)估基準(zhǔn)往往無(wú)法充分捕捉這些領(lǐng)域特有的復(fù)雜性。為了彌補(bǔ)這一不足，LegalBench-RAG 旨在提供一個(gè)評(píng)估法律文檔檢索效果的專用基準(zhǔn)。

     LegalBench-RAG 的結(jié)構(gòu)：

     意義： LegalBench-RAG 是第一個(gè)專門針對(duì)法律檢索系統(tǒng)的公開(kāi)可用的基準(zhǔn)。它為研究人員和公司提供了一個(gè)標(biāo)準(zhǔn)化的框架，用于比較不同的檢索算法的效果，特別是在需要高精度的法律任務(wù)中，例如判決引用、條款解釋等。

     關(guān)鍵挑戰(zhàn)：

     質(zhì)量控制： 數(shù)據(jù)集的構(gòu)建過(guò)程確保了高質(zhì)量的人工注釋和文本精確性，特別是在映射注釋類別和文檔ID到具體文本片段時(shí)進(jìn)行了多次人工校驗(yàn)。

• 法律領(lǐng)域檢索增強(qiáng)生成案例

1. 工作流程：
2. 用戶輸入問(wèn)題（Q: ?，A: ?）：用戶通過(guò)界面輸入查詢問(wèn)題，提出需要答案的具體問(wèn)題。
3. 嵌入與檢索模塊（Embed + Retrieve）：該模塊接收到用戶的查詢后，會(huì)對(duì)問(wèn)題進(jìn)行嵌入（將其轉(zhuǎn)化為向量），并在外部知識(shí)庫(kù)或文檔中執(zhí)行相似度檢索。通過(guò)檢索算法，系統(tǒng)找到與查詢相關(guān)的文檔片段或信息。
4. 生成答案（A）：基于檢索到的最相關(guān)信息，生成模型（如GPT或類似的語(yǔ)言模型）根據(jù)檢索的結(jié)果生成連貫的自然語(yǔ)言答案。
5. 對(duì)比和返回結(jié)果：生成的答案會(huì)與之前的相關(guān)問(wèn)題答案進(jìn)行對(duì)比，并最終將生成的答案返回給用戶。
6. 該基準(zhǔn)基于 LegalBench 的數(shù)據(jù)集，構(gòu)建了 6858 個(gè)查詢-答案對(duì)，并追溯到其原始法律文檔的確切位置。
7. LegalBench-RAG 側(cè)重于精確地檢索法律文本中的小段落，而非寬泛的、上下文不相關(guān)的片段。
8. 數(shù)據(jù)集涵蓋了合同、隱私政策等不同類型的法律文檔，確保涵蓋多個(gè)法律應(yīng)用場(chǎng)景。
9. RAG 系統(tǒng)的生成部分依賴檢索到的信息，錯(cuò)誤的檢索結(jié)果可能導(dǎo)致錯(cuò)誤的生成輸出。
10. 法律文檔的長(zhǎng)度和術(shù)語(yǔ)復(fù)雜性增加了模型檢索和生成的難度。

 其它應(yīng)用場(chǎng)景 

RAG還可以應(yīng)用于多模態(tài)生成場(chǎng)景，如圖像、音頻和3D內(nèi)容生成。例如，跨模態(tài)應(yīng)用如ReMoDiffuse和Make-An-Audio利用RAG技術(shù)實(shí)現(xiàn)不同數(shù)據(jù)形式的生成。此外，在企業(yè)決策支持中，RAG能夠快速檢索外部資源（如行業(yè)報(bào)告、市場(chǎng)數(shù)據(jù)），生成高質(zhì)量的前瞻性報(bào)告，從而提升企業(yè)戰(zhàn)略決策的能力。

總結(jié) 

通過(guò)結(jié)合生成模型與檢索模型，RAG解決了傳統(tǒng)生成模型在面對(duì)事實(shí)性任務(wù)時(shí)的“編造”問(wèn)題和檢索模型難以生成連貫自然語(yǔ)言輸出的不足。RAG模型能夠?qū)崟r(shí)從外部知識(shí)庫(kù)獲取信息，使生成內(nèi)容既包含準(zhǔn)確的知識(shí)，又具備流暢的語(yǔ)言表達(dá)，適用于醫(yī)療、法律、智能問(wèn)答系統(tǒng)等多個(gè)知識(shí)密集型領(lǐng)域。

在應(yīng)用實(shí)踐中，RAG模型雖然有著信息完整性、推理能力和跨領(lǐng)域適應(yīng)性等顯著優(yōu)勢(shì)，但也面臨著數(shù)據(jù)質(zhì)量、計(jì)算資源消耗和知識(shí)庫(kù)更新等挑戰(zhàn)。為進(jìn)一步提升RAG的性能，提出了針對(duì)數(shù)據(jù)采集、內(nèi)容分塊、檢索策略優(yōu)化以及回答生成的全面改進(jìn)措施，如引入知識(shí)圖譜、優(yōu)化用戶反饋機(jī)制、實(shí)施高效去重算法等，以增強(qiáng)模型的適用性和效率。

RAG在智能問(wèn)答、信息檢索與文本生成等領(lǐng)域展現(xiàn)了出色的應(yīng)用潛力，并在不斷發(fā)展的技術(shù)支持下進(jìn)一步拓展至多模態(tài)生成和企業(yè)決策支持等場(chǎng)景。通過(guò)引入混合檢索技術(shù)、知識(shí)圖譜以及動(dòng)態(tài)反饋機(jī)制，RAG能夠更加靈活地應(yīng)對(duì)復(fù)雜的用戶需求，生成具有事實(shí)支撐和邏輯連貫性的回答。未來(lái)，RAG將通過(guò)增強(qiáng)模型透明性與可控性，進(jìn)一步提升在專業(yè)領(lǐng)域中的可信度和實(shí)用性，為智能信息檢索與內(nèi)容生成提供更廣泛的應(yīng)用空間。

本文轉(zhuǎn)載自公眾號(hào)數(shù)字化助推器  作者：天涯咫尺TGH

原文鏈接：??https://mp.weixin.qq.com/s/GXO2c-Zpf3DbIthTDljwNg??