01、概述

在快速發(fā)展的人工智能領(lǐng)域，如何讓語言模型更高效、更準(zhǔn)確地生成上下文相關(guān)的答案，一直是研究者們的熱門課題。最近，來自香港大學(xué)和北京郵電大學(xué)的研究團(tuán)隊(duì)推出了LightRAG，一種輕量級(jí)、高效的檢索增強(qiáng)生成（RAG）方法，標(biāo)志著這一領(lǐng)域的新進(jìn)展。與以往的RAG模型相比，LightRAG在生成速度和上下文相關(guān)性方面表現(xiàn)更佳，為開發(fā)者提供了更強(qiáng)大的工具。

02、什么是RAG？

檢索增強(qiáng)生成（Retrieval-Augmented Generation, RAG）是一種通過接入外部數(shù)據(jù)源來提升大語言模型（LLMs）準(zhǔn)確性的技術(shù)。這一方法結(jié)合了兩個(gè)主要過程：檢索和生成。用戶提交查詢時(shí)，系統(tǒng)會(huì)搜索一個(gè)廣泛的知識(shí)數(shù)據(jù)庫(kù)，檢索到相關(guān)文檔或信息后，再傳遞給生成模塊，以創(chuàng)建一個(gè)符合上下文的回應(yīng)。

然而，傳統(tǒng)的RAG系統(tǒng)常常依賴于平面的數(shù)據(jù)結(jié)構(gòu)，這意味著信息被孤立地存儲(chǔ)，導(dǎo)致模型在生成答案時(shí)無法充分利用上下文，最終產(chǎn)生零散的回復(fù)。LightRAG通過改善RAG中的檢索和生成階段，克服了這些限制，使得生成的回答更加詳細(xì)且更具連貫性。

03、為什么選擇LightRAG？

LightRAG在信息之間保持關(guān)系，能產(chǎn)生更優(yōu)質(zhì)的答案，同時(shí)其計(jì)算效率也更高。與之前的RAG模型相比，LightRAG引入了多項(xiàng)創(chuàng)新功能：

• 圖增強(qiáng)文本索引：通過將圖結(jié)構(gòu)納入文本索引，LightRAG能夠建立相關(guān)實(shí)體之間的復(fù)雜關(guān)系，從而提升系統(tǒng)的上下文理解能力。
• 雙層檢索系統(tǒng)：LightRAG采用雙層檢索機(jī)制，能夠同時(shí)處理低層（具體細(xì)節(jié)）和高層（抽象概念）的查詢。例如，它不僅可以回答“誰寫了《傲慢與偏見》？”這樣具體的問題，也能應(yīng)對(duì)“人工智能如何影響現(xiàn)代教育？”這樣抽象的問題。
• 增量更新算法：該模型使用增量更新算法，以便在不重建整個(gè)數(shù)據(jù)索引的情況下，快速整合最新信息。這種方法能夠選擇性地索引新或修改過的內(nèi)容，尤其適用于動(dòng)態(tài)環(huán)境，比如新聞或?qū)崟r(shí)分析，數(shù)據(jù)變化頻繁的場(chǎng)景。

LightRAG的輕量化特性使其能夠快速處理大規(guī)模知識(shí)庫(kù)并生成文本，減少了計(jì)算成本，適合更多開發(fā)者和小型企業(yè)使用。

04、LightRAG的架構(gòu)

LightRAG的架構(gòu)主要分為兩個(gè)部分：基于圖的文本索引和雙層檢索。其工作流程可以總結(jié)如下：

• 圖形文本索引：將原始文本文件分割成小塊，便于高效檢索。
• 知識(shí)圖譜構(gòu)建：利用大語言模型（LLM）進(jìn)行實(shí)體和關(guān)系的提取，并生成文本的鍵值對(duì)（K, V）。
• 信息檢索：通過生成的鍵值對(duì)進(jìn)行檢索，包括：

     詳細(xì)層面：關(guān)注于文檔的具體小部分，允許精確的信息檢索。

     抽象層面：關(guān)注整體意義，幫助理解不同部分之間的廣泛連接。

通過這兩種檢索方式，LightRAG能夠在小文檔部分中找到相關(guān)信息，并理解不同文檔之間的更大、相互關(guān)聯(lián)的概念。

05、評(píng)估與比較

LightRAG的評(píng)估結(jié)果顯示，其在檢索準(zhǔn)確性、模型可調(diào)節(jié)性、響應(yīng)效率和適應(yīng)新信息的能力等方面超越了其他相似的RAG模型，如NaiveRAG、RQ-RAG、HyDE和GraphRAG。具體的案例研究表明，雖然GraphRAG是微軟開發(fā)的工具，也使用基于圖的知識(shí)來提高文檔檢索和文本生成，但其運(yùn)行所需資源更多，因此成本更高。

在綜合比較中，LightRAG在全面性、多樣性以及提供詳細(xì)信息的能力上均表現(xiàn)出色。例如，在電影推薦系統(tǒng)的關(guān)鍵指標(biāo)評(píng)估中，LightRAG在準(zhǔn)確性、用戶參與度等多個(gè)維度均勝出。

06、如何使用LightRAG

LightRAG是開源的，用戶可以按照以下步驟在本地機(jī)器上設(shè)置：

• 安裝LightRAG：可以直接從源代碼或通過PyPI安裝。
• 環(huán)境設(shè)置：如果使用OpenAI模型，需要在環(huán)境中設(shè)置API密鑰。
• 數(shù)據(jù)準(zhǔn)備：收集要使用的數(shù)據(jù)，比如文本文件、PDF或其他格式，確保這些文件以可用的文本格式存儲(chǔ)。
• 初始化LightRAG：在環(huán)境和數(shù)據(jù)準(zhǔn)備好后，初始化LightRAG，配置以與不同的模型（如Hugging Face或Ollama）兼容。
• 執(zhí)行查詢：現(xiàn)在可以對(duì)文檔進(jìn)行查詢，LightRAG支持批量插入或分塊處理，以提高效率。

07、結(jié)語

LightRAG作為一種新型的開源模型，建立在傳統(tǒng)RAG架構(gòu)的基礎(chǔ)上，但在效率和輕量化方面做出了重要改進(jìn)。它通過引入圖形化方法，能夠更好地處理文檔之間的復(fù)雜依賴關(guān)系，同時(shí)采用雙層檢索機(jī)制，以同時(shí)處理詳細(xì)和抽象層面的查詢。

這些特性使LightRAG能夠比傳統(tǒng)RAG模型更快速、更準(zhǔn)確地檢索和處理信息。隨著開源技術(shù)的發(fā)展，LightRAG為研究者和開發(fā)者提供了一個(gè)強(qiáng)大而靈活的工具，助力他們?cè)趶?fù)雜的語言上下文中找到合適的解決方案。未來，LightRAG有望成為更多AI應(yīng)用中的關(guān)鍵組成部分。

參考：

1. ??https://arxiv.org/abs/2410.05779v1??
2. ??https://github.com/HKUDS/LightRAG??

本文轉(zhuǎn)載自公眾號(hào)Halo咯咯 作者：基咯咯

原文鏈接：??https://mp.weixin.qq.com/s/7jmqjO4XGxVEnpWnRMBZoQ??