檢索增強(qiáng)生成（RAG）已成為增強(qiáng)大型語言模型能力的一項(xiàng)強(qiáng)大技術(shù)。

RAG 框架結(jié)合了基于檢索的系統(tǒng)和生成模型的優(yōu)勢，可以做出更準(zhǔn)確、更能感知上下文和更及時(shí)的響應(yīng)。隨著對復(fù)雜人工智能解決方案需求的增長，GitHub 上出現(xiàn)了許多開源 RAG 框架，每個框架都具有獨(dú)特的特性和功能。 RAG 框架有哪些功能？

過度簡化的 RAG 工作流程

檢索增強(qiáng)生成（RAG）是一種人工智能框架，它通過整合外部知識源來增強(qiáng)大型語言模型（LLM）的能力。

RAG 的工作原理是從知識庫中檢索相關(guān)信息，并將其用于增強(qiáng) LLM 的輸入，從而使模型能夠生成更準(zhǔn)確、最新且與上下文相關(guān)的響應(yīng)。

這種方法有助于克服知識截止日期等限制，并降低 LLM 輸出中出現(xiàn)幻覺的風(fēng)險(xiǎn)。

為什么不能直接使用 LangChain？

雖然 LangChain 是構(gòu)建 LLM 應(yīng)用程序的強(qiáng)大工具，但它并不能直接替代 RAG。相反，LangChain 可以用來實(shí)現(xiàn) RAG 系統(tǒng)。以下是除了使用 LangChain 之外還需要 RAG 的原因：

• 外部知識： RAG 允許你將特定領(lǐng)域或最新信息納入 LLM 的訓(xùn)練數(shù)據(jù)中，而這些信息可能并不存在。
• 提高準(zhǔn)確性： 通過根據(jù)檢索到的信息做出反應(yīng)，RAG 可以大大減少錯誤和幻覺。
• 定制： RAG 使你能夠針對特定數(shù)據(jù)集或知識庫定制響應(yīng)，這對許多業(yè)務(wù)應(yīng)用至關(guān)重要。
• 透明度： RAG 可以更容易地追蹤用于生成響應(yīng)的信息來源，從而提高可審計(jì)性。

從本質(zhì)上講，LangChain 提供了構(gòu)建 LLM 應(yīng)用程序的工具和抽象，而 RAG 則是一種可使用 LangChain 實(shí)現(xiàn)的特定技術(shù)，用于提高 LLM 輸出的質(zhì)量和可靠性。

GitHub 10 大最佳 RAG 框架

在本文中，我們將探討 GitHub 上目前可用的十大 RAG 框架。這些框架代表了 RAG 技術(shù)的最前沿，值得希望實(shí)施或改進(jìn)其人工智能驅(qū)動的應(yīng)用程序的開發(fā)人員、研究人員和組織進(jìn)行研究。

1. Haystack

GitHub星級：14.6k星

圖片

Haystack 是一個強(qiáng)大而靈活的框架，用于構(gòu)建端到端問題解答和搜索系統(tǒng)。它采用模塊化架構(gòu)，允許開發(fā)人員輕松創(chuàng)建各種 NLP 任務(wù)的管道，包括文檔檢索、問題解答和摘要：

• 支持多種文檔存儲（Elasticsearch、FAISS、SQL 等）
• 與流行的語言模型（BERT、RoBERTa、DPR 等）集成
• 處理大量文件的可擴(kuò)展架構(gòu)
• 易于使用的 API，可用于構(gòu)建自定義 NLP 管道

Haystack 的多功能性和豐富的文檔使其成為初學(xué)者和有經(jīng)驗(yàn)的開發(fā)人員實(shí)施 RAG 系統(tǒng)的絕佳選擇。

https://github.com/deepset-ai/haystack

2. RAGFlow

GitHub星級：11.6k

圖片

RAGFlow 是 RAG 框架領(lǐng)域中一個相對較新的加入者，但由于其注重簡潔性和效率，很快就獲得了人們的青睞。該框架旨在通過提供一套預(yù)建組件和工作流來簡化基于 RAG 的應(yīng)用程序的構(gòu)建過程：

• 直觀的工作流設(shè)計(jì)界面
• 針對常見用例的預(yù)配置 RAG 管道
• 與流行的矢量數(shù)據(jù)庫集成
• 支持自定義嵌入模型

RAGFlow 的用戶友好型方法使其成為開發(fā)人員的一個極具吸引力的選擇，這些開發(fā)人員希望快速創(chuàng)建和部署 RAG 應(yīng)用程序原型，而無需深入研究底層的復(fù)雜性。

https://github.com/infiniflow/ragflow

3. Txtai

GitHub Stars: 7.5k

圖片

txtai 是一個多功能的人工智能數(shù)據(jù)平臺，它超越了傳統(tǒng)的 RAG 框架。它為構(gòu)建語義搜索、語言模型工作流和文檔處理管道提供了一套全面的工具：

• 嵌入式數(shù)據(jù)庫，用于高效的相似性搜索
• 用于集成語言模型和其他人工智能服務(wù)的 API
• 用于自定義工作流的可擴(kuò)展架構(gòu)
• 支持多種語言和數(shù)據(jù)類型

txtai 的一體化方法使其成為那些希望在單一框架內(nèi)實(shí)現(xiàn)各種人工智能功能的企業(yè)的絕佳選擇。

https://github.com/neuml/txtai

4. STORM

GitHub星級：5千顆星

斯坦福開放源代碼 RAG 模型

STORM（斯坦福開源 RAG 模型）是斯坦福大學(xué)開發(fā)的面向研究的 RAG 框架。與其他一些框架相比，STORM 的星級可能較少，但其學(xué)術(shù)背景和對前沿技術(shù)的關(guān)注使其成為對 RAG 技術(shù)最新進(jìn)展感興趣的研究人員和開發(fā)人員的寶貴資源：

• 實(shí)施新穎的 RAG 算法和技術(shù)
• 注重提高檢索機(jī)制的準(zhǔn)確性和效率
• 與最先進(jìn)的語言模型集成
• 大量文件和研究論文

對于那些希望探索 RAG 技術(shù)前沿的人來說，STORM 提供了一個以嚴(yán)謹(jǐn)學(xué)術(shù)為后盾的堅(jiān)實(shí)基礎(chǔ)。

https://github.com/stanford-oval/storm

5. LLM-App

GitHub星級：3.4K

圖片

LLM-App 是用于構(gòu)建動態(tài) RAG 應(yīng)用程序的模板和工具集合。LLM-App 的主要功能包括：

• 可快速部署的即用型 Docker 容器
• 支持動態(tài)數(shù)據(jù)源和實(shí)時(shí)更新
• 與流行的 LLM 和矢量數(shù)據(jù)庫集成
• 針對各種 RAG 用例的可定制模板

LLM-App 對操作方面和實(shí)時(shí)功能的重視，使其成為希望部署生產(chǎn)就緒的 RAG 系統(tǒng)的企業(yè)的一個極具吸引力的選擇。

https://github.com/pathwaycom/llm-app

6. Cognita

GitHub星級：3K星級

圖片

Cognita 是 RAG 框架領(lǐng)域的新成員，專注于為構(gòu)建和部署人工智能應(yīng)用提供統(tǒng)一的平臺。雖然與其他一些框架相比，它的星級較低，但其全面的方法和對 MLOps 原則的強(qiáng)調(diào)使其值得考慮：

• 用于 RAG 應(yīng)用程序開發(fā)的端到端平臺
• 與流行的 ML 框架和工具集成
• 內(nèi)置監(jiān)控和可觀測功能
• 支持模型版本和實(shí)驗(yàn)跟蹤

對于希望簡化整個 ML 生命周期的企業(yè)來說，Cognita 的人工智能應(yīng)用開發(fā)整體方法使其成為一個令人信服的選擇。

https://github.com/truefoundry/cognita

7. R2R

GitHub星級：2.5K星級

圖片

R2R（Retrieval-to-Retrieval，檢索到檢索）是一個專門的 RAG 框架，其重點(diǎn)是通過迭代改進(jìn)來改善檢索過程。雖然它的星級可能較少，但其創(chuàng)新的檢索方法使其成為一個值得關(guān)注的框架：

• 實(shí)施新穎的檢索算法
• 支持多步驟檢索流程
• 與各種嵌入模型和向量存儲集成
• 分析和可視化檢索性能的工具

對于有興趣推動檢索技術(shù)發(fā)展的開發(fā)人員和研究人員來說，R2R 提供了一套獨(dú)特而強(qiáng)大的工具。

8.Neurite

GitHub星級：909星

神經(jīng)元（Neurite）

Neurite 是一個新興的 RAG 框架，旨在簡化構(gòu)建人工智能驅(qū)動的應(yīng)用程序的過程。雖然與其他一些框架相比，它的用戶群較小，但它注重開發(fā)者體驗(yàn)和快速原型開發(fā)，因此值得探索：

• 用于構(gòu)建 RAG 管道的直觀 API
• 支持多個數(shù)據(jù)源和嵌入模型
• 內(nèi)置緩存和優(yōu)化機(jī)制
• 自定義組件的可擴(kuò)展架構(gòu)

Neurite 強(qiáng)調(diào)簡單性和靈活性，這使其成為希望在應(yīng)用程序中快速實(shí)現(xiàn) RAG 功能的開發(fā)人員的一個極具吸引力的選擇。

https://github.com/satellitecomponent/Neurite

9. FlashRAG

GitHub星級：905星

中國人民大學(xué)自然語言處理與信息檢索實(shí)驗(yàn)室的 FlashRAG

FlashRAG 是由中國人民大學(xué)自然語言處理與信息檢索實(shí)驗(yàn)室開發(fā)的輕量級高效 RAG 框架。FlashRAG 的主要特點(diǎn)包括

• 優(yōu)化檢索算法，提高檢索速度
• 支持分布式處理和擴(kuò)展
• 與流行的語言模型和向量存儲集成
• 基準(zhǔn)測試和性能分析工具

對于速度和效率至關(guān)重要的應(yīng)用，F(xiàn)lashRAG 提供了一套專門的工具和優(yōu)化方案。

https://github.com/RUC-NLPIR/FlashRAG

10. Canopy

GitHub星級：923星

Canopy 是一個 RAG 框架，由以矢量數(shù)據(jù)庫技術(shù)著稱的 Pinecone 公司開發(fā)。它利用 Pinecone 在高效矢量搜索方面的專業(yè)知識，提供了一個功能強(qiáng)大、可擴(kuò)展的 RAG 解決方案：

• 與 Pinecone 的矢量數(shù)據(jù)庫緊密集成
• 支持流式和實(shí)時(shí)更新
• 先進(jìn)的查詢處理和重排能力
• 管理和版本化知識庫的工具

Canopy 注重可擴(kuò)展性和與 Pinecone 生態(tài)系統(tǒng)的集成，對于已經(jīng)使用或考慮使用 Pinecone 滿足矢量搜索需求的企業(yè)來說，Canopy 是一個極佳的選擇。

https://github.com/pinecone-io/canopy

寫在最后

RAG 框架的世界多種多樣，發(fā)展迅速，我們探討的十個框架都具有獨(dú)特的優(yōu)勢和功能。從全面、成熟的 Haystack 到 FlashRAG 和 R2R 等新興的專業(yè)框架，總有一款解決方案適合各種需求和用例：

• 項(xiàng)目的具體要求
• 你需要的定制化程度和靈活性
• 框架的可擴(kuò)展性和性能特點(diǎn)
• 圍繞框架的社區(qū)規(guī)模和活動
• 可用文檔和支持的質(zhì)量

通過仔細(xì)評估這些因素并嘗試使用不同的框架，你可以找到最適合你需求的 RAG 解決方案，幫助你構(gòu)建更智能、更能感知上下文的人工智能應(yīng)用程序。對于希望在其應(yīng)用程序和服務(wù)中利用人工智能力量的開發(fā)人員和組織機(jī)構(gòu)來說，隨時(shí)了解 RAG 技術(shù)的最新發(fā)展情況至關(guān)重要。