Multi-Meta-RAG：langchain點名，評論爆吹的新研究
嘿，大家好！這里是一個專注于AI智能體的頻道！
今天來聊聊一篇挺有意思的論文，被langchain官方點名，很多評論推薦的文章！
Multi-Meta-RAG: Improving RAG for Multi-Hop Queries using Database Filtering with LLM-Extracted Metadata
檢索增強(qiáng)生成 （RAG） 支持從外部知識源檢索相關(guān)信息，并允許大型語言模型 （LLM） 回答對以前看不見的文檔集合的查詢。然而，研究表明，傳統(tǒng)的 RAG 應(yīng)用程序在回答多跳問題方面表現(xiàn)不佳，這些問題需要檢索和推理支持證據(jù)的多個元素。我們引入了一種稱為 Multi-Meta-RAG 的新方法，該方法使用數(shù)據(jù)庫過濾和 LLM 提取的元數(shù)據(jù)來改進(jìn) RAG 從各種來源中選擇與問題相關(guān)的相關(guān)文檔。雖然數(shù)據(jù)庫過濾特定于來自特定領(lǐng)域和格式的一組問題，但我們發(fā)現(xiàn) Multi-Meta-RAG 極大地改善了 MultiHop-RAG 基準(zhǔn)測試的結(jié)果。代碼開源地址https://github.com/mxpoliakov/Multi-Meta-RAG
介紹內(nèi)容之前，必須得先說下，啥是多跳問題呢？簡單來說，就是那些需要從多個信息源中提取并推理出答案的問題。傳統(tǒng)的RAG技術(shù)在這方面表現(xiàn)得不太好，因為它很難從多個文檔中找到正確的信息片段，單一的向量很難召回出差異較大的信息源。
為了解決這個問題，兩位研究者提出了Multi-MetaRAG方法。這個方法的核心是使用數(shù)據(jù)庫過濾和LLM提取的元數(shù)據(jù)來提高文檔選擇的相關(guān)性。具體來說，就是先用一個輔助的LLM來分析問題，提取出問題中的關(guān)鍵信息，比如新聞來源或者發(fā)布日期，然后用這些信息作為過濾條件，去數(shù)據(jù)庫里找到最相關(guān)的文檔片段。
使用的few-shot prompt中的few-shot示例如下：
論文中使用了一個叫做MultiHop-RAG的基準(zhǔn)測試數(shù)據(jù)集，這個數(shù)據(jù)集包含了很多多跳查詢的例子。研究者們用這個數(shù)據(jù)集來測試他們的Multi-MetaRAG方法，結(jié)果發(fā)現(xiàn)，無論是在文檔片段的檢索上，還是在LLM生成答案的準(zhǔn)確性上，都有了顯著的提升。
舉個例子，如果有人問：“Engadget在The Verge之前報道了13.6英寸MacBook Air的折扣嗎？”傳統(tǒng)的RAG可能會找錯信息源，給出錯誤的答案。但Multi-MetaRAG通過過濾，確保了只從Engadget和The Verge這兩個來源中檢索信息，從而提高了回答的準(zhǔn)確性。
最后，作者也指出了這個方法的一些局限性，比如它需要特定領(lǐng)域和格式的問題集，還需要額外的推理時間來提取元數(shù)據(jù)。不過，盡管有這些限制，Multi-MetaRAG還是一個簡單易懂、效果顯著的方法。
本文轉(zhuǎn)載自 ??探索AGI??，作者： 獼猴桃
