大型語言模型 (LLMs) 在固定數(shù)據(jù)集上進行訓(xùn)練，其知識在最后一次訓(xùn)練更新時就已固定。

ChatGPT 的常規(guī)用戶可能已經(jīng)注意到其眾所周知的局限性：“訓(xùn)練數(shù)據(jù)截止到 2021 年 9 月”。

這種局限性會導(dǎo)致模型產(chǎn)生不準(zhǔn)確或過時的響應(yīng)，因為它們會“幻覺”信息。

在不重新訓(xùn)練或微調(diào)的情況下，用新信息更新模型或增強其上下文理解能力，在資源和人力方面都極具挑戰(zhàn)。

檢索增強生成 (RAG)

檢索增強生成 (簡稱 RAG) 是一種通過整合來自外部可靠知識庫的信息來改進大型語言模型 (LLMs) 的技術(shù)。

RAG 背后的原理很簡單：當(dāng) LLM 被問到一個問題時，它不會僅僅依賴于自己已有的知識。

相反，它會首先從指定的知識源中查找相關(guān)信息。

這種方法確保了生成的輸出引用了大量語境豐富的數(shù)據(jù)，并通過最新的相關(guān)信息進行增強。

RAG 主要通過兩個階段的流程來運作：檢索和內(nèi)容生成。

檢索階段

在檢索階段，算法會定位并收集與用戶提示或查詢相關(guān)的相關(guān)信息片段。

例如，如果你想搜索福建面食的食譜，你的提示可能是“_福建面食的配料是什么？_”

系統(tǒng)會識別出與查詢語義相關(guān)的文檔，并使用相似度度量來計算其相關(guān)性，通常使用余弦相似度( Is Cosine-Similarity of Embeddings Really About Similarity?) 來進行計算。

在收集外部知識后，它會將其附加到用戶的提示中，并將其作為增強后的輸入發(fā)送到語言模型。

內(nèi)容生成階段

在隨后的生成階段，LLM 將此增強后的提示與其自身的訓(xùn)練數(shù)據(jù)表示相結(jié)合，以生成一個針對用戶查詢的定制化響應(yīng)。

該響應(yīng)提供了一種個性化和可驗證信息，適合通過聊天機器人等應(yīng)用程序使用。

檢索增強生成

RAG 的重要性

在當(dāng)今的技術(shù)領(lǐng)域，LLMs 驅(qū)動著 眾多 自然 語言 應(yīng)用程序 ，能夠理解或生成類似人類的文本。

雖然這些模型功能強大，但有時也會出現(xiàn)不足。

有時，它們在生成不正確的響應(yīng)時會過于自信，以至于人們很容易被它們極具說服力的論據(jù)所影響。

RAG 試圖通過引導(dǎo) LLM 從可信來源獲取信息來緩解這些問題，從而保持模型輸出的相關(guān)性和準(zhǔn)確性。

RAG 的局限性

就像生活中的所有事物一樣，傳統(tǒng)的 RAG 方法也有其復(fù)雜性和挑戰(zhàn)。

雖然 RAG 在增強 LLMs 的功能方面具有開創(chuàng)性，但它也存在一些局限性，這些局限性會影響其有效性和適用性。

其中一個主要挑戰(zhàn)涉及檢索信息的準(zhǔn)確性和數(shù)據(jù)源異質(zhì)性。

為了使 RAG 有效，它通常依賴于多個外部來源，這些來源可能具有不同的格式、標(biāo)準(zhǔn)和可靠性級別。(例如 PDF、平面文件、Markdown、CSV、Web 內(nèi)容等)

RAG 實現(xiàn)也遇到了一些困難，例如處理含糊的查詢或需要深入理解上下文的查詢。

這些問題是技術(shù)設(shè)計固有的問題，主要源于檢索過程，檢索過程有時會忽略產(chǎn)生精確響應(yīng)所需的細(xì)微差別。

上下文很重要，一個恰當(dāng)?shù)亩禾栆彩侨绱?/p>

RAG 的改進

提高 RAG 系統(tǒng)的檢索準(zhǔn)確率和效率是自然語言處理和機器學(xué)習(xí)領(lǐng)域持續(xù)進行的研究方向。

為了實現(xiàn)這些改進，可以采取多種策略，但我想要重點介紹兩種在當(dāng)今技術(shù)條件下可以實現(xiàn)的顯著改進。

1. 實施更復(fù)雜的檢索算法，能夠更好地理解查詢的語義，可以提高檢索到的文檔的相關(guān)性。
2. 有效地索引知識庫，以加快檢索過程，而不犧牲結(jié)果的質(zhì)量。

這將我們引向…

圖 RAG：RAG x 知識圖譜

圖 RAG 在 RAG 的概念基礎(chǔ)上，利用了知識圖譜 (KGs)。

這種創(chuàng)新方法是由 NebulaGraph 首創(chuàng)的概念，它通過整合圖數(shù)據(jù)庫，改變了 LLMs 解釋和響應(yīng)查詢的方式。

圖 RAG 通過將 KGs 中的結(jié)構(gòu)化數(shù)據(jù)整合到 LLM 的處理中，為模型的響應(yīng)提供了更細(xì)致入微和信息豐富的基礎(chǔ)。

KGs 是對現(xiàn)實世界實體及其關(guān)系的結(jié)構(gòu)化表示。

它們包含兩個主要部分：_節(jié)點_和_邊_。

節(jié)點代表單個實體，例如_人物_、_地點_、_物體_或_概念_。

另一方面，邊代表這些節(jié)點之間的關(guān)系，表明它們是如何相互連接的。

一個簡單的知識圖譜

這種結(jié)構(gòu)極大地提高了 LLMs 生成有見地的響應(yīng)的能力，因為它使模型能夠訪問精確且與上下文相關(guān)的數(shù)據(jù)。

圖 RAG 的創(chuàng)新之處在于它將圖數(shù)據(jù)庫與 LLMs 整合，以在生成響應(yīng)之前豐富模型的上下文。

一些流行的圖數(shù)據(jù)庫產(chǎn)品包括 Ontotext, NebulaGraph 和 Neo4J。

圖 RAG 的重要意義

隨著 LLMs 繼續(xù)在復(fù)雜性和能力方面不斷發(fā)展，圖 RAG 有可能對 AI 領(lǐng)域產(chǎn)生重大影響。

以下是我對這種整合如何演變的展望：

1. 未來 LLMs 預(yù)計將表現(xiàn)出對復(fù)雜查詢的改進理解能力和推理能力。

圖 RAG 可以利用這些進步來提供更精確、更富含上下文的答案。

來自知識圖譜的結(jié)構(gòu)化知識，再加上更復(fù)雜的 LLMs，可能會導(dǎo)致 AI 在理解抽象概念、推理以及生成細(xì)致入微的響應(yīng)方面取得突破。

2. 隨著 LLMs 的持續(xù)進步，它們與知識圖譜的整合可能會變得更加動態(tài)和無縫。

這可能包括根據(jù)全球事件或發(fā)現(xiàn)實時更新 KGs。

LLMs 可以通過將從用戶交互或其他數(shù)據(jù)源收集的新信息整合到知識圖譜中，在自動增強和更新知識圖譜方面發(fā)揮作用。

使用諸如來自人類反饋的強化學(xué)習(xí) (RLHF) 和來自 AI 反饋的強化學(xué)習(xí) (RLAIF) 等技術(shù)可以進一步幫助模型與人類偏好保持一致，并遵守 HHH (不是摔跤手，而是幫助、誠實、無害) 原則。

3. 隨著英偉達努力實現(xiàn) AI 計算的民主化，未來 LLMs 和圖 RAG 實現(xiàn)的進步將集中在提高計算效率和可擴展性方面。

這種轉(zhuǎn)變將使圖 RAG 能夠應(yīng)用于更廣泛的應(yīng)用程序，包括那些需要實時響應(yīng)或在資源有限的環(huán)境中運行的應(yīng)用程序。

4. 未來 LLMs 預(yù)計將在多個領(lǐng)域擁有更廣泛、更深入的知識。圖 RAG 可以促進跨不同領(lǐng)域的知識轉(zhuǎn)移，這將使生成從不同領(lǐng)域獲取信息的見解或解決方案成為可能。

例如，應(yīng)用認(rèn)知科學(xué)的發(fā)現(xiàn)可能會導(dǎo)致開發(fā)更自然的人機交互模型，或者將網(wǎng)絡(luò)安全與心理學(xué)相結(jié)合可能會提高安全措施的有效性。

5. 隨著圖 RAG 技術(shù)的發(fā)展，采用諸如資源描述框架 (RDF) 等知識圖譜標(biāo)準(zhǔn)可以提高各種系統(tǒng)之間的互操作性。

這可能意味著不同的實現(xiàn)可以相互交互和協(xié)作，從而推動更廣泛的采用和創(chuàng)新。

圖 RAG 演示

在本演示中，我們將使用 Govtech 的開發(fā)者門戶網(wǎng)站 中的產(chǎn)品信息作為我們的知識庫。

數(shù)據(jù)集示例。我們將很快將其轉(zhuǎn)換為可用的格式。

1. 設(shè)置

• 使用Neo4j Desktop啟動一個 Neo4j 本地實例

Neo4j Desktop 界面

• 使用 LangChain 本地連接到 Neo4j 數(shù)據(jù)庫。好消息是 LangChain 有一個現(xiàn)成的模板可以輕松設(shè)置。

2. 提取

• 使用提示工程和 LLM 提取信息、節(jié)點及其連接。以下是一個提示示例：

\# 創(chuàng)建知識圖譜的說明  
\## 概述  
您被設(shè)計用于將數(shù)據(jù)組織成知識圖譜。  
\- \*\*節(jié)點\*\*: 代表實體和想法。  
\- 目標(biāo)是確保知識圖譜簡單易懂，便于廣泛使用。\## 節(jié)點標(biāo)記  
\- \*\*一致性\*\*: 對節(jié)點使用簡單的標(biāo)簽。例如，將任何組織實體標(biāo)記為“公司”，而不是使用諸如“Facebook”或“Amazon”之類的術(shù)語。  
\- \*\*節(jié)點標(biāo)識符\*\*: 選擇文本或可理解的標(biāo)識符，而不是數(shù)字標(biāo)識符。  
  - \*\*允許的節(jié)點標(biāo)簽\*\*: 如果存在特定允許的節(jié)點標(biāo)簽，請在此處列出。  
  - \*\*允許的關(guān)系類型\*\*: 如果存在特定允許的關(guān)系類型，請在此處列出。

\## 管理數(shù)值數(shù)據(jù)和日期  
\- 將數(shù)值信息直接作為節(jié)點的屬性集成。  
\- \*\*集成日期/數(shù)字\*\*: 不要為日期或數(shù)字創(chuàng)建單獨的節(jié)點，而是將它們作為屬性附加。  
\- \*\*屬性格式\*\*: 使用鍵值對格式。  
\- \*\*避免使用引號\*\*: 在屬性值中不要使用轉(zhuǎn)義引號。  
\- \*\*鍵命名\*\*: 采用 camelCase 命名鍵，例如 \`dateTime\`。

\## 一致性  
\- \*\*實體一致性\*\*: 確?？绮煌峒盎蛞玫膶嶓w一致地識別。

## 遵守指南  
嚴(yán)格遵守這些說明是強制性的。不遵守將導(dǎo)致終止。

3. 圖譜構(gòu)建

• 使用 CSVLoader 和文檔分段來處理我們的文檔
• 將提取的信息映射到圖節(jié)點和關(guān)系
• 通過我們的提取管道處理文檔，并將信息存儲在 Neo4j 中

該過程花費了近一個小時，最終產(chǎn)生了提取的節(jié)點標(biāo)簽列表

• 不幸的是，并非所有節(jié)點標(biāo)簽都對我們的上下文有用，或者符合我們的需求。

{  
  "identity": 1040,  
  "labels": \[  
    "Feedbackstatus"  
  \],  
  "properties": {  
    "id": "Feedback-Success",  
    "message": "已發(fā)送。感謝您的反饋！”  
  },  
  "elementId": "4:81cd2613-0f18-49c1-8134-761643e88b7a:1040"  
},  
{  
  "identity": 1582,  
  "labels": \[  
    "Feedbackstatus"  
  \],  
  "properties": {  
    "id": "Feedbacksuccess",  
    "status": "已發(fā)送。感謝您的反饋！”  
  },  
  "elementId": "4:81cd2613-0f18-49c1-8134-761643e88b7a:1582"  
},  
{  
  "identity": 1405,  
  "labels": \[  
    "Header"  
  \],  
  "properties": {  
    "id": "Modalcardhead",  
    "class": "sgds-modal-card-head"  
  },  
  "elementId": "4:81cd2613-0f18-49c1-8134-761643e88b7a:1405"  
},  
{  
  "identity": 1112,  
  "labels": \[  
    "Feedbackindicator"  
  \],  
  "properties": {  
    "id": "Feedbacksuccess",  
    "title": "check",  
    "message": "已發(fā)送。感謝您的反饋！”  
  },  
  "elementId": "4:81cd2613-0f18-49c1-8134-761643e88b7a:1112"  
...

4. 評估和細(xì)化

• 我們將指定 LLM 應(yīng)該提取哪些節(jié)點標(biāo)簽來細(xì)化我們的方法

permissible\_nodes\_to\_extract = \[  
    "Aisubfield",  
    "Application",  
    "Cloudservice",  
    "Concept",  
    "Digitalsolution",  
    "Division",  
    "Entity",  
    "Feature",  
    "Fundinginitiative",  
    "Initiative",  
    "Link",  
    "Location",  
    "Organization",  
    "Person",  
    "Platform",  
    "Policy",  
    "Program"  
    "Resource",  
    "Role",  
    "Schema",  
    "Service",  
    "Standard",  
    "Technology",  
    "Technologyplatform",  
    "Technologystack",  
    "Webframework",  
    "Webresource",  
    "Website"  
\]

• 使用 Neo4j 瀏覽器瀏覽我們新構(gòu)建的知識圖譜

好多了！

• 持續(xù)細(xì)化我們的提取和圖譜構(gòu)建方法

經(jīng)過所有努力，魔法終于開始了！

考慮以下查詢：

Q: “請告訴我更多關(guān)于 AiSay 的信息，誰開發(fā)了這款產(chǎn)品，以及它的優(yōu)勢和應(yīng)用。另外，請告訴我 AiSay 的獨特之處?！?/strong>

基礎(chǔ) RAG: “AiSay 是一款由新加坡政府開發(fā)的 AI 驅(qū)動的文檔閱讀器。它可以自動檢測、掃描和理解各種類型的文檔，包括手寫筆記、印刷文章、多語言文本以及結(jié)構(gòu)化/非結(jié)構(gòu)化文檔。與傳統(tǒng)的 OCR 系統(tǒng)不同，AiSay 可以為圖像和 PDF 文件等文檔提供結(jié)構(gòu)化的響應(yīng)。它使用 OCR、文檔問答技術(shù)和大型語言模型來推導(dǎo)出上下文并回答查詢。AiSay 可擴展，具有同步和異步調(diào)用選項，允許處理大型文件。它在云上托管為無服務(wù)器，使其在體積上可擴展，能夠處理大型文件。AiSay 正在積極開發(fā)中，支持安全性和數(shù)據(jù)分類，最高可達 RESTRICTED/SENSITIVE NORMAL。展望未來，將支持更多文檔類型。AiSay 的獨特功能包括它能夠為各種文檔類型提供結(jié)構(gòu)化的響應(yīng)，其可擴展性和對安全性和數(shù)據(jù)分類的支持?！?/p>

圖 RAG: “AiSay 是一款由新加坡政府開發(fā)的 AI 驅(qū)動的文檔閱讀器。它是一個文檔解析器，可以提供結(jié)構(gòu)化的響應(yīng)，提取和整合來自各種文檔的信息到現(xiàn)有系統(tǒng)中。AiSay 可以自動檢測、掃描和理解各種類型的文檔，包括手寫筆記、印刷文章、多語言文本以及結(jié)構(gòu)化/非結(jié)構(gòu)化文檔。與傳統(tǒng)的光學(xué)字符識別 (OCR) 系統(tǒng)不同，AiSay 可以為圖像 (JPEG、PNG、TFIF) 和 PDF 文件等文檔提供結(jié)構(gòu)化的響應(yīng)。

AiSay 的一些主要優(yōu)勢包括：

1. 由于自動填寫從文檔上傳中獲取的關(guān)鍵數(shù)據(jù)以進行表單提交，從而減少了人工錯誤并提高了數(shù)據(jù)準(zhǔn)確性。
2. 提高了數(shù)字服務(wù)體驗，因為一旦文檔上傳，AiSay 可以自動填寫關(guān)鍵數(shù)據(jù)。

AiSay 在為各種文檔類型提供結(jié)構(gòu)化響應(yīng)方面獨樹一幟，支持多種格式和語言。它還為每個任務(wù)提供置信度得分，以確定是否需要額外支持，從而在置信度高的任務(wù)中實現(xiàn)最少的人工干預(yù)。此外，AiSay 可擴展，因為它在云上托管為無服務(wù)器，使其能夠處理大型文件和異步提取過程?！?/p>

圖 RAG 與基礎(chǔ) RAG 的比較

在本例中，圖 RAG 與傳統(tǒng) RAG 方法相比的優(yōu)勢顯而易見。

該響應(yīng)不僅證明了準(zhǔn)確性，而且還豐富了上下文和關(guān)系，提供了一種標(biāo)準(zhǔn) RAG 方法所沒有的深度。

圖 RAG 的秘密在于它能夠分析用戶的查詢，在圖數(shù)據(jù)庫中確定相關(guān)數(shù)據(jù)，并將這種上下文洞察整合到引導(dǎo) LLM 響應(yīng)的過程中。

這種方法利用了一個傳統(tǒng)方法可能錯過的相互關(guān)聯(lián)的信息網(wǎng)絡(luò)，從而對查詢有了更細(xì)致入微的理解。

讓我們再嘗試幾個例子

Q: “我需要從一些文檔中刪除敏感信息。Govtech 提供哪些具有這些功能的產(chǎn)品？”

基礎(chǔ) RAG: “Govtech 提供 Cloak 和 FileSG 這兩種產(chǎn)品，它們具有幫助從文檔中刪除敏感信息的功能?！?/p>

圖 RAG: “GovTech 提供一款名為 Cloak 的產(chǎn)品，它是一個用于符合政策的數(shù)據(jù)匿名化的中央隱私工具包。該產(chǎn)品幫助公務(wù)員將數(shù)據(jù)匿名化技術(shù)應(yīng)用于數(shù)據(jù)集，并根據(jù)指南審查重新識別風(fēng)險?！?/p>

我們需要解決你頻繁的操控行為

Q: “DIAB 與 SIaC 有什么不同？”

基礎(chǔ) RAG: “提供的文檔沒有直接比較數(shù)據(jù)基礎(chǔ)設(shè)施一體化 (DIAB) 與任何名為 SIaC 的東西，也沒有提及 SIaC。因此，根據(jù)給定的上下文，無法直接概述 DIAB 和 SIaC 之間的差異。但是，我們可以總結(jié) DIAB 的關(guān)鍵方面如下：

1. **目的和開發(fā)**: DIAB 由 GovTech 的數(shù)據(jù)科學(xué)與人工智能部門 (DSAID) 開發(fā)，旨在作為商業(yè)云政府 (GCC) 上數(shù)據(jù)基礎(chǔ)設(shè)施部署和維護的加速器。它專門設(shè)計用于幫助政府機構(gòu)構(gòu)建、部署和保護數(shù)據(jù)基礎(chǔ)設(shè)施。
2. **關(guān)注數(shù)據(jù)基礎(chǔ)設(shè)施**: DIAB 強調(diào)構(gòu)建一致且可擴展的數(shù)據(jù)基礎(chǔ)設(shè)施，使機構(gòu)在設(shè)計和實施云基礎(chǔ)設(shè)施時可以節(jié)省時間并減少開銷。這種關(guān)注使機構(gòu)能夠更專注于構(gòu)建應(yīng)用程序?qū)印?/li>
3. **使用基礎(chǔ)設(shè)施即代碼 (IaC)**: DIAB 利用 IaC 模板和參考架構(gòu)來幫助進行數(shù)據(jù)工程方面的考慮，簡化設(shè)置和管理數(shù)據(jù)基礎(chǔ)設(shè)施的過程。

由于沒有關(guān)于 SIaC 的信息，因此無法進行比較。DIAB 的特點突出了其作為政府機構(gòu)在云中有效部署和管理數(shù)據(jù)基礎(chǔ)設(shè)施的工具的作用，它利用 IaC 來提高效率和可擴展性。”

圖 RAG: “DIAB (數(shù)據(jù)基礎(chǔ)設(shè)施一體化) 和 SIaC (安全基礎(chǔ)設(shè)施即代碼) 都是旨在為政府機構(gòu)簡化云基礎(chǔ)設(shè)施部署的產(chǎn)品。但是，它們在具體關(guān)注點和功能方面有所不同。

DIAB 作為商業(yè)云政府 (GCC) 上數(shù)據(jù)基礎(chǔ)設(shè)施部署和維護的加速器。它幫助機構(gòu)構(gòu)建、部署和保護數(shù)據(jù)基礎(chǔ)設(shè)施，專注于數(shù)據(jù)工程方面的考慮，并提供基礎(chǔ)設(shè)施即代碼 (IaC) 模板。DIAB 的目標(biāo)是幫助機構(gòu)構(gòu)建一致且可擴展的數(shù)據(jù)基礎(chǔ)設(shè)施，其主要優(yōu)勢包括易用性、提高效率、內(nèi)置合規(guī)性、部署靈活性和未來證明。

另一方面，SIaC 提供可定制的模板，用于以安全、合規(guī)和自動化的方式部署云基礎(chǔ)設(shè)施。它專注于安全配置來自云服務(wù)提供商的托管服務(wù)和工具，具有模塊化且易于適應(yīng)的模板。SIaC 的關(guān)鍵功能包括遵守新加坡政府標(biāo)準(zhǔn)、針對不同用例的模塊化、與 SGTS 組件的集成以及云原生設(shè)計。

總而言之，雖然 DIAB 和 SIaC 都旨在為政府機構(gòu)簡化云基礎(chǔ)設(shè)施部署，但 DIAB 專注于數(shù)據(jù)基礎(chǔ)設(shè)施部署，重點關(guān)注數(shù)據(jù)工程方面的考慮和 IaC 模板，而 SIaC 專注于安全且合規(guī)的云基礎(chǔ)設(shè)施部署，具有可定制的模板和模塊化設(shè)計。”

結(jié)論

從傳統(tǒng)的檢索增強生成 (RAG) 向圖 RAG 的轉(zhuǎn)變，代表了我們與大型語言模型 (LLMs) 交互方式的重要進步。

這種轉(zhuǎn)變解決了以下基本挑戰(zhàn)：_如何提高 LLMs 提供與上下文相關(guān)的準(zhǔn)確答案以應(yīng)對復(fù)雜查詢的能力_。

當(dāng)比較這兩種方法時，圖 RAG 在處理與上下文相關(guān)的復(fù)雜查詢方面的優(yōu)勢變得顯而易見。

傳統(tǒng)的 RAG 技術(shù)往往無法處理與上下文相關(guān)的復(fù)雜問題。

相比之下，圖 RAG 利用了更復(fù)雜的數(shù)據(jù)網(wǎng)絡(luò)，提供能捕捉到查詢細(xì)微之處更深刻理解的響應(yīng)。

然而，圖 RAG 的有效性并非一種一刀切的解決方案。

它仍然高度依賴于底層 KGs 的質(zhì)量、深度和廣度。

在 KG 有限或偏向特定領(lǐng)域的場景中，圖 RAG 的性能可能無法超過傳統(tǒng) RAG 方法。

盡管如此，這種轉(zhuǎn)變有望導(dǎo)致 AI 系統(tǒng)更好地模仿人類的思維和發(fā)現(xiàn)。

本文轉(zhuǎn)載自 ??DevOpsAI??，作者： GraphRAG