本文經(jīng)翻譯并二次整理自LangFriend: a Journal with Long-Term Memory一文。講述了LangChain在模型記憶功能方面進(jìn)行的一次深入的應(yīng)用實(shí)戰(zhàn)，并推出了具備記憶能力的日記應(yīng)用-LangFriend。

• 立即體驗(yàn)日記應(yīng)用https://journal.langchain.com/
• 申請(qǐng)開發(fā)者API訪問(wèn)https://forms.gle/j3Aaa2ibNpg5pC4q7

我們深信，記憶功能將是大型語(yǔ)言模型（LLM）系統(tǒng)中最具潛力的一部分。生成性AI的魅力在于它能即時(shí)創(chuàng)造獨(dú)特的內(nèi)容，這在個(gè)性化用戶體驗(yàn)方面展現(xiàn)出巨大潛力。這種個(gè)性化可以通過(guò)利用已有的用戶信息來(lái)實(shí)現(xiàn)，也可以通過(guò)記住用戶之前的互動(dòng)并從中學(xué)習(xí)來(lái)達(dá)成。

正是這種“記憶”功能，讓我們充滿探索的熱情。我們相信，隨著用戶與LLM之間互動(dòng)的增多，聊天機(jī)器人將成為L(zhǎng)LM應(yīng)用的主要形式。這意味著在這些對(duì)話中，將交換更多有價(jià)值的用戶信息，比如個(gè)人的喜好、朋友關(guān)系和目標(biāo)等。了解這些信息，并將它們?nèi)谌氲綉?yīng)用中，將極大地提升用戶體驗(yàn)。

在探索記憶的過(guò)程中，我們認(rèn)為通過(guò)一個(gè)具體的例子來(lái)激發(fā)我們的工作是非常有幫助的。我們選擇了日記應(yīng)用作為這個(gè)例子，并將其命名為“LangFriend”，今天正式向大家介紹。雖然它還只是一個(gè)初步的研究版本，但我們希望收集大家的反饋，找出優(yōu)點(diǎn)和改進(jìn)空間，最終將其開源。

在本文中，我們將討論一些關(guān)于記憶的學(xué)術(shù)研究，以及其他公司在這方面的創(chuàng)新工作。我們還將詳細(xì)介紹我們的日記應(yīng)用及其功能。如果你對(duì)記憶技術(shù)感興趣，歡迎聯(lián)系我們。

學(xué)術(shù)研究

我們發(fā)現(xiàn)了兩篇對(duì)我們的工作頗有啟發(fā)的學(xué)術(shù)論文。

首先是MemGPT。這項(xiàng)由加州大學(xué)伯克利分校的研究者們完成的研究表明，通過(guò)賦予LLM一些特定的功能，比如記憶特定事實(shí)和回憶相關(guān)內(nèi)容，可以增強(qiáng)其在長(zhǎng)對(duì)話和文檔分析等任務(wù)中的實(shí)用性。

大型語(yǔ)言模型（LLMs）已經(jīng)徹底改變了 AI，但受到有限上下文窗口的限制，阻礙了它們?cè)谙駭U(kuò)展對(duì)話和文檔分析這樣的任務(wù)中的實(shí)用性。為了在有限的上下文窗口之外使用上下文，我們提出了虛擬上下文管理，一種從傳統(tǒng)操作系統(tǒng)中的層次記憶系統(tǒng)獲取靈感的技術(shù)，它通過(guò)在物理內(nèi)存和磁盤之間分頁(yè)提供擴(kuò)展虛擬內(nèi)存的幻覺。使用這種技術(shù)，我們引入了 MemGPT（MemoryGPT），一個(gè)系統(tǒng)，它智能地管理不同的存儲(chǔ)層次，以有效地在 LLM 的有限上下文窗口內(nèi)提供擴(kuò)展上下文。

其次是Generative Agents。。斯坦福大學(xué)的研究者們通過(guò)反思經(jīng)驗(yàn)來(lái)形成記憶，并將這些記憶存儲(chǔ)起來(lái)，以便在需要時(shí)程序性地檢索。

我們通過(guò)消融展示了我們代理架構(gòu)的組成部分——觀察、規(guī)劃和反思——每一個(gè)都對(duì)代理行為的可信度做出了關(guān)鍵貢獻(xiàn)。通過(guò)將大型語(yǔ)言模型與計(jì)算交互代理融合，這項(xiàng)工作引入了架構(gòu)和交互模式，以實(shí)現(xiàn)人類行為的可信模擬。

這兩篇論文展示了LLM在主動(dòng)使用記憶和作為背景過(guò)程兩種不同方式的應(yīng)用。

業(yè)界動(dòng)態(tài)

一些公司在記憶技術(shù)上取得了顯著進(jìn)展。

Plastic Labs 正在開發(fā)像  TutorGPT  這樣的項(xiàng)目，這是一個(gè)動(dòng)態(tài)的、以心智理論為基礎(chǔ)的教學(xué)輔助工具。

Good AI 最近開源了一個(gè)帶有長(zhǎng)期記憶功能的聊天助手Charlie。這個(gè)助手不僅能夠記住用戶的交互，還能在必要時(shí)檢索和整合這些記憶，以提供更加個(gè)性化的服務(wù)。

乍一看，Charlie 可能與現(xiàn)有的 LLM 代理如 ChatGPT、Claude 和 Gemini 類似。然而，其獨(dú)特的特點(diǎn)是實(shí)現(xiàn)了 LTM，使其能夠 從每次交互中學(xué)習(xí)。這包括 將用戶消息、助手回應(yīng)和環(huán)境反饋存儲(chǔ)和整合到 LTM 中，以便在與手頭任務(wù)相關(guān)時(shí)檢索。

OpenAI 也在其 ChatGPT 中加入了記憶功能，進(jìn)一步提升了用戶體驗(yàn)。

這些公司的做法展示了記憶功能可以是LLM主動(dòng)調(diào)用的一部分，也可以是自動(dòng)運(yùn)行的背景過(guò)程。

為何選擇日記應(yīng)用？

我們?cè)趯ふ乙粋€(gè)適合測(cè)試長(zhǎng)期記憶用例時(shí)，立刻想到了日記應(yīng)用。我們認(rèn)為，與普通聊天應(yīng)用相比，日記中的互動(dòng)包含更多值得記憶的信息。

在普通聊天應(yīng)用中，可能充斥著許多無(wú)關(guān)緊要的交流，比如“嘿！”、“嗨”、“怎么樣？”等。而在日記的環(huán)境中，人們更快地分享真實(shí)而深刻的感受和見解。

盡管如此，我們還是為這個(gè)應(yīng)用添加了聊天功能。這主要是為了展示我們的應(yīng)用能夠?qū)W習(xí)和記住用戶的信息，并利用這些信息為用戶提供個(gè)性化的回應(yīng)。

在這里，你可以看到應(yīng)用記住了我喜歡意大利菜，以及我在鍛煉后感到精神煥發(fā)的信息。

應(yīng)用界面截圖

當(dāng)你發(fā)表了第一篇日記并與我們的助手進(jìn)行交流后，你會(huì)在導(dǎo)航欄中看到一個(gè)“記憶”按鈕。點(diǎn)擊它，你將看到我們從你的日記中提取的所有重要記憶。

記憶列表界面截圖

你會(huì)注意到，這個(gè)列表并不長(zhǎng)，只包含了最重要的事實(shí)。實(shí)際上，我們?cè)诤笈_(tái)從你的日記中提取了更多的信息，并且你可以搜索所有的記憶！

開始在“搜索記憶...”輸入框中輸入關(guān)鍵詞，你將實(shí)時(shí)看到LangFriend為你保存的各種事實(shí)：

搜索記憶界面截圖

個(gè)性化設(shè)置

我們希望LangFriend能夠吸引各種用戶。因此，我們?cè)试S用戶自定義系統(tǒng)消息，這是與我們的助手進(jìn)行所有聊天的前綴和基調(diào)。我們提供了一個(gè)默認(rèn)設(shè)置，但如果你想要一些不同的東西，你可以根據(jù)自己的喜好進(jìn)行調(diào)整。

找到系統(tǒng)提示，訪問(wèn)“日志”頁(yè)面并點(diǎn)擊“配置”按鈕進(jìn)行更改。這里會(huì)彈出一個(gè)對(duì)話框，你可以在這里編輯你的系統(tǒng)提示。

配置界面截圖

所有更改都將在會(huì)話之間保留，并將成為你未來(lái)所有聊天對(duì)話的前綴。

總結(jié)

LangFriend是一個(gè)充滿潛力的研究預(yù)覽版，它展示了將長(zhǎng)期記憶整合到LLM應(yīng)用中的巨大潛力。通過(guò)專注于日記應(yīng)用，我們旨在捕獲用戶的有意義信息，提供個(gè)性化的回應(yīng)，從而增強(qiáng)用戶體驗(yàn)。受到學(xué)術(shù)研究和業(yè)界創(chuàng)新的啟發(fā)，LangFriend證明了記憶可以被積極地使用，也可以作為背景過(guò)程整合進(jìn)來(lái)，創(chuàng)造出引人入勝、能夠適應(yīng)用戶需求的交互體驗(yàn)。我們很興奮地邀請(qǐng)社區(qū)來(lái)體驗(yàn)LangFriend，提供反饋，并與我們一起推動(dòng)LLM應(yīng)用中記憶技術(shù)的邊界，釋放生成性AI的全部潛力，為用戶帶來(lái)更強(qiáng)大、更個(gè)性化、更有意義的體驗(yàn)。