隨著生成式人工智能（GenAI）的迅猛發(fā)展，基于大模型的應(yīng)用已經(jīng)悄然融入我們的日常工作和生活，它們在眾多領(lǐng)域顯著提升了生產(chǎn)力和工作效率。為了更便捷地構(gòu)建這些基于大模型的應(yīng)用程序，開源社區(qū)和產(chǎn)品開發(fā)者們正以前所未有的速度推進(jìn)創(chuàng)新。

在這些創(chuàng)新中，面向智能體（Agent）的應(yīng)用，即所謂的 Agentic AI，已經(jīng)嶄露頭角，成為近年來生成式 AI 系統(tǒng)中最具潛力的領(lǐng)域。眾多構(gòu)建智能體應(yīng)用的框架如雨后春筍般涌現(xiàn)，為開發(fā)者提供了強(qiáng)大的工具和平臺(tái)。接下來，我們將重點(diǎn)介紹 10 個(gè)具有代表性的 Agent 應(yīng)用構(gòu)建框架，并對(duì)其他常見框架進(jìn)行簡要概述，以期為大家提供一個(gè)相對(duì)全面的視角，了解這一領(lǐng)域的現(xiàn)狀和潛在趨勢。

1、LangChain

LangChain 是當(dāng)前最受歡迎的大模型應(yīng)用開發(fā)框架之一，幾乎已成為構(gòu)建大模型應(yīng)用的行業(yè)標(biāo)準(zhǔn)。它在 GitHub 上獲得了超過 10 萬顆星，吸引了超過 100 萬開發(fā)者參與，形成了一個(gè)龐大且活躍的社區(qū)。這個(gè)社區(qū)不僅提供了豐富的知識(shí)共享，還推動(dòng)了 LangChain 的快速發(fā)展。

LangChain 提供了全面的功能支持，包括與各種供應(yīng)商的集成、云服務(wù)支持、第三方庫的兼容性，以及多種向量數(shù)據(jù)庫的選擇，這些特性使其成為開發(fā)者構(gòu)建大模型應(yīng)用的首選工具。LangChain 是企業(yè)構(gòu)建 GenAI 應(yīng)用程序的理想選擇，它提供了基礎(chǔ)構(gòu)建模塊，幫助企業(yè)快速搭建定制化的 AI 框架。由于 LangChain 的廣泛采用和強(qiáng)大的兼容性，它特別適合需要與第三方供應(yīng)商或服務(wù)集成的場景。無論是云服務(wù)、數(shù)據(jù)源，還是其他 AI 工具，LangChain 都能提供前瞻性的支持，確保企業(yè)能夠靈活應(yīng)對(duì)未來的技術(shù)變化。

然而，LangChain 的強(qiáng)大功能也帶來了一定的復(fù)雜性。它的學(xué)習(xí)曲線相對(duì)陡峭，尤其是對(duì)于新手開發(fā)者來說，可能需要花費(fèi)更多時(shí)間來掌握其豐富的集成選項(xiàng)和代碼結(jié)構(gòu)。此外，LangChain 的快速迭代和功能更新要求開發(fā)者不斷跟進(jìn)，這可能會(huì)導(dǎo)致代碼維護(hù)的挑戰(zhàn)，比如遇到破壞性更新或庫不兼容的問題。

盡管如此，LangChain 的影響力已經(jīng)超越了 Python 社區(qū)，激發(fā)了其他編程語言的開發(fā)者構(gòu)建類似的框架。例如，Java 開發(fā)者可以使用 LangChain4J，Golang 開發(fā)者可以使用 LangChainGo，而 C# 開發(fā)者也有專門的 LangChain for C#。這些衍生框架進(jìn)一步擴(kuò)展了 LangChain 的生態(tài)系統(tǒng)，為更多開發(fā)者提供了構(gòu)建大模型應(yīng)用的工具和可能性。

總的來說，LangChain 是一個(gè)功能強(qiáng)大且靈活的工具，特別適合需要高度定制化和集成能力的企業(yè)級(jí)應(yīng)用。但對(duì)于一些簡單或特定場景的需求，開發(fā)者也可以根據(jù)實(shí)際情況選擇其他更輕量級(jí)的框架，以降低復(fù)雜性和學(xué)習(xí)成本。

2、Langgraph

LangGraph 框架是由 LangChain 團(tuán)隊(duì)開發(fā)的一個(gè)開源工具，專注于構(gòu)建和管理智能體系統(tǒng)。其核心優(yōu)勢在于提供了一個(gè)靈活且強(qiáng)大的平臺(tái)，支持開發(fā)者設(shè)計(jì)和實(shí)現(xiàn)復(fù)雜的多智能體工作流。LangGraph Platform 是 LangGraph 的商業(yè)版本，專為將智能體應(yīng)用程序部署到生產(chǎn)環(huán)境而設(shè)計(jì)。它提供了許多高級(jí)功能，包括有狀態(tài)設(shè)計(jì)、基于圖形的工作流管理、多智能體協(xié)作、與 LangChain 的無縫集成、增強(qiáng)的 LangSmith 監(jiān)控工具、IDE 支持以及更廣泛的社區(qū)資源。這些特性使得 LangGraph Platform 成為企業(yè)級(jí)應(yīng)用的理想選擇。

LangGraph 特別適合用于開發(fā)企業(yè)級(jí)的多智能體系統(tǒng)。它的開源性質(zhì)意味著它擁有廣泛的社區(qū)支持，并且能夠與各種不同的解決方案和產(chǎn)品進(jìn)行集成。這種前瞻性的設(shè)計(jì)使得 LangGraph 能夠滿足企業(yè)在兼容性方面的多樣化需求。此外，LangGraph 與 LangChain 生態(tài)系統(tǒng)的緊密結(jié)合，減少了企業(yè)在使用多個(gè)框架時(shí)的冗余問題，簡化了開發(fā)流程。

對(duì)于企業(yè)用戶來說，LangGraph 的商業(yè)版本提供了更多高級(jí)功能，如安全性增強(qiáng)、可視化開發(fā)工具和更強(qiáng)大的監(jiān)控能力。這些特性使得企業(yè)能夠更輕松地管理和維護(hù)復(fù)雜的智能體系統(tǒng)，同時(shí)確保系統(tǒng)的穩(wěn)定性和安全性。

然而，與 LangChain 類似，開發(fā)者在處理依賴關(guān)系和框架復(fù)雜性時(shí)可能會(huì)遇到一些挑戰(zhàn)。這些挑戰(zhàn)主要來自于系統(tǒng)的復(fù)雜性和對(duì)高性能的需求。盡管如此，LangGraph 的設(shè)計(jì)目標(biāo)之一就是通過提供清晰的文檔和強(qiáng)大的工具來幫助開發(fā)者克服這些障礙，從而更高效地構(gòu)建和部署智能體應(yīng)用程序。

3、LlamaIndex

LlamaIndex 最初是一個(gè)專注于大模型應(yīng)用程序的數(shù)據(jù)框架，但如今它的功能已經(jīng)遠(yuǎn)遠(yuǎn)超出了數(shù)據(jù)處理的范疇。它現(xiàn)在涵蓋了 AI Agent、文檔解析與索引、工作流管理、基于連接器的集成、模塊化設(shè)計(jì)以及高度可擴(kuò)展性等多種功能，成為了一個(gè)功能豐富的開發(fā)平臺(tái)。

LlamaIndex 還提供了一個(gè)名為 LlamaCloud 的 SaaS 功能，這是一個(gè)專門為 AI 智能體設(shè)計(jì)的知識(shí)管理中心。通過 LlamaCloud，開發(fā)者可以更高效地管理和利用數(shù)據(jù)，為智能體提供強(qiáng)大的知識(shí)支持。此外，LlamaIndex 還有一個(gè)獨(dú)特的產(chǎn)品叫 LlamaParse，它能夠?qū)?fù)雜的指令數(shù)據(jù)轉(zhuǎn)換成適合大語言模型處理的優(yōu)化格式，從而提升模型的性能和準(zhǔn)確性。

LlamaHub 是 LlamaIndex 生態(tài)系統(tǒng)中的一個(gè)重要組成部分，它是一個(gè)集成了搜索式智能體、大語言模型、向量存儲(chǔ)、數(shù)據(jù)加載器等工具的中心化平臺(tái)。LlamaHub 特別適合用于構(gòu)建數(shù)據(jù)密集型的大語言模型應(yīng)用程序，比如知識(shí)密集型的聊天機(jī)器人、問答系統(tǒng)等。借助 LlamaCloud 的強(qiáng)大能力，開發(fā)者可以高效地解析和索引復(fù)雜的文檔，這使得 LlamaIndex 成為那些希望快速推出產(chǎn)品的企業(yè)的理想選擇。

盡管 LlamaIndex 的核心優(yōu)勢在于數(shù)據(jù)索引和檢索，它在復(fù)雜的智能體行為和決策方面的功能相對(duì)較少。不過，LlamaIndex 正在朝著支持更智能的 Agentic 應(yīng)用程序方向發(fā)展，展現(xiàn)出了巨大的潛力。未來，它可能會(huì)在智能體行為管理和決策支持方面提供更多創(chuàng)新功能，進(jìn)一步擴(kuò)展其應(yīng)用場景。

總的來說，LlamaIndex 是一個(gè)功能強(qiáng)大且靈活的工具，特別適合需要處理大量數(shù)據(jù)并快速構(gòu)建知識(shí)密集型 AI 系統(tǒng)的開發(fā)者。無論是企業(yè)還是個(gè)人開發(fā)者，都可以利用 LlamaIndex 的強(qiáng)大功能來加速開發(fā)進(jìn)程，同時(shí)保持高度的可擴(kuò)展性和模塊化設(shè)計(jì)。

4、Spring AI

Spring AI：為 Java 開發(fā)者量身定制的 GenAI 開發(fā)框架

Spring AI 的靈感來源于 LangChain，但它專注于為 Java 開發(fā)者提供一個(gè)更熟悉的開發(fā)環(huán)境。通過充分利用 Spring 生態(tài)系統(tǒng)，Spring AI 讓開發(fā)者能夠輕松構(gòu)建 GenAI 應(yīng)用程序，而無需學(xué)習(xí)其他框架或編程語言。

第一、主要特點(diǎn)

• 支持多種大語言模型：開發(fā)者可以根據(jù)需求選擇不同的模型，靈活應(yīng)對(duì)各種場景。
• Spring 生態(tài)的可觀測性：借助 Spring 的強(qiáng)大工具，開發(fā)者可以輕松監(jiān)控和調(diào)試 AI 應(yīng)用的運(yùn)行狀態(tài)。
• 模型評(píng)估功能：幫助開發(fā)者評(píng)估和優(yōu)化 AI 模型的性能。
• Advisors API：封裝了常見的生成式 AI 模式，減少重復(fù)代碼，提升開發(fā)效率。
• 聊天對(duì)話和 RAG（檢索增強(qiáng)生成）支持：讓開發(fā)者能夠快速構(gòu)建智能聊天系統(tǒng)和基于檢索的問答應(yīng)用。

第二、最大優(yōu)勢

Spring AI 的最大優(yōu)勢在于它與 Spring 生態(tài)系統(tǒng)的無縫集成。Spring 生態(tài)中豐富的庫和工具（如數(shù)據(jù)連接、異步處理、系統(tǒng)集成等）可以直接用于 GenAI 應(yīng)用的開發(fā)，極大地簡化了開發(fā)流程。對(duì)于已經(jīng)在使用 Spring 的企業(yè)來說，這意味著可以快速上手，無需額外學(xué)習(xí)成本，同時(shí)還能充分利用現(xiàn)有的技術(shù)棧。

第三、總結(jié)

總的來說，Spring AI 是一個(gè)為 Java 開發(fā)者量身定制的 GenAI 開發(fā)框架。它不僅降低了入門門檻，還提供了強(qiáng)大的功能和靈活性，非常適合企業(yè)級(jí)應(yīng)用開發(fā)。無論是企業(yè)還是個(gè)人開發(fā)者，都可以利用 Spring AI 的強(qiáng)大功能來加速開發(fā)進(jìn)程，同時(shí)保持高度的可擴(kuò)展性和模塊化設(shè)計(jì)。

5、AutoGen

Autogen 是由 微軟 開發(fā)的一個(gè)編程框架，專門用于構(gòu)建 Agentic AI 和基于大模型的應(yīng)用程序。它提供了一個(gè)高層次的抽象框架，支持多智能體之間的協(xié)作和會(huì)話，非常適合構(gòu)建復(fù)雜的 AI 系統(tǒng)。Autogen 的核心特性包括：

• 異步消息傳遞：智能體之間可以高效地異步通信，提升系統(tǒng)響應(yīng)速度。
• 模塊化和可擴(kuò)展：框架設(shè)計(jì)靈活，開發(fā)者可以根據(jù)需求輕松擴(kuò)展功能。
• 可觀察性和調(diào)試：提供強(qiáng)大的工具，幫助開發(fā)者監(jiān)控和調(diào)試智能體行為。
• 可伸縮性和分布式支持：能夠處理大規(guī)模任務(wù)，并支持分布式部署。
• 內(nèi)置和社區(qū)擴(kuò)展：除了內(nèi)置功能外，還支持社區(qū)開發(fā)的插件和擴(kuò)展。
• 跨語言支持和全類型支持：兼容多種編程語言，提供完整類型安全支持。
• 增強(qiáng)的大模型推理 API：優(yōu)化大語言模型的推理性能，同時(shí)降低成本。

Autogen 特別適合與 開源系統(tǒng) 和 微軟生態(tài)系統(tǒng) 結(jié)合使用，是構(gòu)建 Agentic AI 和大模型應(yīng)用的理想選擇。它提供了一個(gè)不斷發(fā)展的生態(tài)系統(tǒng)，能夠支持各種領(lǐng)域和復(fù)雜度的應(yīng)用需求。此外，Autogen 還提供了一個(gè)名為 Autogen Studio 的 UI 工具，開發(fā)者可以通過圖形化界面進(jìn)行智能體的原型設(shè)計(jì)和管理，甚至無需編寫代碼。

需要注意的是，Autogen 目前仍處于 試驗(yàn)階段，尚未完全成熟到可以投入生產(chǎn)環(huán)境。不過，如果你正在研究復(fù)雜的智能體交互、設(shè)計(jì)新的多智能體系統(tǒng)，或者想嘗試先進(jìn)的 AI 智能體架構(gòu)，Autogen 是一個(gè)非常值得探索的工具。

雖然 Autogen 是一個(gè)開源框架，但它對(duì) 微軟解決方案 的依賴性可能會(huì)因組織的技術(shù)棧而有所不同。此外，基于 Autogen 的商業(yè)解決方案 Magentic-One 提供了更高級(jí)的功能，例如為企業(yè)量身定制的高性能通用智能體系統(tǒng)。不過，Autogen 的復(fù)雜性（尤其是在企業(yè)內(nèi)部使用時(shí)）仍然是一個(gè)需要關(guān)注的問題，可能需要更多的技術(shù)支持和優(yōu)化。

總的來說，Autogen 是一個(gè)功能強(qiáng)大且靈活的框架，適合用于研究和原型設(shè)計(jì)。如果你對(duì)多智能體系統(tǒng)和 AI 智能體設(shè)計(jì)感興趣，它無疑是一個(gè)值得嘗試的工具。不過，對(duì)于生產(chǎn)環(huán)境的使用，建議等待其進(jìn)一步成熟或考慮基于 Autogen 的商業(yè)解決方案。

6、Semantic Kernel

Semantic Kernel 是由 微軟 提供的一個(gè)強(qiáng)大工具，專為構(gòu)建穩(wěn)定且高度集成的企業(yè)級(jí)應(yīng)用程序而設(shè)計(jì)。作為一個(gè)適合生產(chǎn)環(huán)境的 SDK，它能夠?qū)⒋竽Ｐ秃蛿?shù)據(jù)存儲(chǔ)無縫集成到應(yīng)用中，幫助企業(yè)打造高質(zhì)量的 GenAI 解決方案。Semantic Kernel 支持多種編程語言，包括 C#、Python 和 Java，并且在預(yù)覽版中已經(jīng)引入了智能體和流程框架，使開發(fā)者能夠構(gòu)建單智能體和多智能體系統(tǒng)。

第一、核心功能

• 智能體框架：
• 這是 Semantic Kernel 的核心部分，提供了一個(gè)平臺(tái)，允許開發(fā)者將 AI 智能體嵌入到任何應(yīng)用程序中。無論是簡單的任務(wù)自動(dòng)化，還是復(fù)雜的多智能體協(xié)作，都能輕松實(shí)現(xiàn)。
• 流程框架：
• 這個(gè)框架專注于優(yōu)化 AI 與業(yè)務(wù)流程的集成，幫助企業(yè)將 AI 能力無縫融入現(xiàn)有的工作流中，提升效率和智能化水平。、

第二、多語言支持

Semantic Kernel 提供了多種語言的 SDK，包括 Python、C#、.NET 和 Java，滿足了不同開發(fā)者的需求。特別是在 微軟 Azure 環(huán)境中，微軟還為開發(fā)者提供了豐富的培訓(xùn)和支持資源，幫助團(tuán)隊(duì)快速上手。

第三、適用場景

Semantic Kernel 屬于 SDK 類別，與其他提供更高層次抽象和用戶界面的框架相比，它更適合需要深度定制和集成的企業(yè)級(jí)應(yīng)用。不過，需要注意的是，Semantic Kernel 的智能體框架目前仍在不斷演進(jìn)中，尤其是對(duì) Java 的支持還不夠完善，Java 開發(fā)者可能需要等待后續(xù)更新。

第四、總結(jié)

如果你正在尋找一個(gè)功能強(qiáng)大、靈活性高的工具來構(gòu)建企業(yè)級(jí) GenAI 應(yīng)用，Semantic Kernel 是一個(gè)值得考慮的選擇。它特別適合那些已經(jīng)在使用微軟技術(shù)棧（如 Azure）的企業(yè)，能夠幫助團(tuán)隊(duì)快速實(shí)現(xiàn) AI 能力的落地。盡管它的智能體框架還在發(fā)展中，但其強(qiáng)大的集成能力和多語言支持已經(jīng)讓它成為生產(chǎn)環(huán)境中的有力競爭者。

7、總結(jié)

盡管每個(gè) Agent 應(yīng)用框架都擁有出色的功能，但鑒于生成式人工智能領(lǐng)域的迅猛發(fā)展，這些框架也在持續(xù)進(jìn)行更新與優(yōu)化。企業(yè)在選擇框架時(shí)，應(yīng)主要依據(jù)自身的具體需求，例如業(yè)務(wù)場景、應(yīng)用類型、安全性要求、性能表現(xiàn)以及其他相關(guān)技術(shù)細(xì)節(jié)。

本文轉(zhuǎn)載自公眾號(hào)玄姐聊AGI  作者：玄姐

原文鏈接：??https://mp.weixin.qq.com/s/V9TBIvGuK0hI0UCVEBFMjw??