隨著生成式AI技術(shù)的全面爆發(fā)，AI Agents正成為人工智能應(yīng)用的新寵。這些“智能代理”不僅能完成特定任務(wù)，還能像一位貼心助手般跨場景協(xié)作。那么，這些AI Agents背后的技術(shù)堆棧是如何構(gòu)建的？它們的生態(tài)系統(tǒng)又如何助力開發(fā)者和企業(yè)高效落地應(yīng)用？今天我們通過一張最新發(fā)布的《AI Agents Stack》圖解，帶您快速掌握這個領(lǐng)域的核心脈絡(luò)！

1. 垂直代理：專業(yè)AI助手，解決具體問題

垂直代理是AI領(lǐng)域中最簡單易懂的一類工具，它們就像是行業(yè)專家，可以在特定領(lǐng)域提供專業(yè)的服務(wù)。以下是幾個垂直代理工具的詳細(xì)介紹：

?Harvey：這是一個面向法律行業(yè)的AI助手。Harvey可以幫助律師自動起草法律文件、合同和法律意見書，甚至可以回答復(fù)雜的法律問題。它的核心優(yōu)勢在于通過對大量法律文本的分析，幫助減少律師的重復(fù)性工作，從而節(jié)省時間。

?Replit：這是一款面向編程的AI工具。Replit提供了一個在線編程環(huán)境，用戶可以在其中編寫代碼并通過AI工具獲得自動建議、錯誤檢查以及代碼補全。它特別適合編程初學(xué)者和開發(fā)者，能夠幫助他們在編寫代碼時提高效率。

?Cognition：這款工具專注于幫助開發(fā)者加速軟件開發(fā)流程。Cognition利用AI生成代碼，減少開發(fā)者的編程負(fù)擔(dān)，同時還可以進行代碼審查，確保質(zhì)量。

?Lindy：這是一款面向商務(wù)和個人工作的AI助手，能幫助用戶進行時間管理、會議安排和郵件回復(fù)等任務(wù)。它的核心功能包括日程管理、智能提醒和文件整理等，適合用于提高辦公效率。

?All Hands：這是一個團隊協(xié)作工具，專注于幫助團隊進行項目管理、任務(wù)分配和協(xié)作。它利用AI優(yōu)化會議調(diào)度、任務(wù)跟蹤和溝通流暢度，從而提高團隊整體效率。

2. 代理托管與服務(wù)：讓AI助手上線和運作

AI代理的托管與服務(wù)層是確保這些智能助手正常運行的技術(shù)平臺，主要負(fù)責(zé)將AI代理從開發(fā)環(huán)境部署到生產(chǎn)環(huán)境，并確保其長期穩(wěn)定運行。

?LangGraph：這是一款可以幫助開發(fā)者創(chuàng)建和管理多個AI代理的工具。它支持不同AI代理之間的協(xié)同工作，并能夠在一個平臺中集中管理、監(jiān)控多個智能代理的狀態(tài)。

?Letta：Letta是一個托管平臺，專注于為AI開發(fā)者提供一站式服務(wù)，支持快速部署和靈活擴展。開發(fā)者可以在這個平臺上托管自己開發(fā)的AI模型和代理，并且通過簡單的API接口進行調(diào)用。

?LiveKit Agents：這是一個支持實時通訊的AI代理托管平臺。它可以幫助開發(fā)者創(chuàng)建語音、視頻和文字交互型AI代理，適合用在客服、教育等場景。

?Amazon Bedrock：作為AWS的服務(wù)之一，Amazon Bedrock提供了一整套AI開發(fā)工具，包括代理托管、訓(xùn)練、調(diào)優(yōu)和API服務(wù)。開發(fā)者可以利用這個平臺將AI模型從原型快速轉(zhuǎn)換為可用的生產(chǎn)級服務(wù)。

3. 可觀察性：實時監(jiān)控和優(yōu)化AI代理的表現(xiàn)

為了確保AI代理在實際應(yīng)用中能夠穩(wěn)定和高效運行，開發(fā)者需要借助可觀察性工具來監(jiān)控代理的表現(xiàn)、收集數(shù)據(jù)并進行調(diào)優(yōu)。

?LangSmith：LangSmith是一款用于記錄和分析AI代理與用戶互動數(shù)據(jù)的工具。它可以跟蹤每次對話或任務(wù)執(zhí)行的細(xì)節(jié)，幫助開發(fā)者找出可能存在的漏洞或性能瓶頸，進而進行優(yōu)化。

?LangFuse：這是另一款監(jiān)控工具，能夠為AI代理提供“實時反饋”。它不僅可以記錄用戶和代理的交互，還能分析代理的反應(yīng)和結(jié)果，以便開發(fā)者可以優(yōu)化AI的表現(xiàn)。

?Arize：Arize提供端到端的AI監(jiān)控服務(wù)，包括代理性能分析、錯誤報告和日志記錄。它幫助開發(fā)者實時發(fā)現(xiàn)AI代理的任何異常情況，并提供數(shù)據(jù)驅(qū)動的解決方案。

?Weave：Weave是一款多功能的AI監(jiān)控工具，主要用于分析代理執(zhí)行任務(wù)時的成功率和準(zhǔn)確性。它可以幫助開發(fā)者跟蹤每個任務(wù)的完成情況，并為后續(xù)優(yōu)化提供數(shù)據(jù)支持。

4. 代理框架：構(gòu)建和管理AI代理的基礎(chǔ)工具

代理框架是為開發(fā)者提供的開發(fā)工具，它們幫助開發(fā)者快速構(gòu)建、定制和管理AI代理，降低開發(fā)門檻。

?Semantic Kernel：這是一個面向自然語言處理（NLP）的框架，它幫助AI理解和處理復(fù)雜的語義。開發(fā)者可以使用這個框架輕松創(chuàng)建一個能理解多層次含義的AI代理。

?AutoGen：AutoGen是一個AI代理生成工具，允許開發(fā)者通過簡單的配置來自動化生成定制化的AI代理。它大大縮短了開發(fā)時間，讓開發(fā)者能夠快速實現(xiàn)智能助手的功能。

?LlamaIndex：這是一個強大的文檔管理和檢索工具，專注于幫助AI理解和處理大規(guī)模的文檔數(shù)據(jù)。LlamaIndex能夠根據(jù)用戶輸入的問題，從大量文檔中檢索相關(guān)信息，適用于知識庫管理和信息查詢場景。

5. 記憶模塊：讓AI代理記住你的信息

如果AI能記住你的需求和偏好，它將能提供更個性化的服務(wù)。這就是記憶模塊（Memory）的作用。

?MemGPT：MemGPT將記憶功能集成到GPT（生成式預(yù)訓(xùn)練模型）中，讓AI能夠記住與用戶的互動內(nèi)容，并為未來的對話提供更加連貫和一致的體驗。

?LangMem：這是一個讓AI具備“記憶能力”的工具，能夠存儲和回顧歷史對話信息。它的記憶功能使得AI能夠在多次對話中跟蹤和了解用戶需求，從而提供更為個性化的服務(wù)。

?zep：zep是一個開放平臺，允許開發(fā)者在AI代理中加入自定義的記憶模塊。通過zep，開發(fā)者可以讓AI記住重要的信息，比如用戶的偏好、歷史行為和常見任務(wù)。

?memo：memo提供了一種將記憶功能與AI對話系統(tǒng)結(jié)合的方式。它讓AI可以保存用戶提供的信息，以便后續(xù)的互動更加精準(zhǔn)。

6. 工具庫與沙盒：給AI代理擴展新技能

想要讓AI代理更加強大，就需要為它配備更多的工具。工具庫（Tool Libraries）和沙盒（Sandboxes）提供了靈活的擴展選項。

?Composio：這是一個模塊化工具庫，允許開發(fā)者給AI代理添加各種外部工具。無論是訪問數(shù)據(jù)庫、調(diào)用API，還是進行復(fù)雜的計算，Composio都能提供必要的支持。

?Browserbase：這是一個讓AI可以訪問和瀏覽互聯(lián)網(wǎng)內(nèi)容的工具。它使得AI能夠在提供服務(wù)時，利用外部資源或即時信息，從而增強其應(yīng)對未知問題的能力。

?E2B：E2B是一種沙盒技術(shù)，它為開發(fā)者提供一個安全的環(huán)境來測試AI代理的新功能。開發(fā)者可以在沙盒中進行調(diào)試，不會對實際應(yīng)用造成影響。

?Modal：Modal為開發(fā)者提供了一個完整的沙盒環(huán)境，支持不同類型的AI任務(wù)實驗。它幫助開發(fā)者在開發(fā)過程中有效避免潛在的風(fēng)險，確保AI代理的功能完善。

7. 模型服務(wù)與存儲：為AI提供強大的“后端支持”

AI的強大表現(xiàn)離不開高效的底層服務(wù)和存儲技術(shù)。模型服務(wù)（Model Serving）和存儲（Storage）是AI代理的“后臺支撐”。

?OpenAI：OpenAI提供了一系列先進的生成式AI模型，如GPT系列，這些模型能賦予AI強大的自然語言理解和生成能力，支持各種智能任務(wù)。

?Anthropic：Anthropic開發(fā)的AI模型特別強調(diào)安全性和倫理性，旨在為企業(yè)提供更加可靠、可控的AI服務(wù)。它們可以應(yīng)用于生成內(nèi)容、分析數(shù)據(jù)等領(lǐng)域。

?Pinecone：Pinecone是一種向量數(shù)據(jù)庫，用于存儲AI在處理數(shù)據(jù)時生成的高維向量。它可以快速進行相似度檢索，適用于搜索引擎、推薦系統(tǒng)等場景。

?Chroma：Chroma同樣是一款向量數(shù)據(jù)庫，專注于在大規(guī)模數(shù)據(jù)中快速進行向量搜索。它能夠高效地處理來自多個來源的數(shù)據(jù)，為AI提供精準(zhǔn)的檢索能力。

AI Agents的生態(tài)系統(tǒng)由多個工具和技術(shù)組成，從垂直代理到底層存儲，每一部分都在為提升AI智能助手的能力和用戶體驗發(fā)揮作用。無論你是開發(fā)者還是普通用戶，都可以從中找到適合自己需求的工具，讓AI代理更聰明、更高效。

AI Agents，未來已來！

本文轉(zhuǎn)載自微信公眾號「云原生AI百寶箱」，可以通過以下二維碼關(guān)注。轉(zhuǎn)載本文請聯(lián)系云原生AI百寶箱公眾號。

本文轉(zhuǎn)載自 ??云原生AI百寶箱??，作者： OpenAI