我在過(guò)去設(shè)計(jì)對(duì)話(huà)式系統(tǒng)時(shí)親眼目睹了傳統(tǒng)AI的局限性。我設(shè)計(jì)的系統(tǒng)可以可靠地檢測(cè)實(shí)體，但其僵硬的邏輯使得這種解決方案不能擴(kuò)展。對(duì)話(huà)遵循預(yù)先編程的路徑：如果用戶(hù)說(shuō)X，就回應(yīng)Y。任何偏差都會(huì)破壞整個(gè)流程，凸顯出這類(lèi)系統(tǒng)有多死板多僵硬。

基于基礎(chǔ)模型的代理改變了這一切。它們是自主系統(tǒng)，能夠處理不可預(yù)測(cè)的場(chǎng)景并無(wú)縫協(xié)作。代理可以規(guī)劃行程、收集實(shí)時(shí)數(shù)據(jù)或管理客戶(hù)賬戶(hù)，隨時(shí)適應(yīng)變化。

代理不僅僅是工具的使用者，它們本身就是工具。像模塊化組件一樣，代理獨(dú)立工作，或與其他代理集成以解決復(fù)雜問(wèn)題。預(yù)測(cè)模型帶來(lái)了精準(zhǔn)預(yù)測(cè)，生成式模型重新定義了創(chuàng)造力。現(xiàn)在，代理AI將智能轉(zhuǎn)化為自主行動(dòng)。

我們?cè)诒疚闹袑⑵饰龃淼慕Y(jié)構(gòu)、探究其協(xié)作，并深入研究將它們擴(kuò)展到強(qiáng)大的、相互關(guān)聯(lián)的生態(tài)系統(tǒng)所需的基礎(chǔ)設(shè)施。

什么是代理？

簡(jiǎn)單地說(shuō)，代理有代理機(jī)制，它們不依賴(lài)靜態(tài)路徑——它們進(jìn)行推理、使用工具并動(dòng)態(tài)適應(yīng)。與使用腳本的機(jī)器人不同，代理實(shí)時(shí)調(diào)整工作流，以適應(yīng)不可預(yù)測(cè)的輸入。

在人工智能領(lǐng)域，代理有著悠久的歷史，從Alan Turing和John McCarthy早期的理論思考，到20世紀(jì)60年代基于規(guī)則的推理代理，這些代理旨在在定義的上下文中自主行動(dòng)，但其功能受制于狹窄的應(yīng)用和僵硬的邏輯。

如今，基礎(chǔ)模型的出現(xiàn)改變了一切。

基礎(chǔ)模型讓代理能夠動(dòng)態(tài)適應(yīng)復(fù)雜、不可預(yù)測(cè)的環(huán)境所需的推理和泛化。代理的環(huán)境定義了其范圍，無(wú)論是棋盤(pán)、網(wǎng)絡(luò)還是道路，其工具決定了它可以采取什么行動(dòng)。與早期系統(tǒng)不同，現(xiàn)代代理將強(qiáng)大的推理與多功能工具結(jié)合起來(lái)，帶來(lái)了曾經(jīng)難以想象的應(yīng)用場(chǎng)景。

圖1. 控制邏輯，程序型與代理型

我們?cè)谙旅鎸⑵饰龃淼慕Y(jié)構(gòu)：代理如何感知、推理、行動(dòng)和學(xué)習(xí)。

剖析代理的結(jié)構(gòu)

就像人類(lèi)一樣，代理通過(guò)結(jié)合其感覺(jué)、記憶、推理和行動(dòng)能力來(lái)解決問(wèn)題。但在我們深入研究如何做到這一點(diǎn)的機(jī)理之前，先介紹一個(gè)支撐一切的基本要素：角色（persona）。

圖2. 剖析多代理系統(tǒng)

角色（工作職能）

代理的角色定義了其工作功能和專(zhuān)業(yè)知識(shí)。它就像嵌入到系統(tǒng)提示中的詳細(xì)職位描述，決定了代理的行為和反應(yīng)。系統(tǒng)提示設(shè)定期望，并影響模型在token上的概率分布，以便使輸出與定義的角色保持一致。

系統(tǒng)提示示例：

感知

有了明確的角色，解決任何問(wèn)題的第一步就是了解環(huán)境。對(duì)于代理來(lái)說(shuō)，感知是感官輸入，即它們?nèi)绾螐闹車(chē)澜缡占瘮?shù)據(jù)。人類(lèi)用眼睛、耳朵和觸覺(jué)，代理則使用API、傳感器和用戶(hù)輸入。

• 示例：物流代理通過(guò)從交通API和天氣預(yù)報(bào)中提取實(shí)時(shí)數(shù)據(jù)以感知延遲，就像人類(lèi)駕駛員查閱交通報(bào)告一樣。

推理和決策

一旦收集到信息，就需要對(duì)信息進(jìn)行處理和解讀。推理是代理分析數(shù)據(jù)、得出見(jiàn)解并決定下一步做什么的能力。對(duì)于人類(lèi)來(lái)說(shuō)，推理在大腦中進(jìn)行。對(duì)于代理，它由像LLM這樣的模型提供支持，模型可以動(dòng)態(tài)適應(yīng)輸入和上下文。

• 示例：客戶(hù)服務(wù)代理可能會(huì)分析用戶(hù)的語(yǔ)氣以識(shí)別挫敗感、相互對(duì)照賬戶(hù)歷史記錄以查找未解決的問(wèn)題，并決定上報(bào)問(wèn)題。

記憶

記憶允許代理跨交互保留特定領(lǐng)域的信息。其目的并非學(xué)習(xí)。人類(lèi)既依賴(lài)短期記憶（比如回憶一段對(duì)話(huà)的開(kāi)始），又依賴(lài)長(zhǎng)期記憶（比如記住幾年前學(xué)過(guò)的一項(xiàng)技能）。代理也是這樣工作的。

短期記憶允許代理跟蹤會(huì)話(huà)中的即時(shí)上下文，這些上下文可能在會(huì)話(huà)期間臨時(shí)存儲(chǔ)在內(nèi)存緩沖區(qū)中。與此同時(shí)，長(zhǎng)期記憶指存儲(chǔ)歷史數(shù)據(jù)，比如用戶(hù)偏好或過(guò)去的交互。這可能是矢量數(shù)據(jù)庫(kù)或另一個(gè)永久存儲(chǔ)區(qū)。矢量數(shù)據(jù)庫(kù)支持語(yǔ)義搜索，嵌入允許代理有效地檢索相關(guān)信息。

• 示例：銷(xiāo)售助理記得過(guò)去的交互，比如注意到客戶(hù)對(duì)特定功能的興趣，并利用它來(lái)定制后續(xù)服務(wù)。

規(guī)劃

一旦代理知道需要做什么，它就會(huì)設(shè)計(jì)計(jì)劃來(lái)實(shí)現(xiàn)目標(biāo)。這一步反映了人類(lèi)如何制定策略：將問(wèn)題分解成更小的步驟，并優(yōu)先考慮某些行動(dòng)。

• 示例：膳食規(guī)劃代理組織一周的食譜，考慮到飲食限制、可用配料和用戶(hù)的時(shí)間表。

行動(dòng)

沒(méi)有執(zhí)行，計(jì)劃毫無(wú)價(jià)值。行動(dòng)是代理與外界交互的呈現(xiàn)，無(wú)論是通過(guò)發(fā)送消息、控制設(shè)備還是更新數(shù)據(jù)庫(kù)。

• 示例：客戶(hù)支持代理更新工單、發(fā)出退款或發(fā)送電子郵件以解決問(wèn)題。

代理的執(zhí)行處理程序負(fù)責(zé)確保準(zhǔn)確地執(zhí)行這些動(dòng)作并驗(yàn)證結(jié)果。

學(xué)習(xí)

人類(lèi)通過(guò)從錯(cuò)誤中學(xué)習(xí)和適應(yīng)新信息加以改進(jìn)。代理同樣如此，使用機(jī)器學(xué)習(xí)來(lái)完善其推理、改進(jìn)預(yù)測(cè)和優(yōu)化行動(dòng)。

• 示例：產(chǎn)品推薦引擎跟蹤點(diǎn)擊率，并根據(jù)與用戶(hù)產(chǎn)生共鳴的內(nèi)容調(diào)整建議。

這個(gè)過(guò)程可能需要在提示裝配期間動(dòng)態(tài)調(diào)整代理的上下文，以便它根據(jù)情境反饋改進(jìn)其響應(yīng)，而不會(huì)對(duì)模型的權(quán)重進(jìn)行永久性更改。另外，學(xué)習(xí)也可能通過(guò)強(qiáng)化學(xué)習(xí)來(lái)進(jìn)行決策使用與特定行動(dòng)相關(guān)聯(lián)的獎(jiǎng)罰機(jī)制來(lái)加以?xún)?yōu)化。在許多情況下，適應(yīng)上下文為代理提供了一種靈活而有效的改進(jìn)方式，沒(méi)有微調(diào)帶來(lái)的開(kāi)銷(xiāo)。

協(xié)調(diào)和協(xié)作

人類(lèi)很少單獨(dú)工作，我們相互合作、分享知識(shí)、分工任務(wù)。在多代理系統(tǒng)中，協(xié)調(diào)使代理能夠做同樣的事情，一起工作以實(shí)現(xiàn)共同的目標(biāo)。

• 示例：CRM助理在Salesforce系統(tǒng)中更新客戶(hù)的聯(lián)系人詳細(xì)信息，同時(shí)通知計(jì)費(fèi)助理代理調(diào)整訂閱記錄。

這種協(xié)作常常由像Apache Kafka這樣的消息代理提供支持，消息代理促進(jìn)了代理之間的實(shí)時(shí)通信和同步。動(dòng)態(tài)共享狀態(tài)和任務(wù)的能力使多代理系統(tǒng)比獨(dú)立代理強(qiáng)大得多。

工具接口

人類(lèi)使用工具來(lái)增強(qiáng)能力，比如醫(yī)生使用聽(tīng)診器、程序員使用集成開(kāi)發(fā)環(huán)境（IDE）。代理也不例外。工具接口是代理實(shí)現(xiàn)專(zhuān)門(mén)功能的途徑，便于它們擴(kuò)大應(yīng)用范圍，并在現(xiàn)實(shí)世界中有效地操作。

• 示例：旅行代理使用航班API查找機(jī)票、使用天氣API規(guī)劃路線(xiàn)、使用財(cái)務(wù)API計(jì)算成本。

這些接口通常依賴(lài)模塊化API處理程序或插件架構(gòu)，以便代理動(dòng)態(tài)高效地?cái)U(kuò)展其功能。

啟示

如果您細(xì)加分解，會(huì)發(fā)現(xiàn)代理解決問(wèn)題的方式與人類(lèi)相同：它們感知環(huán)境、處理信息、回憶相關(guān)知識(shí)、制定計(jì)劃并采取行動(dòng)。

但代理與眾不同的不僅僅是其工作方式，還有其擴(kuò)展能力。

人類(lèi)可能精通一個(gè)領(lǐng)域，但代理生態(tài)系統(tǒng)可以將來(lái)自無(wú)數(shù)領(lǐng)域的專(zhuān)家聚集在一起，合作解決單個(gè)系統(tǒng)無(wú)法處理的挑戰(zhàn)。

我們?cè)谙乱还?jié)中將探討如何構(gòu)建使這些代理發(fā)展壯大的基礎(chǔ)設(shè)施——不是充當(dāng)孤立的工具，而是成為動(dòng)態(tài)的、相互關(guān)聯(lián)的AI勞動(dòng)力的一部分。

代理充當(dāng)工具和微服務(wù)

從本質(zhì)上講，代理是有智能的工具。

它們可以使用API、外部庫(kù)甚至其他代理來(lái)完成工作。這種模塊化反映了微服務(wù)架構(gòu)的原則，幾十年來(lái)微服務(wù)架構(gòu)來(lái)一直為企業(yè)級(jí)系統(tǒng)提供支撐。如果將代理視為微服務(wù)，我們就可以運(yùn)用相同的經(jīng)驗(yàn)：將它們?cè)O(shè)計(jì)為輕量級(jí)、專(zhuān)門(mén)化和可互操作。這種方法讓我們可以通過(guò)像搭樂(lè)高積木一樣組合代理，在不創(chuàng)建臃腫的單體式系統(tǒng)的情況下擴(kuò)展功能，從而組合復(fù)雜的工作流。

比如說(shuō)，營(yíng)銷(xiāo)代理可能會(huì)聯(lián)系客戶(hù)細(xì)分代理來(lái)分析用戶(hù)數(shù)據(jù)，然后將結(jié)果傳遞給活動(dòng)策略代理來(lái)優(yōu)化廣告投放。如果將代理視為共享生態(tài)系統(tǒng)中的工具，工作流就可以動(dòng)態(tài)拼接，從而實(shí)現(xiàn)前所未有的靈活性和可擴(kuò)展性。

為什么這對(duì)可擴(kuò)展性很重要？

這種類(lèi)似微服務(wù)的架構(gòu)對(duì)于構(gòu)建可擴(kuò)展的代理生態(tài)系統(tǒng)至關(guān)重要。我們可以設(shè)計(jì)更小、更專(zhuān)業(yè)的代理來(lái)協(xié)同工作，而不是創(chuàng)建試圖做所有事情的單體式代理。這種方法支持更快的開(kāi)發(fā)、更輕松的維護(hù)以及獨(dú)立擴(kuò)展各個(gè)組件的能力。

如果立足于微服務(wù)架構(gòu)，我們可以為代理系統(tǒng)帶來(lái)企業(yè)級(jí)的可靠性、模塊化和性能。生成式AI的未來(lái)不是構(gòu)建孤立的代理，而是創(chuàng)建協(xié)作生態(tài)系統(tǒng)，代理的功能像微服務(wù)一樣，無(wú)縫地協(xié)同工作以解決復(fù)雜問(wèn)題。

我們?cè)谙乱还?jié)中將探討如何將擴(kuò)展微服務(wù)的經(jīng)驗(yàn)運(yùn)用到代理基礎(chǔ)設(shè)施中，以確保我們準(zhǔn)備好支持下一代生成式AI系統(tǒng)。

代理需要事件

從微服務(wù)的經(jīng)驗(yàn)來(lái)看，傳統(tǒng)的請(qǐng)求/響應(yīng)架構(gòu)對(duì)代理而言根本不具有可擴(kuò)展性。

在這些系統(tǒng)中，每個(gè)動(dòng)作都需要明確的協(xié)調(diào)，從而引入延遲、瓶頸和緊密耦合的依賴(lài)項(xiàng)。這就像組織中的每一個(gè)決定都需要書(shū)面批準(zhǔn)，這在小型環(huán)境中有效，但復(fù)雜性增加后，速度和效率就會(huì)奇低。

圖3. 多代理系統(tǒng)導(dǎo)致了迷宮般的緊密耦合的相互依賴(lài)關(guān)系

向事件驅(qū)動(dòng)架構(gòu)轉(zhuǎn)變標(biāo)志著構(gòu)建可擴(kuò)展代理系統(tǒng)迎來(lái)了關(guān)鍵時(shí)刻。代理不是等待直接指令，而是被設(shè)計(jì)成自主地發(fā)出和監(jiān)聽(tīng)事件。事件充當(dāng)發(fā)生了某些事件（數(shù)據(jù)更改、觸發(fā)的動(dòng)作或重要的更新）的信號(hào)，允許代理動(dòng)態(tài)獨(dú)立地響應(yīng)。

圖4. 事件驅(qū)動(dòng)代理：代理發(fā)出并監(jiān)聽(tīng)事件

剖析事件驅(qū)動(dòng)代理

這種架構(gòu)直接影響了代理的結(jié)構(gòu)組成：

• 感知：代理通過(guò)事件感知世界，事件提供了結(jié)構(gòu)化的實(shí)時(shí)輸入。
• 推理：事件驅(qū)動(dòng)決策過(guò)程，代理動(dòng)態(tài)解釋信號(hào)以確定下一步。
• 記憶：事件持久性確保歷史數(shù)據(jù)始終可用于上下文回憶，從而降低交互丟失或不完整的風(fēng)險(xiǎn)。
• 動(dòng)作：代替僵硬的工作流，代理通過(guò)發(fā)出事件來(lái)行動(dòng)，使下游代理或系統(tǒng)能夠在需要的地方獲取信息。

該系統(tǒng)中的代理接口不再由僵硬的API定義，而是由它們發(fā)出和使用的事件定義。這些事件用簡(jiǎn)單的標(biāo)準(zhǔn)化格式（比如JSON有效負(fù)載）加以封裝，可執(zhí)行以下功能：

• 簡(jiǎn)化代理對(duì)變化的理解和反應(yīng)。
• 促進(jìn)跨不同工作流和系統(tǒng)的可重用性。
• 在動(dòng)態(tài)的、不斷發(fā)展的環(huán)境中實(shí)現(xiàn)無(wú)縫集成。

構(gòu)建代理生態(tài)系統(tǒng)

IT外媒VentureBeat特別指出：“進(jìn)入到2025年，我們更需要?jiǎng)?chuàng)建基礎(chǔ)設(shè)施來(lái)管理多個(gè)AI代理和應(yīng)用程序?！?/p>

這不僅僅是預(yù)測(cè)，更是號(hào)召我們行動(dòng)起來(lái)。

剖析代理：感知、推理、記憶、行動(dòng)和協(xié)作為它們的能力奠定了基礎(chǔ)，但如果沒(méi)有合適的基礎(chǔ)設(shè)施，這些部分就無(wú)法擴(kuò)展。

像Kafka和Flink這樣的平臺(tái)是擴(kuò)展微服務(wù)的核心。通過(guò)借助事件解耦服務(wù)，這些系統(tǒng)使微服務(wù)（現(xiàn)在是代理）能夠在沒(méi)有僵硬依賴(lài)關(guān)系的情況下無(wú)縫交互。對(duì)于充當(dāng)微服務(wù)的代理而言，這意味著它們可以自主地發(fā)出和使用事件，動(dòng)態(tài)地集成到工作流中，同時(shí)確保大規(guī)模環(huán)境下的治理、一致性和適應(yīng)性。

未來(lái)不是僅僅一個(gè)代理解決一個(gè)問(wèn)題，而是數(shù)百個(gè)代理協(xié)同工作，無(wú)縫擴(kuò)展和適應(yīng)不斷變化的挑戰(zhàn)。若想在2025年領(lǐng)先，我們不僅要致力于創(chuàng)建代理，還要致力于創(chuàng)建大規(guī)模管理代理的基礎(chǔ)設(shè)施。

原文標(biāo)題：??More than machines: The inner workings of AI agents??，作者：Sean Falconer