大型語言模型（LLMs）憑借其在自然語言理解、多模態(tài)處理、推理和內容生成方面的卓越能力，為AI領域帶來了革命性變革。這些模型通過海量數(shù)據(jù)集訓練后，展現(xiàn)出推理、上下文學習乃至基礎規(guī)劃等自發(fā)能力。盡管LLMs代表了智能機器發(fā)展的重要里程碑，但它們尚未完全具備智能生物的全部特性。自人工智能研究初期以來，研究者們一直致力于開發(fā)真正"智能"的系統(tǒng)——能夠學習、規(guī)劃、推理、感知、交流、行動、記憶，并表現(xiàn)出類人的能力與靈活性。

近期，大模型智能體（Agent）的相關話題爆火 —— 不論是 Anthropic 搶先 MCP 范式的快速普及，還是 OpenAI 推出的 Agents SDK 以及谷歌最新發(fā)布的 A2A 協(xié)議，都預示了 AI Agent 的巨大潛力。但是，目前的大部分 Agent 應用仍是 LLM 能力的簡單 “封裝” 或延伸，距離真正通用的智能實體尚有距離。在面對復雜的真實世界時，Agent往往會暴露出推理規(guī)劃、長期記憶、世界模型、自主進化以及安全對齊等核心能力不足的問題。

這些被稱為智能體（Agent）的實體應當具備長短期思考能力，能執(zhí)行復雜任務，并能與人類及其他智能體互動。LLMs是實現(xiàn)智能體的關鍵一步，但這一目標仍未完全達成。為了系統(tǒng)性地應對這些挑戰(zhàn)，以構建真正具備通用能力的未來智能體，MetaGPT & Mila 聯(lián)合全球范圍內 20 個頂尖研究機構的 47 位學者，共同撰寫并發(fā)布了長篇綜述《Advances and Challenges in Foundation Agents: From Brain-Inspired Intelligence to Evolutionary, Collaborative, and Safe Systems》。

• 論文鏈接： https://arxiv.org/abs/2504.01990

目前該論文已蟬聯(lián) Hugging Face 的 Daily Paper 月榜第一名，論文綜述分為四個相互關聯(lián)的部分：

首先，探討了智能體的模塊化基礎，系統(tǒng)性地將認知、感知和操作模塊與人腦功能對應起來，并闡明了記憶、世界建模、獎勵處理和情感模擬系統(tǒng)等核心組件。

其次，分析了自我增強和適應性進化機制，研究智能體如何自主提升能力、適應變化環(huán)境，以及通過自動優(yōu)化方法實現(xiàn)持續(xù)學習，包括新興的AutoML和LLM驅動的優(yōu)化策略。

第三，考察了協(xié)作和進化的多智能體系統(tǒng)，研究智能體之間的互動、合作和社會結構產生的集體智能，并強調了與人類社會動態(tài)的相似性。

最后，探討了構建安全、可靠和有益的人工智能系統(tǒng)的重要性，強調了內部和外部安全威脅、倫理一致性、系統(tǒng)穩(wěn)健性以及在實際部署中必要的風險緩解策略。

通過將模塊化人工智能架構與多學科見解相結合，本綜述識別了關鍵研究gaps、挑戰(zhàn)和機遇，旨在促進技術進步與社會福祉相協(xié)調的創(chuàng)新發(fā)展。

當前 AI 研究與人類大腦的差異

基礎智能體Foundation Agent 并非具體的智能體實例，而是一個更宏大且更根本性的技術藍圖及科學理念。它旨在通過認知科學和神經科學的洞見，構建一個由復雜認知、多層記憶、世界模型、獎勵 & 價值、情緒 & 動機、多模感知、行動系統(tǒng)等模塊化組件構成的智能系統(tǒng)。

基礎智能體（Foundation Agent）的定義

一個強大的 Foundation Agent 必然是一個復雜的系統(tǒng)，由多個相互協(xié)作的核心組件構成。這借鑒了認知科學和神經科學中對大腦模塊化功能的理解。論文詳細闡述了七個關鍵組件，它們共同構成了智能體的認知架構：

Agent 框架（環(huán)境，循環(huán)與內部結構）

1. 認知核心 (Cognition Core)

這是智能體的 “大腦” 或 “中央處理器”，負責最高層次的決策、推理和規(guī)劃。與當前主要依賴 LLM 進行 “思考” 的智能體不同，F(xiàn)oundation Agent 的認知核心可能是一個更復雜的系統(tǒng)，集成了多種推理能力（如邏輯推理、因果推理、常識推理）和規(guī)劃算法（如任務分解、層級規(guī)劃、長期目標管理）。它需要能夠處理不確定性，進行反思和元認知（思考自己的思考過程），并根據(jù)環(huán)境反饋和內部狀態(tài)動態(tài)調整策略。這要求認知核心不僅僅是模式匹配，更要具備深刻的理解和靈活的問題解決能力。

智能體的推理模式

2. 記憶系統(tǒng) (Memory System)

記憶是智能的基礎。當前的智能體往往只有有限的短期記憶（如 Prompt 中的上下文）或簡單的外部向量數(shù)據(jù)庫。Foundation Agent 則需要一個更復雜、更接近生物體的多層次記憶系統(tǒng)。論文探討了短期記憶、長期記憶與工作記憶等不同類型，包含情景記憶、語義記憶和程序記憶等細分領域。高效的記憶檢索、存儲、遺忘和泛化機制對于 Foundation Agent 至關重要。如何設計能夠支持持續(xù)學習、避免災難性遺忘，并能高效檢索相關信息的記憶系統(tǒng)，是一個核心挑戰(zhàn)。

記憶的生命周期

3. 世界模型 (World Model)

智能體需要理解其所處的環(huán)境以及自身行為可能產生的后果。世界模型正是對環(huán)境動態(tài)的內部表征。它可以幫助智能體進行預測（如果我采取行動 A，會發(fā)生什么？）、規(guī)劃（為了達到目標 B，我應該采取什么行動序列？）和反事實推理（如果當初采取了不同的行動，結果會怎樣？）。一個強大的世界模型需要能夠處理物理規(guī)律、社會規(guī)范、其他智能體的行為等多方面信息，并且能夠根據(jù)新的觀測數(shù)據(jù)不斷更新和完善。構建準確、高效且可泛化的世界模型是實現(xiàn)高級智能的關鍵一步。

世界模型的四種范式

4. 獎勵與價值系統(tǒng) (Reward and Value System)

智能體的行為需要有目標導向。獎勵系統(tǒng)負責評估智能體的行為表現(xiàn)，并提供學習信號。這不僅僅是簡單的標量獎勵，可能涉及到多目標優(yōu)化、內在動機（如好奇心、探索欲）以及對未來價值的預估。價值系統(tǒng)則負責評估不同狀態(tài)或行動的長期價值，指導智能體的決策。如何設計能夠引導智能體學習復雜行為、符合人類價值觀，并且能夠適應動態(tài)環(huán)境的獎勵和價值系統(tǒng)，是確保智能體目標一致性的核心。

獎勵范式

5. 情緒與動機建模 (Emotion and Motivation Modeling)

雖然在傳統(tǒng) AI 中較少提及，但論文認為，模擬類人情緒和動機對于構建更魯棒、更具適應性的智能體可能是有益的。情緒可以作為一種快速評估環(huán)境狀態(tài)和調整行為策略的啟發(fā)式機制，例如，“恐懼” 可能觸發(fā)規(guī)避行為，“好奇” 可能驅動探索。動機則為智能體提供持續(xù)行動的內在驅動力。當然，如何在 AI 中恰當、可控地實現(xiàn)這些機制，避免產生不可預測的副作用，是一個需要審慎探索的方向。

人類的情緒種類

6. 感知系統(tǒng) (Perception System)

智能體需要通過感知系統(tǒng)從環(huán)境中獲取信息。這不僅僅是處理文本，更包括視覺、聽覺、觸覺等多模態(tài)信息的輸入和理解。感知系統(tǒng)需要能夠從原始感官數(shù)據(jù)中提取有意義的特征，識別對象、理解場景，并將這些信息傳遞給認知核心和記憶系統(tǒng)。多模態(tài)融合、實時處理以及對噪聲和不確定性的魯棒性是感知系統(tǒng)面臨的主要挑戰(zhàn)。

人類與智能體的感知

7. 行動系統(tǒng) (Action System)

智能體最終需要通過行動系統(tǒng)與環(huán)境進行交互。這包括生成自然語言、執(zhí)行代碼、控制機器人肢體、在虛擬世界中導航等。行動系統(tǒng)需要將認知核心的決策轉化為具體的、可在環(huán)境中執(zhí)行的操作序列。行動的選擇需要考慮可行性、效率和潛在風險。學習精細的操作技能、處理連續(xù)的行動空間以及確保行動的安全可控是行動系統(tǒng)的關鍵要求。

動作的相關概念

Foundation Agent不再將智能體視為 LLM 的簡單應用，而是將其看作一個由認知、記憶、學習、感知、行動等多個核心組件構成的復雜、有機的系統(tǒng)。其核心意義在于提供了系統(tǒng)性框架，強調了自主性，關注協(xié)作與生態(tài)，并突出了安全與對齊。然而，實現(xiàn)這一愿景也面臨著技術復雜度高、需要龐大計算資源、評估困難、自進化可控性問題以及安全與對齊的根本性難題等巨大挑戰(zhàn)。

本文轉載自公眾號數(shù)字化助推器  作者：天涯咫尺TGH

原文鏈接：??https://mp.weixin.qq.com/s/xgeMOKt9dVIXrsyT3F7H4Q??