「什么神奇的技巧讓我們變得智能？竅門就是沒有竅門。智慧的力量源于我們巨大的多樣性，而不是任何單一的、完美的原則?！?

——人工智能先驅(qū) 馬文·明斯基（Marvin Minsky）

目前來看，在機器通向高級智能的道路上，以ChatGPT為代表的大模型（LLMs）應(yīng)該是必須經(jīng)過的里程碑之一，它們以聊天對話的人機交互方式在多個領(lǐng)域的復(fù)雜任務(wù)解決方面取得了非常耀眼的成就。

隨著LLMs的發(fā)展，AI Agents（AI智能體）之間的交互框架也逐漸興起，尤其是在一些復(fù)雜的專業(yè)領(lǐng)域，以角色扮演等模式預(yù)置的智能體完全有能力代替人類用戶在任務(wù)中扮演的角色，同時，智能體之間通過以協(xié)作和競爭形式的動態(tài)交互往往能夠帶來意想不到的效果，這就是被OpenAI人工智能專家Andrej Karpathy等人看作是「通向AGI最重要的前沿研究方向」的AI Agents。

該領(lǐng)域發(fā)展的時間線如下[2]：

• 「CAMEL」（駱駝：大模型心智交互框架）- 發(fā)布于2023.3.21
• 「AutoGPT」 - 發(fā)布于2023.3.30
• 「BabyGPT」 - 發(fā)布于2023.4.3
• 「Westworld」 simulation（斯坦福西部世界小鎮(zhèn)） — 發(fā)布于2023.4.7

作為最早基于ChatGPT的autonomous agents知名項目，KAUST研究團隊的大模型心智交互CAMEL框架（駱駝）重點探索了一種稱為角色扮演（role-playing）的新型合作代理框架，該框架可以有效緩解智能體對話過程中出現(xiàn)的錯誤現(xiàn)象，從而有效引導(dǎo)智能體完成各種復(fù)雜的任務(wù)，人類用戶只需要輸入一個初步的想法就可以啟動整個過程。目前，CAMEL已經(jīng)被國際人工智能頂級會議NeurIPS 2023錄用。

論文鏈接：https://ghli.org/camel.pdf

項目主頁：https://www.camel-ai.org/

AI Agents是當下大模型領(lǐng)域備受關(guān)注的話題，用戶可以引入多個扮演不同角色的LLM Agents參與到實際的任務(wù)中，Agents之間會進行競爭和協(xié)作等多種形式的動態(tài)交互，進而產(chǎn)生驚人的群體智能效果。

作者對CAMEL框架設(shè)計了靈活的模塊化功能，包括不同代理的實現(xiàn)、各種專業(yè)領(lǐng)域的提示示例和AI數(shù)據(jù)探索框架等，因此CAMEL可以作為一個基礎(chǔ)的Agents后端，支持AI研究者和開發(fā)者更加輕松地開發(fā)有關(guān)于多智能體系統(tǒng)、合作人工智能、博弈論模擬、社會分析、人工智能倫理等方面的應(yīng)用。

具體的，作者通過涉及兩種角色扮演的合作場景，生成了兩個大型的指令數(shù)據(jù)集AI Society和AI Code，以及兩個單輪問答數(shù)據(jù)集AI Math和AI Science，用于探索LLM涌現(xiàn)能力的研究。

CAMEL框架

下圖展示了CAMEL中的role-playing框架，人類用戶需要首先制定一個想要實現(xiàn)的想法或目標，例如：開發(fā)一個用于股市場的交易機器人。

這項任務(wù)涉及的角色是AI助理智能體（使其扮演Python程序員角色）和AI用戶智能體。

作者首先為CAMEL設(shè)置了一個任務(wù)細化器（Task Specifier），該細化器會根據(jù)輸入的想法來制定一個較為詳細的實現(xiàn)步驟，隨后AI助理智能體（AI Assistant）和AI用戶智能體（AI User）通過聊天的方式來進行協(xié)作通信，各自一步步完成指定的任務(wù)。

其中協(xié)作通信通過系統(tǒng)級的消息傳遞機制來實現(xiàn)，令  為傳遞給AI助理智能體的系統(tǒng)消息， 為傳遞給AI用戶智能體的系統(tǒng)消息。
隨后為AI助理智能體和AI用戶智能體分別實例化為兩個ChatGPT模型  和 ，相應(yīng)得到AI助理智能體  和AI用戶智能體  。
角色分配完成后，AI助理智能體和AI用戶智能體會按照指令跟隨的方式協(xié)作完成任務(wù)，令  為時間  時刻獲得的用戶指令消息， 為AI助理智能體給出的解決方案，因而  時刻得到的對話消息集為：

在下一個時刻  ，AI用戶智能體  會根據(jù)歷史對話消息集  ，來生成新的指令  。然后再將新指令消息與歷史對話消息集一起傳遞給AI助理智能體  來生成新一時刻的解決方案：

CAMEL使用示例

1. 協(xié)作角色扮演（cooperate role-playing）

CAMEL內(nèi)置的協(xié)作式role-playing框架可以在人類用戶不具備專業(yè)知識的情況下，通過Agents之間的協(xié)作方式完成復(fù)雜任務(wù)，下圖展示了CAMEL開發(fā)股市場交易機器人的例子，其中AI助理智能體的扮演的角色是一名Python程序員，而AI用戶智能體扮演的角色為一名股交易員。

在role-playing框架中，AI智能體都具有特定領(lǐng)域的專業(yè)知識，此時我們只需要指定一個原始想法的Prompt，隨后兩個AI智能體就會圍繞著這一想法展開工作，在上圖中，用戶智能體提出交易機器人需要有對股評論的情緒分析功能，隨后助理智能體直接給出了安裝情緒分析和股交易所需的python庫的腳本。

隨著任務(wù)的進行，用戶智能體給出的指示也會越來越明確，上圖中的指示為：定義一個函數(shù)以使用Yahoo Finance API獲取特定股的最新股價。助理智能體會根據(jù)該指示直接生成一段代碼來解決需求。

2. 具身智能體（embodied agent）

在先前的研究中，AI Agents可以理解為在模擬一些操作，而沒有與現(xiàn)實世界交互或使用外部工具執(zhí)行操作，目前的LLMs已經(jīng)具備與互聯(lián)網(wǎng)或其他工具API交互的能力，CAMEL也提供了能夠在物理世界中執(zhí)行各種操作的具身智能體（embodied agent），它們可以瀏覽互聯(lián)網(wǎng)、閱讀文檔、創(chuàng)建圖像、音頻和視頻等內(nèi)容，甚至可以直接執(zhí)行代碼。

上圖展示了CAMEL通過使用embodied agent調(diào)用HuggingFace提供的Stable Diffusion工具鏈生成駱駝科圖像的樣例，在這一過程中，embodied agent首先會推理出駱駝科所包含的所有動物，隨后調(diào)用擴散模型生成圖像并進行保存。

3. critic在環(huán)（critic-in-the-loop）

為了增強role-playing框架的可控性，作者團隊還為CAMEL設(shè)計了一種critic-in-the-loop，這種機制受到了蒙特卡洛樹搜索（MTCS）方法的啟發(fā)，它可以結(jié)合人類偏好實現(xiàn)樹搜索的決策邏輯來解決任務(wù)，CAMEL可以設(shè)置一個中間評價智能體（critic）來根據(jù)用戶智能體和助理智能體出的各種觀點進行決策來完成最終任務(wù)，整體流程如下圖所示。

考慮這樣一個場景，我們讓CAMEL主持一場很具體的科研項目討論會，而科研項目的主題「大型語言模型」，CAMEL可以將用戶智能體的角色設(shè)置為一個博士后，將助理智能體的角色設(shè)置為博士生，而中間評價智能體的角色設(shè)置為教授。任務(wù)指示博士生來幫助博士后制定研究計劃，需要圍繞大模型的倫理展開研究。

在接到任務(wù)后，博士后智能體首先拋出了關(guān)于這一項目的三個觀點，表明項目應(yīng)該首先從調(diào)研大模型倫理方面的相關(guān)工作著手。

隨后教授智能體會根據(jù)這三個觀點給出自己的看法。并且認為觀點2最為合理的，即研究大模型歧視性算法。同時還會給出另外兩個觀點的缺陷，例如觀點1缺乏更加清晰的結(jié)構(gòu)，觀點3的研究范圍太窄等等。

在教授發(fā)言之后，博士生智能體會進行更加具體的項目規(guī)劃，例如直接列出一些大模型倫理安全方向的相關(guān)文獻，并且討論如何開展具體的研究。

實驗效果

本文的性能評估主要從三個方面進行，并且采用兩個gpt-3.5-turbo作為實驗智能體，實驗的數(shù)據(jù)集使用CAMEL框架生成的四個AI數(shù)據(jù)集，其中AI Society和AI Code側(cè)重于智能體的對話效果，而AI Math和AI Science側(cè)重于智能體的問題解決能力。

1. Agent評估

在這一部分，作者從AI Society和AI Code數(shù)據(jù)集中分別隨機選擇 100 個任務(wù)進行評估，然后使用CAMEL框架和單個gpt-3.5-turbo進行對比實驗。

結(jié)果評估方面分為兩部分，一方面由人類受試者對兩種方法給出的解決方案給出453份投票數(shù)據(jù)，來決定哪種方案更加可行。另一方面，作者提示GPT4模型對兩種方案直接給出評分，具體的對比數(shù)據(jù)如下表所示。

從上表中可以看出，CAMEL框架給出的解決方案在人類評估和GPT4評估中均大幅優(yōu)于gpt-3.5-turbo給出的解決方案，其中人類評估和GPT4評估的總體趨勢高度一致。

2. 使用GPT-4對ChatBot評估

在這一部分，作者在CAMEL生成的四個數(shù)據(jù)集上對LLaMA-7B模型進行了逐步的微調(diào)，通過向LLM中不斷注入來自社會、代碼、數(shù)學(xué)和科學(xué)等不同領(lǐng)域的知識，來觀察模型對知識發(fā)現(xiàn)的接受效果。

作者首先從AI Society數(shù)據(jù)集開始，讓模型了解人類的互動常識和社會動態(tài)，隨后AI Code和其他數(shù)據(jù)集的注入，模型獲得了編程邏輯和語法的知識，同時拓寬了模型對科學(xué)理論、經(jīng)驗觀察和實驗方法的理解。

上表展示了模型在20個Society任務(wù)、20個代碼編寫任務(wù)、20個數(shù)學(xué)任務(wù)和60個科學(xué)任務(wù)上的測試效果，可以看到在每次添加數(shù)據(jù)集時，模型在已訓(xùn)練過的任務(wù)域上都會表現(xiàn)得更好。

3. HumanEval

為了進一步評估CAMEL框架的代碼編寫任務(wù)解決能力，作者在HumanEval和HumanEval+兩個評估基準上進行了實驗，實驗結(jié)果如下表所示。

上表中清楚地證明了CAMEL框架的卓越性能，它不僅遠遠超過了LLaMA-7B模型，而且還大大超過了Vicuna-7B模型，這表明使用CAMEL生成的數(shù)據(jù)集在增強LLM處理編碼相關(guān)任務(wù)方面有獨特的效果。

CAMEL AI開源社區(qū)

值得一提的是，CAMEL作者團隊正在構(gòu)建了一個非常完善的CAMEL AI開源社區(qū)，社區(qū)Github倉庫已經(jīng)得到了3600+的star數(shù)，社區(qū)中涵蓋了CAMEL中各種智能體的實現(xiàn)、數(shù)據(jù)生成pipeline、數(shù)據(jù)分析工具和已生成的數(shù)據(jù)集，以支持AI Agents及其他方面的研究，社區(qū)目前已吸引了諸多開源愛好者貢獻代碼。

距離CAMEL項目編寫第一行代碼到現(xiàn)在已有9個月，CAMEL-AI.org開源研究技術(shù)社區(qū)已經(jīng)吸引超過20名來自KAUST/劍橋/索邦大學(xué)/NUS/CMU/芝加哥大學(xué)/斯坦福/杜克大學(xué)/北大/上交/哈工大/西電/東北大學(xué)/成信大以及工業(yè)界等獨立代碼貢獻者。

社區(qū)正在尋找全職/兼職/實習貢獻者、工程師和研究人員加入一起學(xué)習和探索如何推動構(gòu)建智能體社會的邊界，杰出貢獻者有機會參與框架和其他研究項目論文的撰寫投稿。

如果感興趣加入CAMEL-AI.org的社區(qū)，可以將簡歷發(fā)送至camel.ai.team@gmail.com或者添加微信號CamelAIOrg進行咨詢！