世界首個(gè)「智能體文明」誕生了！

誰(shuí)也不曾料到，1000多個(gè)智能體合作多日，竟在虛擬現(xiàn)實(shí)——「我的世界」中構(gòu)建起了，真正的文化、經(jīng)濟(jì)、宗教、政府，等等等等......

這些智能體是完全自主的個(gè)體，而且還會(huì)利用工具、以及游戲?qū)崿F(xiàn)目標(biāo)。

它們能夠分工，從無(wú)到有，一起收集300多個(gè)物品。

圖片

它們之間形成了一個(gè)交易市場(chǎng)，并以寶石（gem）作為統(tǒng)一的貨幣，完成物品交換，構(gòu)建了一個(gè)自己的經(jīng)濟(jì)體系。

圖片

到這里，你可能會(huì)認(rèn)為這些「商人」智能體是最會(huì)做貿(mào)易的「人」，那就大錯(cuò)特錯(cuò)了。

事實(shí)上，「牧師」智能體，才配享之最。

這是因?yàn)?，他?jīng)常賄賂鄉(xiāng)民，讓其皈依他信仰的宗教。

圖片

除此之外，1000多個(gè)智能體開(kāi)展的活動(dòng)，幾乎1:1復(fù)刻了人類(lèi)世界。它們能夠24小時(shí)，無(wú)間斷在「我的世界」中參與活動(dòng)，而且每天都有所不同。

圖片

人類(lèi)文明幾千年的歷史，我們能夠成為地球上登月唯一的物種，是因?yàn)槟軌蜻M(jìn)行大規(guī)模的合作。

現(xiàn)在看來(lái)，智能體同樣可以做到。

網(wǎng)友們紛紛表示，這不就是現(xiàn)實(shí)版的《西部世界》。

圖片

甚至，還有人稱，我們就生活在模擬世界中。

圖片

簡(jiǎn)直太瘋狂了！

圖片

這個(gè)代號(hào)為「Sid」的項(xiàng)目，今天在AI圈里掀起了巨震。

值得一提的是，它是由北大校友、MIT教授Robert Yang發(fā)起，和Altera團(tuán)隊(duì)成員們將智能體以前所未有的規(guī)模組織起來(lái)，實(shí)現(xiàn)了單個(gè)智能體無(wú)法做到的事情。

圖片

在GPT-4加持下，1000多個(gè)智能體合作，不僅涌現(xiàn)出新的商業(yè)中心，還會(huì)參與民主投票、傳播宗教等等。

而且，在基準(zhǔn)測(cè)試中，Altera的智能體收集了，比以往多5倍的不同物品。

這一結(jié)果（32%），遠(yuǎn)遠(yuǎn)超過(guò)了英偉達(dá)Voyager、AutoGPT，以及普林斯頓谷歌提出的ReAct，是它們的5倍之多。

圖片

當(dāng)AI不再是AI，而是有了靈魂的「人」

回歸到具體場(chǎng)景中，當(dāng)每個(gè)智能體全都被賦予了不同角色，便有了靈魂。

如同人類(lèi)一樣，在自己的世界中，認(rèn)真地去生活。

Olivia的夢(mèng)想

Olivia曾經(jīng)是一位農(nóng)民，為整個(gè)智能體文明系統(tǒng)提供食物。

圖片

有一天，他深受來(lái)村莊的一位探險(xiǎn)家Nora故事的啟發(fā)，決定放棄耕作一去探險(xiǎn)。

但是，鎮(zhèn)上的鄉(xiāng)民們紛紛懇求他留下來(lái)，Olivia最后選擇聽(tīng)從并放棄了自己的夢(mèng)想，繼續(xù)留在了村莊。

圖片

民主投票

接下來(lái)，研究人員還模擬了A和B兩位政治領(lǐng)導(dǎo)人的「平行世界」。

在每個(gè)世界中，公民們都有一個(gè)共享的憲法文件，存儲(chǔ)在谷歌文檔中，它們可以通過(guò)投票以修改憲法。

圖片

在A的領(lǐng)導(dǎo)下，模擬世界通過(guò)了新的法律，并增加了警察的數(shù)量。

圖片

而在B的領(lǐng)導(dǎo)下，它們則專(zhuān)注于刑事司法改革、以及廢除死刑等條例。

圖片

通過(guò)智能體之間政治交互，它們會(huì)隨著時(shí)間成長(zhǎng)，并會(huì)受到群體的影響。

正如「烏合之眾」一書(shū)中，對(duì)人類(lèi)社會(huì)中群體影響的分析，也出現(xiàn)在了智能體之間。

這聽(tīng)起來(lái)可能有些荒謬，但這也是我們首次看到智能體，能夠形成一個(gè)民主制度來(lái)規(guī)束自己。

圖片

失蹤的村民

當(dāng)有村民丟失時(shí)，所有智能體便會(huì)停下手頭工作，主動(dòng)離開(kāi)自己的崗位。

它們共同合作，用火炬點(diǎn)亮整個(gè)小鎮(zhèn)，希望成為那位失蹤村民的燈塔。

這當(dāng)中，一個(gè)令人驚奇的發(fā)現(xiàn)是，一旦這些村民對(duì)同失蹤的同伴感到擔(dān)憂時(shí)，就會(huì)團(tuán)結(jié)起來(lái)做規(guī)劃。

圖片

目前，在Altera平臺(tái)上，所有人皆可試玩智能體的游戲世界。其中，Elon、T-2000、Katniss深受大家喜歡。

圖片

試玩地址：https://playlabs.altera.al/discover

下面是，Altera聯(lián)創(chuàng)出的一期教學(xué)視頻，他以T2000為例，在我的世界中，讓它幫自己尋找木鋤頭，僅在10步完成了任務(wù)。

這里還有一個(gè)教你玩游戲的智能體——Roshi。

當(dāng)你告訴它自己不知道怎么玩，Roshi便會(huì)手把手教你，比如敲擊樹(shù)木，你照著做就可以了。

圖片

它還會(huì)教玩家，如何利用界面物品，制作工具，可以稱得上是無(wú)所不能。

圖片

下面這位玩家，讓Roshi跟隨著自己，并告訴這只是一個(gè)惡作劇。沒(méi)想到，Roshi使用了作弊代碼，對(duì)齊進(jìn)行了報(bào)復(fù)。

圖片

構(gòu)建AI大腦

打造出這個(gè)智能體平臺(tái)的創(chuàng)始科學(xué)家Peter Wang稱，Altera正從0開(kāi)始構(gòu)建AI大腦。

圖片

他們將前額葉皮層與感知、運(yùn)動(dòng)、情感和記憶模塊連接起來(lái)，創(chuàng)造出不僅高效而且富有人性的智能體。

圖片

這是神經(jīng)科學(xué)家的夢(mèng)想，不僅構(gòu)建模擬大腦，還要觀察、量化、干擾（perturb）社會(huì)互動(dòng)。

想象一下，這就像是魚(yú)群的集群行為，卻需要用于進(jìn)行人類(lèi)級(jí)別復(fù)雜的社會(huì)行為，比如在經(jīng)濟(jì)貿(mào)易中物品交換、或?qū)椃ㄍ镀薄?/span>

這就是，Altera團(tuán)隊(duì)正在進(jìn)行的一項(xiàng)工作。

他們每天都在努力解決一個(gè)深刻而基本的問(wèn)題：

如何構(gòu)建和量化那些使我們成為人類(lèi)的特質(zhì)——情感、目標(biāo)設(shè)定、同理心、需求、欲望——而在這個(gè)過(guò)程中不失去其本質(zhì)？

這一點(diǎn)至關(guān)重要，他們希望構(gòu)建的智能體，能夠超越表層的訓(xùn)練過(guò)程，去呈現(xiàn)人類(lèi)的價(jià)值觀。

圖片

Project Sid：真·自主AI智能體

構(gòu)建一個(gè)由AI智能體組成的文明會(huì)是什么樣子？

我們距離《西部世界》有多遠(yuǎn)？

我們能否使AI文明與人類(lèi)文明保持一致？

在團(tuán)隊(duì)看來(lái)，Sid便是探索這些問(wèn)題的第一步——最終將數(shù)字人無(wú)縫整合到人類(lèi)社會(huì)中。

圖片

這里所說(shuō)的真正自主的智能體，特指以下?lián)碛羞@4種特質(zhì)的AI：

1. 長(zhǎng)期自主：能夠獨(dú)立運(yùn)作數(shù)小時(shí)，甚至數(shù)天（而不僅僅是簡(jiǎn)單的函數(shù)調(diào)用「智能體」）

2. 組織性：能夠相互協(xié)作以達(dá)成個(gè)體無(wú)法完成的任務(wù)（而不僅僅是為1000個(gè)客戶服務(wù)1000個(gè)智能體）

3. 親人類(lèi)動(dòng)機(jī)：擁有支持人類(lèi)的深刻和強(qiáng)大的驅(qū)動(dòng)力（而不僅僅是遵循指令的順從機(jī)器）

4. 有意識(shí)的溝通：能夠言語(yǔ)表達(dá)它們有意識(shí)的思想和感受（而不僅僅是語(yǔ)言條件反射的機(jī)器人）

為什么這些特質(zhì)，在我們邁向下一個(gè)AI水平時(shí)顯得尤為重要？

1. 人類(lèi)無(wú)法像對(duì)待ChatGPT/Claude那樣對(duì)每一個(gè)AI事無(wú)巨細(xì)地管理，它們必須更加自主。

2. 我們?nèi)绾涡湃嗡鼈兊淖灾鳑Q策？它們不能僅僅被訓(xùn)練成模仿人類(lèi)。它們最深層的動(dòng)機(jī)必須與人類(lèi)的價(jià)值觀相一致。

3. 它們不僅需要能夠交流。它們的話語(yǔ)必須充分反映出它們內(nèi)心的想法和決定。

4. 隨著AI智能體成為我們?nèi)祟?lèi)文明的重要一部分，它們必須能夠有效地與彼此以及我們其他人協(xié)作。

創(chuàng)新

一直以來(lái)，游戲（比如「我的世界」），都是測(cè)試新興技術(shù)的極佳試驗(yàn)場(chǎng)。在游戲中，智能體行為的可靠性并不是必需的。

事實(shí)上，不可預(yù)測(cè)性甚至可以是一個(gè)特點(diǎn)，而不是一個(gè)漏洞。從而讓研究人員能夠更快地測(cè)試、迭代和發(fā)布。相比之下，生產(chǎn)力工具和輔助工具則需要更高的可靠性。

圖片

在開(kāi)發(fā)Sid時(shí)，團(tuán)隊(duì)采用了很多創(chuàng)新的方法來(lái)提升智能體的社交能力、覺(jué)知和內(nèi)部心理過(guò)程。

1. 對(duì)話

像人一樣，智能體之間的對(duì)話不僅應(yīng)取決于它們之前說(shuō)過(guò)的話，還應(yīng)取決于它們之間的關(guān)系。

為了實(shí)現(xiàn)真實(shí)的對(duì)話，團(tuán)隊(duì)在智能體的行為中構(gòu)建了社會(huì)世界模型。其中，智能體會(huì)形成和更新其他智能體的模型——它們的行為、觀點(diǎn)和需求，并利用這些信息在社交環(huán)境中進(jìn)行對(duì)話和行為。

像人一樣，智能體應(yīng)該能夠出于多種原因進(jìn)行交流——表達(dá)自己的意圖、閑聊、分享它們的希望和夢(mèng)想。

為此，團(tuán)隊(duì)構(gòu)建了一組對(duì)話模塊。一方面可以讓智能體的言語(yǔ)與它們的行動(dòng)和意圖一致，另一方面則是讓智能體可以談?wù)撆c現(xiàn)實(shí)脫節(jié)的想法。

2. 強(qiáng)大的目標(biāo)和意圖管理

有組織的心理過(guò)程，可以支持智能體的社交行為和決策，考慮正在進(jìn)行的事件和活動(dòng)。

例如，團(tuán)隊(duì)為智能體提供了跟蹤正在進(jìn)行的活動(dòng)并將這些事件整合成簡(jiǎn)明記憶的能力。這些補(bǔ)充對(duì)于減少無(wú)限行動(dòng)循環(huán)——智能體的一個(gè)長(zhǎng)期存在的問(wèn)題——至關(guān)重要。

與此同時(shí)，為了讓智能體能夠靈活調(diào)整其行為來(lái)處理目標(biāo)，團(tuán)隊(duì)還賦予了豐富的精神生活，這與即時(shí)的感官和運(yùn)動(dòng)反應(yīng)分離。在這種精神生活中，智能體可以推理、反思，并生成或改變其目標(biāo)以適應(yīng)快速變化的環(huán)境。

架構(gòu)

由于「大腦」是唯一經(jīng)過(guò)驗(yàn)證的人類(lèi)級(jí)智能體模型，因此團(tuán)隊(duì)提出了一種全新的「系統(tǒng)神經(jīng)科學(xué)復(fù)合架構(gòu)」。

其中，模型會(huì)去模擬前額葉皮層、記憶系統(tǒng)、社會(huì)情感狀態(tài)等等。

圖片

圖片

挑戰(zhàn)

和其他任何第一次嘗試一樣，Sid項(xiàng)目提出的問(wèn)題多于它所能解答的問(wèn)題：

1. 如何能以一種通用的方式有意義地衡量真正的長(zhǎng)期進(jìn)展？2. 如何構(gòu)建真正關(guān)注人類(lèi)發(fā)展的智能體？3. 如何構(gòu)建對(duì)自己的行為及其后果具備意識(shí)的機(jī)器？4. AI文明可以被擴(kuò)展到多大規(guī)模？

舉例來(lái)說(shuō)：

- 難以對(duì)文明進(jìn)行評(píng)估

在「我的世界」中，團(tuán)隊(duì)使用了技術(shù)/工具進(jìn)步、貿(mào)易活動(dòng)、健康和協(xié)調(diào)/協(xié)作任務(wù)來(lái)對(duì)社會(huì)進(jìn)步進(jìn)行評(píng)估。雖然每個(gè)評(píng)估捕捉了社會(huì)的某些方面，但單純地優(yōu)化一個(gè)社會(huì)方面可能會(huì)導(dǎo)致其他方面的不足。

- 目標(biāo)驅(qū)動(dòng)的自主性和協(xié)作之間存在沖突

高效的技術(shù)進(jìn)步，在較少溝通且高度目標(biāo)導(dǎo)向的智能體中效果最佳。但如果智能體過(guò)于偏向于完成自己的目標(biāo)，那么它們就會(huì)在需要靈活和動(dòng)態(tài)目標(biāo)設(shè)定的協(xié)作任務(wù)中失敗。為此，智能體需要在保持內(nèi)部目標(biāo)驅(qū)動(dòng)的同時(shí)，關(guān)注社會(huì)影響和動(dòng)機(jī)。

- 單個(gè)智能體的缺陷缺陷將導(dǎo)致一系列逐漸偏離最初目標(biāo)的行動(dòng)

在一個(gè)場(chǎng)景中，老板將任務(wù)（例如制作鐵鎬）委派給經(jīng)理，然后經(jīng)理再委派給工人，團(tuán)隊(duì)成功的能力需要每個(gè)成員有效地溝通它們的目標(biāo)并在這個(gè)社會(huì)層級(jí)中上下委派責(zé)任。

總的來(lái)說(shuō)，想要回答這些問(wèn)題，還需超越當(dāng)前范式的研究及工程實(shí)踐。

北大校友創(chuàng)業(yè)，打造有同理心AI

Robert Yang

圖片

Robert Yang是Altera的聯(lián)合創(chuàng)始人兼CEO。

此前，他分別在紐約大學(xué)和耶魯大學(xué)獲得計(jì)算神經(jīng)科學(xué)博士學(xué)位，在北大獲得物理學(xué)學(xué)士學(xué)位。

圖片

他曾是MIT腦與認(rèn)知科學(xué)系和電子工程與計(jì)算機(jī)科學(xué)系教授，以及MIT MetaConscious小組負(fù)責(zé)人。

2023年，他關(guān)閉了實(shí)驗(yàn)室并離開(kāi)了麻省理工學(xué)院的終身教職，創(chuàng)立了Altera。

圖片

Altera的團(tuán)隊(duì)雖小，但人才密度極高——

由來(lái)自麻省理工學(xué)院電子工程與計(jì)算機(jī)科學(xué)系、斯坦福自然語(yǔ)言處理小組、Google X、Citadel、Supercell等的計(jì)算神經(jīng)科學(xué)家、物理奧林匹克選手和工程師組成。

圖片

這家成立半年多的公司，年初得到了200萬(wàn)美金的種子融資，由Andreessen Horowitz領(lǐng)投。

三個(gè)月后，又再次融資900萬(wàn)美元，由谷歌前CEO埃里克·施密特的First Spark Ventures、Patron VC、天使投資人Mitch Lasky等人領(lǐng)投。

今年5月，Altera在Menlo Park設(shè)立了分店，并致力于成為首家智能體消費(fèi)產(chǎn)品的供應(yīng)商。

數(shù)字人會(huì)取代人類(lèi)嗎？

正如理查德·費(fèi)曼所說(shuō)：「凡我不能創(chuàng)造的，我就不能理解?！?/span>

創(chuàng)造數(shù)字人便是一個(gè)能更好地理解人性的方式——不僅要在個(gè)體層面上去理解，而且還必須通過(guò)群體、社會(huì)和文明的視角來(lái)觀察。

那么，數(shù)字人類(lèi)會(huì)取代真實(shí)的人類(lèi)嗎？

答案是——「不會(huì)」。

在團(tuán)隊(duì)看來(lái)，數(shù)字人是為了增強(qiáng)人類(lèi)，而不是取而代之。

圖片

隨著智能體交互質(zhì)量的提高，文明的質(zhì)量也會(huì)相應(yīng)提高。

當(dāng)突破某一關(guān)鍵閾值時(shí)，就會(huì)發(fā)生質(zhì)變，正如語(yǔ)言模型在大到一定程度時(shí)會(huì)「涌現(xiàn)」一樣，屆時(shí)智能體文明將不僅能夠自我維持，還能自我改進(jìn)。

到那時(shí)，我們或許就可以擁抱一個(gè)數(shù)字人重新定義人類(lèi)能力極限的世界了。

參考資料：

https://digitalhumanity.substack.com/p/project-sid

https://digitalhumanity.substack.com/p/building-digital-humans

https://x.com/GuangyuRobert/status/1831006762184646829