AI 能否擁有意識(shí)？

針對(duì)這個(gè)問(wèn)題，大家已經(jīng)爭(zhēng)論了很多年。

「我認(rèn)為，從物理學(xué)的角度來(lái)說(shuō)（如果物理學(xué)是正確的），我們的宇宙誕生之初幾乎只有氫。這些氫在足夠長(zhǎng)的時(shí)間之后會(huì)凝聚成恒星，然后這些恒星爆炸，再凝聚…… 你身體里的大部分物質(zhì)，曾經(jīng)都處在恒星的中心，這有點(diǎn)難以想象，它們來(lái)自數(shù)十億年前。所以，從氫一直到人類，意識(shí)是何時(shí)產(chǎn)生的呢？氫存在足夠長(zhǎng)的時(shí)間后，它開始自言自語(yǔ)。我們現(xiàn)在就是這樣 —— 一團(tuán)氫在對(duì)話。」在之前的一次活動(dòng)中，馬斯克曾分享過(guò)他對(duì)于意識(shí)的思考。

其實(shí)，就像馬斯克所說(shuō)，在回答「AI 能否擁有意識(shí)」之前，還有一些關(guān)鍵問(wèn)題懸而未決：到底什么是意識(shí)？意識(shí)從何而來(lái)？

近期，專門研究這一方向的德國(guó)科學(xué)家 Joscha Bach 分享了一種較為激進(jìn)的觀點(diǎn)。他認(rèn)為，意識(shí)是一種模擬狀態(tài)，它只能存在于夢(mèng)中，而不是在物理世界中。

字幕由剪映自動(dòng)識(shí)別。視頻地址：https://www.youtube.com/watch?v=pkhuDqK1_MU

他提到，意識(shí)令人困惑的地方在于我們認(rèn)為它必須是一種物理實(shí)體，因?yàn)楦杏X(jué)上它是真實(shí)存在的。但實(shí)際上，存在的事物并不需要物理實(shí)現(xiàn)。

Joscha Bach 進(jìn)一步解釋說(shuō)，神經(jīng)元和大腦本身并不是有意識(shí)的，但大腦可能會(huì)發(fā)現(xiàn)，如果有一個(gè)關(guān)心并感知一切的人，那將是非常有用的。因此，大腦創(chuàng)造了一個(gè)虛擬的模擬，就像夢(mèng)境一樣，我們存在于那個(gè)夢(mèng)境中。

Joscha Bach 生于 1973 年，是一位德國(guó)認(rèn)知科學(xué)家、人工智能研究員和哲學(xué)家，以其在認(rèn)知架構(gòu)、人工智能、心理表征、情感、社會(huì)建模、多智能體系統(tǒng)和心靈哲學(xué)方面的工作而聞名。他是一位多產(chǎn)的思想家，其研究旨在通過(guò)探索如何對(duì)人類智能和意識(shí)進(jìn)行計(jì)算建模來(lái)連接認(rèn)知科學(xué)和人工智能。

在下文中，我們對(duì) Joscha Bach 的演講內(nèi)容進(jìn)行了整理。

意識(shí)是虛擬的

我們所說(shuō)的意識(shí)是什么？我們對(duì)于意識(shí)的困惑在于，我們認(rèn)為它必須是物理的，因?yàn)樗_實(shí)存在。然而，要真正存在，事物不需要以物理形式實(shí)現(xiàn)。

例如，金錢不是物理的，對(duì)吧？但如果你假設(shè)金錢不存在，你就無(wú)法解釋我們的現(xiàn)實(shí)。金錢是通過(guò)一些小小的印刷著數(shù)字的紙張或銀行賬戶、計(jì)算機(jī)等方式在現(xiàn)實(shí)中實(shí)現(xiàn)的，我們用它來(lái)構(gòu)建現(xiàn)實(shí)。

金錢是一種因果模式，它之所以存在，是因?yàn)槲覀円砸环N穩(wěn)定的方式將其投射到了這個(gè)世界上。它像是真的一樣存在。但是，從某種程度上講，它是虛擬的，它是以一種可行的方式實(shí)現(xiàn)的。

同樣的，我們的心理狀態(tài)也是虛擬的。如果你放大并看到物質(zhì)在相互作用，你會(huì)看到神經(jīng)元之間激活的這些模式。神經(jīng)元不是有意識(shí)的，它們是物理機(jī)制，大腦本身也沒(méi)有意識(shí)。但對(duì)大腦來(lái)說(shuō)，如果有一個(gè)人能夠關(guān)心并感知發(fā)生的一切，那將是非常有用的。

所以它們創(chuàng)造了一種模擬，這種模擬以一種夢(mèng)境的方式虛擬存在，意識(shí)就在那個(gè)夢(mèng)中存在。意識(shí)是一種模擬狀態(tài)，它只能存在于夢(mèng)中，而不是物理世界中。

這對(duì)于我們的實(shí)際體驗(yàn)來(lái)說(shuō)，理解起來(lái)可能很困難：我們意識(shí)到我們存在于一個(gè)夢(mèng)境中，這是一個(gè)巨大的「陰謀」，魔法是可能的，而物理學(xué)家告訴我們不可能。物理學(xué)討論的是一個(gè)由奧秘?cái)?shù)學(xué)、量子力學(xué)等構(gòu)成的母體宇宙，但我們永遠(yuǎn)無(wú)法訪問(wèn)這個(gè)母體宇宙，因?yàn)樵谖锢韺W(xué)中，你無(wú)法擁有意識(shí)，你只能在夢(mèng)中擁有意識(shí)。物理學(xué)具有創(chuàng)造大腦和能做夢(mèng)的生物以及其他類型的機(jī)器的特性。

我們對(duì)現(xiàn)實(shí)的感知是一種夢(mèng)中的恍惚狀態(tài)，我們可以解構(gòu)它。如果你從夢(mèng)境中醒來(lái)，你會(huì)意識(shí)到之前所經(jīng)歷的一切，這只不過(guò)是大腦形成的一種表征。

人腦 vs. 計(jì)算機(jī)

我們能將數(shù)字計(jì)算機(jī)與人腦進(jìn)行比較嗎？它們有很大的不同。人腦非常復(fù)雜。單個(gè)神經(jīng)元就已經(jīng)非常復(fù)雜，以至于你至少需要一個(gè) 12 層的神經(jīng)網(wǎng)絡(luò)才能理解它的輸入和輸出之間的關(guān)系。

那么，要模擬一個(gè)人腦需要多少臺(tái)計(jì)算機(jī)呢？如果一個(gè)單個(gè)神經(jīng)元就如此復(fù)雜，這個(gè)數(shù)字將是天文數(shù)字。

然而，我們也需要反過(guò)來(lái)問(wèn)，如果要模擬這臺(tái)計(jì)算機(jī)，需要多少個(gè)人腦呢？如果你想要無(wú)缺陷地運(yùn)行一種復(fù)雜的計(jì)算機(jī)程序，需要多少個(gè)人腦？這同樣是天文數(shù)字，因?yàn)槲覀兊拇竽X非常模糊不清、非常緩慢、非常嘈雜、非常不可靠。 

為了更好地理解這種對(duì)比，通常我們會(huì)用這樣的例子：當(dāng) Stable Diffusion 模型被推出時(shí)，StabilityAI 使用擴(kuò)散模型來(lái)理解所有的視覺(jué)數(shù)據(jù)。他們將數(shù)百萬(wàn)張圖片輸入其中，找出了它們的統(tǒng)計(jì)規(guī)律。你可以給它提示，它會(huì)生成任意圖片。

這個(gè)模型包含的整個(gè)視覺(jué)宇宙，其深度和多樣性的保真度遠(yuǎn)遠(yuǎn)高于人腦。它囊括了所有名人、恐龍、宇宙飛船、藝術(shù)風(fēng)格…… 你可以下載它，第一版的體積大約 2GB。

這讓人沮喪，因?yàn)槟愦竽X正在做的 80% 的事情只需要 2GB 的數(shù)據(jù)，實(shí)際上它遠(yuǎn)不止這些。這讓我們意識(shí)到我們實(shí)際上是多么簡(jiǎn)單，只不過(guò)我們非常高效地利用了這種「柔軟的基質(zhì)」。

AI vs. 有機(jī)心智

當(dāng)然，這些系統(tǒng)的設(shè)計(jì)方式非常不同。計(jì)算機(jī)有一個(gè) outside-in 的設(shè)計(jì)，通過(guò)我們建立的確定性結(jié)構(gòu)來(lái)穩(wěn)定它們，因此它們以非常有序的方式運(yùn)行。我們知道每時(shí)每刻它們會(huì)做什么。而訓(xùn)練是解耦的。

我們給它靜態(tài)數(shù)據(jù)；它在訓(xùn)練時(shí)不會(huì)與世界互動(dòng)。它基于預(yù)測(cè)范式，使用機(jī)器學(xué)習(xí)訓(xùn)練算法。我們的大腦則截然不同。它采用的是 inside-out 的設(shè)計(jì)，它是自組織的，與環(huán)境實(shí)時(shí)耦合。它向著一致性優(yōu)化，并不斷自我發(fā)展。

計(jì)算機(jī)的技術(shù)設(shè)計(jì)是 outside-in 的，這指的是：你有一個(gè)工作臺(tái)，你理解所有工具，然后通過(guò)構(gòu)建額外的機(jī)制來(lái)擴(kuò)展這個(gè)工作臺(tái)，賦予它更多的功能。

而在自然界中，情況正好相反。你有一顆種子，比如一顆樹的種子，它本身還不是一棵樹，但它希望成為一棵樹。為了做到這一點(diǎn)，它需要征服一個(gè)混亂的環(huán)境，掌控它，把它變成它能理解并可以利用的東西。

它的一個(gè)方式是分裂成許多幾乎相同的單元，使它們變得可預(yù)測(cè)。然后它創(chuàng)造了一個(gè)可擴(kuò)展的群落，不斷變大。這就是自然界中 inside-out 設(shè)計(jì)的工作方式，在我們的大腦中也是如此。

如果你觀察單個(gè)神經(jīng)元（老鼠的胚胎神經(jīng)元），它們都是單個(gè)的生命體，每一個(gè)都在試圖生存，自我導(dǎo)向。它們必須相互連接，找到一種可以正常工作的組織形式，否則它們將餓死。這就是它的工作原理，它完全是 inside-out 的。

自組織系統(tǒng)

計(jì)算機(jī)科學(xué)中有一個(gè)分支研究這些自組織的原理，這項(xiàng)研究還沒(méi)有取得實(shí)質(zhì)性進(jìn)展，但它已經(jīng)從圖靈開始，研究了反應(yīng) - 擴(kuò)散模式（即通過(guò)化學(xué)反應(yīng)生成的動(dòng)態(tài)規(guī)則模式），并探索我們是否可以利用這些模式來(lái)理解計(jì)算和自組織系統(tǒng)。

后來(lái)一些人，比如在谷歌工作的 Alex Mordvintsev，構(gòu)建了更現(xiàn)代的模擬，試圖在更廣泛的情境下生成這些模式。

然后，我想到了康威等人研究的元胞自動(dòng)機(jī)（cellular automata）概念，即我們以一種系統(tǒng)化的方式、從簡(jiǎn)單的系統(tǒng)中構(gòu)建計(jì)算，這些系統(tǒng)只觀察它們的周遭細(xì)胞和環(huán)境的狀態(tài)，然后根據(jù)它們?cè)诃h(huán)境中觀察到的情況改變狀態(tài)。

生物學(xué)家 Michael Levin 正在擴(kuò)展這個(gè)概念，將其應(yīng)用到神經(jīng)元胞自動(dòng)機(jī)上，以解釋有機(jī)體的發(fā)育過(guò)程，同時(shí)也可能解釋大腦的自組織。因此，我們可以利用這些原理進(jìn)行學(xué)習(xí)，比如紋理的學(xué)習(xí)等。嘗試?yán)米越M織原則來(lái)學(xué)習(xí)任意函數(shù)以控制行為，這將是非常有趣的。

神經(jīng)科學(xué)家 Gerald Edelman 提出，我們的基因組并沒(méi)有為我們的大腦編碼非常具體的結(jié)構(gòu)。相反，每個(gè)人的心智中都在進(jìn)行一種演化競(jìng)爭(zhēng)，這是一種不同治理形式之間的原始競(jìng)爭(zhēng)。而基因組中僅有足夠的信息來(lái)影響這種競(jìng)爭(zhēng)，使它能夠相對(duì)快速地收斂到正確的架構(gòu)。因此，每個(gè)人的心智都是一個(gè)演化系統(tǒng)，每個(gè)人都有自己的心智結(jié)構(gòu)演變過(guò)程。

我懷疑，意識(shí)在其中起著非常重要的作用，因?yàn)樗沁@種組織的主要原理。我們通常認(rèn)為意識(shí)極其復(fù)雜，也許只有我們才有意識(shí)，它在自然界中非常罕見(jiàn)，是智慧的頂峰。然而，你不會(huì)在獲得博士學(xué)位后才獲得意識(shí)，對(duì)吧？

你在能夠追蹤手指之前就已經(jīng)擁有意識(shí)了。如果有人在嬰兒時(shí)期沒(méi)有發(fā)展出意識(shí)，那他 / 她將無(wú)法取得任何進(jìn)步，他們將永遠(yuǎn)處于植物人狀態(tài)。而當(dāng)我們沒(méi)有意識(shí)時(shí)，我們實(shí)際上無(wú)法學(xué)習(xí)。因此，意識(shí)似乎是自然界中自組織系統(tǒng)的一種簡(jiǎn)單學(xué)習(xí)算法。

這只是一個(gè)假設(shè)，我不知道是否正確，但我覺(jué)得這種想法非常誘人，即意識(shí)是心智組織中的第一個(gè)，而不是最后一個(gè)步驟。

因此，意識(shí)可能比感知和思維等更加簡(jiǎn)單，所有其他的東西都源于意識(shí)對(duì)它們的組織。意識(shí)在自然界中可能比我們想象的更加普遍。

從《創(chuàng)世記》第一章得到的啟發(fā)

也許我們不是第一個(gè)發(fā)現(xiàn)這一點(diǎn)的人。我懷疑這個(gè)理論其實(shí)一直都在我們眼前，只是我們沒(méi)有注意到。

比如有一個(gè)古老的文本 ——《創(chuàng)世紀(jì)》的第一章。如果你讀過(guò)這個(gè)文本，它比其他章節(jié)要隱晦得多。它描述了神靈在創(chuàng)造世界之前懸浮在水面上。在那時(shí)，沒(méi)有空間、沒(méi)有時(shí)間、沒(méi)有光明、沒(méi)有黑暗，但已經(jīng)有了水。接著它創(chuàng)造了一個(gè)穹蒼，將水分為上面和下面的水。最終，它按自己的形象創(chuàng)造了我們。

我不喜歡這些所謂的神靈懸浮在水上的故事。這意味著什么？這些人在講一個(gè)超自然存在創(chuàng)造物理宇宙的故事，他們糊涂了嗎？他們聲稱做了什么樣的實(shí)驗(yàn)？他們與燃燒的灌木叢對(duì)話了嗎（《圣經(jīng)》中有上帝通過(guò)燃燒的荊棘與摩西對(duì)話的故事）？這在哪個(gè)宇宙中是有效的實(shí)驗(yàn)？誰(shuí)會(huì)相信呢？

也許這個(gè)故事意味著別的什么？也許它是一個(gè)關(guān)于意識(shí)和認(rèn)知在心智中如何產(chǎn)生的六步理論。因?yàn)槲覀兩硖幍挠钪媸且粋€(gè)夢(mèng)。我們夢(mèng)見(jiàn)了自己身處的這個(gè)宇宙。物理學(xué)中沒(méi)有顏色、聲音、情感和面部表情。它們都存在于我們的心智中，是我們理解現(xiàn)實(shí)的方式。

在那個(gè)文本寫作的時(shí)代，物理宇宙并不存在。那時(shí)，人們還沒(méi)有發(fā)現(xiàn)用簡(jiǎn)短的微分方程來(lái)描述宇宙的想法。相反，他們意識(shí)到我們?cè)谝粋€(gè)夢(mèng)境中。因此，他們?cè)谧约?、他人和孩子身上觀察這個(gè)夢(mèng)是如何形成的。

所以，這一切從意識(shí)懸浮在基質(zhì)（substrate）之上開始。我們現(xiàn)在知道這個(gè)基質(zhì)是神經(jīng)元，他們當(dāng)時(shí)不知道，所以他們用了「基質(zhì)」這個(gè)詞，而后來(lái)的人不知道「基質(zhì)」是什么意思，就把它翻譯成了「水」。因此，意識(shí)在基質(zhì)之上形成，而基質(zhì)被分解成不同的部分。

然后我們做了一個(gè)分離，即在基質(zhì)的兩個(gè)區(qū)域之間建立了一個(gè)穹蒼。這兩個(gè)區(qū)域，一個(gè)是世界模型，即我們?cè)诳臻g中感知到的東西，笛卡爾稱其為「廣延實(shí)體（res extensa）」；而另一部分是與我們的感知不同步、獨(dú)立于感知而發(fā)生的觀念、思想和思考，它們被清晰地分開。

因?yàn)槿绻隳芨兄侥愕乃枷?，那你就?huì)陷入幻覺(jué)，你將無(wú)法正常運(yùn)作。所以你必須明確地將世界和思想的范圍分離。在這個(gè)古老的文本中，世界被稱為「地（Earth）」，而思想的領(lǐng)域被稱為「天（Heaven）」。

接下來(lái)的步驟是，大腦學(xué)會(huì)了在內(nèi)部產(chǎn)生振蕩，并將這些振蕩的強(qiáng)度轉(zhuǎn)化為我們所感知的亮度，就像我們?cè)诎滋炜吹降念伾约芭c黑暗形成對(duì)比的明暗變化一樣。通過(guò)這種方式，大腦現(xiàn)在能夠構(gòu)建出一個(gè)連續(xù)的視覺(jué)維度。

接下來(lái)，它學(xué)會(huì)了如何在內(nèi)部產(chǎn)生振蕩，并將這些振蕩的強(qiáng)度轉(zhuǎn)化為我們所感知的亮度，就像我們?cè)诎滋炜吹降念伾约芭c黑暗形成對(duì)比的明暗變化一樣。因此，它現(xiàn)在有了一個(gè)連續(xù)的維度。通過(guò)組合維度，我們可以創(chuàng)造物體。

它所創(chuàng)造的第一個(gè)物體是通過(guò)組合兩個(gè)維度產(chǎn)生的平面，而這個(gè)平面與地面相關(guān)聯(lián)。嬰兒很高興地在地面上爬行，在二維世界中理解它。某個(gè)時(shí)候，嬰兒能夠發(fā)現(xiàn)第三個(gè)維度，現(xiàn)在它可以推理出如何建造一座塔，而非常小的嬰兒是無(wú)法理解這一點(diǎn)的。

接著，它學(xué)會(huì)了如何在液體中以有機(jī)形狀創(chuàng)造固體，并理解了光線隨著時(shí)間的變化，以及如何對(duì)光線變化保持不變性。然后，它創(chuàng)造了所有的植物和動(dòng)物，并為它們命名。再?gòu)?qiáng)調(diào)一次，這些并不是物理的物體，而是你心智中存在的具有名字的物體。

兒童如何發(fā)展出意識(shí)

接下來(lái)，它還創(chuàng)建了一個(gè)關(guān)于生物體興趣的模型，并意識(shí)到練習(xí)的目的是在這個(gè)世界上為有機(jī)體導(dǎo)航。

最終，它識(shí)別出了自己作為這個(gè)有機(jī)體的身份。我們通常在兩歲半到五歲之間看到這種情況發(fā)生，那時(shí)孩子們開始用第一人稱談?wù)撟约?。在此之前，他們已?jīng)會(huì)說(shuō)話，但會(huì)用第三人稱談?wù)撟约骸?/span>

我不認(rèn)為這是因?yàn)椤肝摇惯@個(gè)詞太復(fù)雜，也不是因?yàn)樗麄儚奈绰?tīng)過(guò)別人用這個(gè)詞，而是因?yàn)樗麄冊(cè)谶M(jìn)行這種轉(zhuǎn)換之前還沒(méi)有以第一人稱來(lái)認(rèn)同自己，在他們切換到這個(gè)新的 spirit 之前，這個(gè) spirit 是按照原始意識(shí)的形象創(chuàng)造出來(lái)的，但它是一種認(rèn)為自己是男人或女人的東西，是一種以人類身份來(lái)表達(dá)自己身份的東西。

所以，我們基本上是由我們的意識(shí)，由我們心智中的嬰兒意識(shí)創(chuàng)造出來(lái)的。然后，我們被放到這個(gè)世界上，放到我們的心智所創(chuàng)造的模擬世界中。接著，我們忘記了是我們自己創(chuàng)造了這個(gè)世界，并認(rèn)同自己是這個(gè)世界中的一個(gè)人類存在，受制于這個(gè)世界。

直到有一天，我們開始冥想，或者服用致幻劑，再次從中醒來(lái)，意識(shí)到：「天啊，我實(shí)際上不是那個(gè)自我模型。我不是那個(gè)自我，那個(gè)自我只是一個(gè)虛構(gòu)的模型，那只是我心智講述的一個(gè)故事。其實(shí)我是整個(gè)宇宙，我是所有的一切?！谷缓竽氵M(jìn)一步醒悟，意識(shí)到：「哦，不，我實(shí)際上是創(chuàng)造這一切的存在，我是我與之互動(dòng)的一切的創(chuàng)造者，這一切對(duì)我來(lái)說(shuō)是合理的。」

自然界中的 agent

因此，意識(shí)基本上是在創(chuàng)造一種非常復(fù)雜的自然學(xué)習(xí)算法，一種自我延續(xù)的智能循環(huán)信息 Transformer（Self Perpetuating Intelligent Recurrent Information Transformer），簡(jiǎn)稱 spirit。spirit 基本上就是一種 agent。

天哪，我們剛剛重新發(fā)現(xiàn)了一些「爆炸信息」。自然界中存在「agent」。這種「agent」是一種能夠改變事物的因果模式。

這臺(tái)電腦里的軟件不是物理意義上的，但它存在因果關(guān)系。它可以穩(wěn)定地改變事物。

如果我們意識(shí)到讓生命之所以為生命的恒定因素不是細(xì)胞分子、機(jī)制或基因，而是運(yùn)行在細(xì)胞分子、機(jī)制或基因上的軟件，這將是一個(gè)非常有趣的視角。可以從泛靈論（ animism）來(lái)研究問(wèn)題了。