[[344692]]

最近，我與我最喜歡的新晉思想家就高性能和低性能AI進(jìn)行了辯論，這讓我想起了自己一年多以前寫的東西，因此我決定拾起這些塵封的想法。人工智能的技術(shù)炒作太多了，有時(shí)應(yīng)該回到其哲學(xué)根源。而在圍繞AI的所有哲學(xué)爭(zhēng)論中，最重要的就是對(duì)強(qiáng)弱AI的爭(zhēng)論。

從技術(shù)角度來看，我贊成這樣的想法，即在實(shí)現(xiàn)某種形式的強(qiáng)大或通用AI的領(lǐng)域，我們實(shí)現(xiàn)了一兩個(gè)突破。但從哲學(xué)的角度來看，仍然存在一些需要調(diào)和的挑戰(zhàn)。許多挑戰(zhàn)都可以通過上世紀(jì)奧匈帝國數(shù)學(xué)家開創(chuàng)的晦澀理論以及神經(jīng)科學(xué)研究的領(lǐng)先領(lǐng)域之一來解釋。

在AI理論中，低性能AI系統(tǒng)通常只是看起來智能，而高性能AI機(jī)器則真正具備思考能力。這里的思考是指真正的思考，而不僅僅是模擬的思考。這種困境通常被稱為“高性能AI假設(shè)”。

[[344693]]

在一個(gè)用數(shù)字助理和算法擊敗圍棋世界冠軍和魔獸世界2團(tuán)隊(duì)的世界中，機(jī)器是否可以智能地行動(dòng)這個(gè)問題似乎很愚蠢。在有限的一些環(huán)境中，例如醫(yī)學(xué)研究、圍棋、旅行等，我們已經(jīng)能夠構(gòu)建大量可發(fā)揮其智能作用的AI系統(tǒng)。大多數(shù)專家都認(rèn)為低性能AI絕對(duì)是可能的，但對(duì)于高性能AI仍然存在極大的懷疑。

機(jī)器可以思考嗎?

自從艾倫·圖靈在1950年發(fā)表著名論文《計(jì)算機(jī)與智能》以來，這些問題就一直困擾著計(jì)算機(jī)科學(xué)家和哲學(xué)家。當(dāng)大多數(shù)科學(xué)家甚至無法就思維的正式定義達(dá)成共識(shí)時(shí)，確定這個(gè)問題的答案似乎也不公平。

為了說明圍繞高性能AI假設(shè)的困惑，我們可以借鑒著名計(jì)算機(jī)科學(xué)家Edsger Dijkstra的幽默表達(dá)。他在1984年的一篇論文中將機(jī)器是否可以思考的問題與諸如“潛艇會(huì)游泳嗎?”或“飛機(jī)能飛嗎?”之類的問題進(jìn)行了比較。

盡管這些問題看起來很相似，但大多數(shù)說英語的人都會(huì)同意，飛機(jī)實(shí)際上可以飛行，但潛艇不會(huì)游泳。這是為什么?這種比較的基本觀點(diǎn)是，如果沒有對(duì)思維的統(tǒng)一定義，那么對(duì)機(jī)器是否可以思考的癡迷似乎無關(guān)緊要。

在對(duì)高性能AI的主要反對(duì)意見中，從本質(zhì)上講，不可能確定機(jī)器是否能夠真正思考。該論證源于有史以來最著名的數(shù)學(xué)定理之一。

哥德爾不完全性定理

當(dāng)我們談?wù)摎v史上最偉大的數(shù)學(xué)理論對(duì)思維方式產(chǎn)生了廣泛的影響時(shí)，哥德爾的不完全性定理應(yīng)該有一席之地。

1931年，數(shù)學(xué)家?guī)鞝柼?middot;哥德爾(Kurt G?del)通過證明其著名的不完全性定理證明了演繹法的局限性。哥德爾定理指出了任何形式的可以進(jìn)行算術(shù)運(yùn)算的理論，但有真實(shí)的陳述在該理論內(nèi)沒有證據(jù)。

長期以來，不完全性定理一直被用作反對(duì)強(qiáng)人工智能的對(duì)象。該理論的支持者認(rèn)為，高性能AI主體將無法真正思考，因?yàn)樗鼈兪艿讲煌耆远ɡ淼南拗?，而人類思維顯然不受限制。

該論點(diǎn)引發(fā)了很多爭(zhēng)議，許多高性能AI的從業(yè)者也拒絕接受它。高性能AI學(xué)派最常講的論點(diǎn)是，無法確定人類的思維是否服從于哥德爾定理，因?yàn)槿魏巫C據(jù)都需要形式化人類知識(shí)，而我們知道這是不可能的。

意識(shí)論證

在人們關(guān)于AI的激烈辯論中，我最喜歡的論點(diǎn)是意識(shí)。機(jī)器真的可以思考還是可以模擬思考?如果機(jī)器在將來能夠進(jìn)行思考，這意味著它們將需要有意識(shí)(即意識(shí)其狀態(tài)和動(dòng)作)，因?yàn)橐庾R(shí)是人類思維的基石。

對(duì)高性能AI的懷疑引發(fā)了各種爭(zhēng)論，包括經(jīng)典的數(shù)學(xué)理論(例如G?del的不完全性定理)到AI平臺(tái)的純粹技術(shù)局限性。然而，生物學(xué)、神經(jīng)科學(xué)和哲學(xué)的交集仍然是爭(zhēng)論的焦點(diǎn)，并且與人工智能系統(tǒng)的意識(shí)有關(guān)。

什么是意識(shí)?

關(guān)于意識(shí)有很多定義和爭(zhēng)論，這足以勸退多數(shù)人繼續(xù)追究其在AI系統(tǒng)中的作用的論點(diǎn)。意識(shí)的大多數(shù)定義都涉及自我意識(shí)或?qū)嶓w了解其心理狀態(tài)的能力，但是，當(dāng)涉及到AI時(shí)，自我意識(shí)和精神狀態(tài)也沒有明確定義，因此我們就像飛速掉進(jìn)兔子洞一樣，陷入了迷茫無措。

為了適用于AI，意識(shí)理論需要更加務(wù)實(shí)和技術(shù)化，并且要少一些哲學(xué)性。我最喜歡的遵循這些原則的意識(shí)定義來自物理學(xué)獎(jiǎng)獲得者M(jìn)ichio Kaku，他是紐約大學(xué)理論物理教授，也是弦理論的創(chuàng)造者之一。

幾年前，Kaku博士提出了他所謂的“意識(shí)的時(shí)空理論”，將生物學(xué)和神經(jīng)科學(xué)等領(lǐng)域?qū)σ庾R(shí)的定義匯總在一起?？◣觳┦吭谄淅碚撝袑?duì)意識(shí)的定義如下：“意識(shí)是使用各種參數(shù)(例如溫度，空間，時(shí)間以及與他人有關(guān)的參數(shù))的多個(gè)反饋回路創(chuàng)建世界模型的過程，以實(shí)現(xiàn)目標(biāo)(例如尋找伴侶，食物，住所)。”

意識(shí)的時(shí)空定義直接適用于AI，因?yàn)樗诖竽X創(chuàng)建世界模型的能力，不僅基于空間(如動(dòng)物)，還基于與時(shí)間的關(guān)系(向后和向前)。從這個(gè)角度來看，卡庫博士將人類意識(shí)定義為“一種意識(shí)形式，它可以創(chuàng)建世界模型，然后通過評(píng)估過去來模擬未來，從而及時(shí)地對(duì)其進(jìn)行模擬。”換句話說，人類意識(shí)與我們對(duì)未來的計(jì)劃能力直接相關(guān)。

除了其核心定義外，意識(shí)的時(shí)空理論還包括幾種意識(shí)類型：

• 級(jí)別0：包括行動(dòng)不便的植物等生物，它們使用諸如溫度之類的少數(shù)參數(shù)創(chuàng)建其空間模型。
• 級(jí)別1：像爬行動(dòng)物這樣的生物，它們活動(dòng)并且具有神經(jīng)系統(tǒng)。這些生物使用更多其他參數(shù)來形成其空間模型。
• 級(jí)別2：諸如哺乳動(dòng)物之類的生物不僅建立在空間基礎(chǔ)上，而且還建立在與他人有關(guān)的世界模型上。
• 級(jí)別3：了解時(shí)間關(guān)系并具有想象未來的獨(dú)特能力的人類。

AI系統(tǒng)有意識(shí)嗎?

意識(shí)是AI圈中最激烈的辯論主題之一。這里的AI意識(shí)，指的是AI能夠自我意識(shí)到其“心理狀態(tài)”的能力。前文介紹了一個(gè)由著名物理學(xué)家Michio Kaku博士率先提出的框架，用于從四個(gè)不同的層面評(píng)估意識(shí)。

在卡庫博士的理論中，0級(jí)意識(shí)描述了諸如植物之類的生物，它們根據(jù)諸如溫度之類的一些參數(shù)評(píng)估其真實(shí)性。爬行動(dòng)物和昆蟲在使用包括空間在內(nèi)的新參數(shù)創(chuàng)建世界模型時(shí)表現(xiàn)出1級(jí)意識(shí)。2級(jí)意識(shí)涉及根據(jù)情感和與其他物種的關(guān)系創(chuàng)建世界模型。哺乳動(dòng)物是與2級(jí)意識(shí)相關(guān)的主要種群。最后，我們可以根據(jù)涉及未來模擬的世界模型將人類意識(shí)歸于3級(jí)意識(shí)。

基于Kaku博士的意識(shí)框架，我們可以評(píng)估當(dāng)前一代AI技術(shù)的意識(shí)水平。大多數(shù)專家都認(rèn)為，當(dāng)今的AI代理可以分為1級(jí)或2級(jí)早期意識(shí)。將AI代理排名為1級(jí)涉及許多因素，包括流動(dòng)性。

如今，許多AI代理已經(jīng)能夠?qū)崿F(xiàn)移動(dòng)性并根據(jù)其周圍的空間開發(fā)其環(huán)境模型。但是，大多數(shù)AI代理在受限的環(huán)境之外進(jìn)行操作都有很多困難。

空間評(píng)估并不是將AI代理置于1級(jí)意識(shí)的唯一因素。用于創(chuàng)建模型的反饋回路的數(shù)量是要考慮的另一個(gè)超重要因素。

讓我們以圖像分析為例。即使是最先進(jìn)的視覺AI算法，也是使用相對(duì)少量的反饋回路來識(shí)別對(duì)象。如果我們將這些模型與認(rèn)知能力，昆蟲和爬行動(dòng)物進(jìn)行比較，它們似乎并不復(fù)雜。所以，是的，當(dāng)前的人工智能技術(shù)具有昆蟲的意識(shí)。

進(jìn)入二級(jí)意識(shí)

一些AI技術(shù)已經(jīng)穩(wěn)定地展現(xiàn)出2級(jí)意識(shí)的特征，有幾個(gè)因素促成這一發(fā)展。人工智能技術(shù)正在獲得更高級(jí)的理解和模擬情緒，以及感知周圍的情緒反應(yīng)。

除了基于情感的AI技術(shù)發(fā)展外，AI代理在團(tuán)體環(huán)境中的運(yùn)行效率也越來越高，在團(tuán)體環(huán)境中，他們需要相互協(xié)作或競(jìng)爭(zhēng)才能生存。在某些情況下，小組合作甚至可以創(chuàng)造出新的認(rèn)知技能。具有2級(jí)意識(shí)的AI代理的最新案例，我們能想到DeepMind和OpenAI等公司的工作。

最近，DeepMind進(jìn)行了一些實(shí)驗(yàn)，其中需要AI代理住在資源有限的環(huán)境中。當(dāng)資源豐富和貧瘠時(shí)，人工智能代理表現(xiàn)出不同的行為。由于代理需要相互交互，因此行為發(fā)生了變化。

在最近的OpenAI模擬實(shí)驗(yàn)中也能找到一個(gè)有趣的示例，在該實(shí)驗(yàn)中，AI代理能夠使用少量符號(hào)創(chuàng)建自己的語言，以便更好地在其環(huán)境中共存。

主流的AI解決方案仍處于早期階段，但提高AI代理的意識(shí)水平是當(dāng)前AI技術(shù)堆棧中最重要的目標(biāo)之一，2級(jí)意識(shí)是下一個(gè)研究領(lǐng)域。

升至三級(jí)意識(shí)

目前，人工智能系統(tǒng)中的三級(jí)意識(shí)仍是一個(gè)活躍的辯論主題。但是，最近的系統(tǒng)(例如OpenAI Five或DeepMind Quake III)已經(jīng)清楚地顯示了AI代理進(jìn)行長期計(jì)劃和協(xié)作的能力，因此我們可能不日實(shí)現(xiàn)這個(gè)目標(biāo)。

AI系統(tǒng)有意識(shí)嗎?我的答案是肯定的。將Kaku博士的時(shí)空意識(shí)理論應(yīng)用到AI系統(tǒng)中，很明顯AI代理可以表現(xiàn)出一些基本的意識(shí)形式?？紤]到當(dāng)前AI技術(shù)的能力，我將AI代理的意識(shí)置于I級(jí)(爬行動(dòng)物)或II級(jí)基本水平。

至于三級(jí)，雖然距離尚遠(yuǎn)，但我認(rèn)為這絕不是天方夜譚。

本文轉(zhuǎn)載自微信公眾號(hào)「讀芯術(shù)」，可以通過以下二維碼關(guān)注。轉(zhuǎn)載本文請(qǐng)聯(lián)系讀芯術(shù)公眾號(hào)。