也許你還沒(méi)有注意到，人工智能系統(tǒng)最近的表現(xiàn)越來(lái)越令人驚訝。

例如， OpenAI 的新模型DALL-E 2可以根據(jù)簡(jiǎn)單的文本提示生成引人入勝的原始圖像。像 DALL-E 這樣的模型讓人們更難否認(rèn)人工智能具有創(chuàng)造力的概念。例如，考慮一下DALL-E對(duì)“一頭穿著牛仔夾克的嘻哈奶牛在錄音室錄制熱門(mén)單曲”的富有想象力的演繹?；蛘邔?duì)于更抽象的示例，查看DALL-E對(duì)舊 Peter Thiel 行的解釋“我們想要飛行汽車，而不是 140 個(gè)字符。”

與此同時(shí)，DeepMind 最近宣布了一種名為Gato的新模型，它可以單槍匹馬地執(zhí)行數(shù)百種不同的任務(wù)，從玩電子游戲到進(jìn)行對(duì)話，再到用機(jī)械臂堆疊現(xiàn)實(shí)世界的積木。幾乎所有以前的 AI 模型都能夠做一件事，而且只能做一件事——例如，下棋。因此，Gato 代表了朝著更廣泛、更靈活的機(jī)器智能邁出的重要一步。

而今天的大型語(yǔ)言模型 (LLM)——從 OpenAI 的 GPT-3 到 Google 的 PaLM 再到 Facebook 的 OPT——擁有令人眼花繚亂的語(yǔ)言能力。他們幾乎可以就任何主題進(jìn)行細(xì)微和深入的交談。他們可以自己生成令人印象深刻的原創(chuàng)內(nèi)容，從商業(yè)備忘錄到詩(shī)歌。僅舉一個(gè)最近的例子，GPT-3 最近撰寫(xiě)了一篇關(guān)于其自身的寫(xiě)得很好的學(xué)術(shù)論文，目前正在接受同行評(píng)審，以便在著名的科學(xué)期刊上發(fā)表。

這些進(jìn)步激發(fā)了人工智能社區(qū)關(guān)于技術(shù)發(fā)展方向的大膽猜測(cè)和熱烈討論。

一些可靠的人工智能研究人員認(rèn)為，我們現(xiàn)在距離“通用人工智能”（AGI）很近，這是一個(gè)經(jīng)常討論的基準(zhǔn)，指的是強(qiáng)大、靈活的人工智能，可以在任何認(rèn)知任務(wù)中勝過(guò)人類。上個(gè)月，一位名叫 Blake Lemoine 的 Google 工程師通過(guò)戲劇性地聲稱 Google 的大型語(yǔ)言模型LaMDA是有感知的而登上了頭條新聞。

對(duì)此類主張的抵制同樣強(qiáng)烈，許多 AI 評(píng)論員立即 否定了這種可能性。

那么，我們要如何看待人工智能領(lǐng)域最近取得的所有驚人進(jìn)展呢？我們應(yīng)該如何看待人工智能和人工智能感知等概念？

關(guān)于這些主題的公共話語(yǔ)需要以幾個(gè)重要的方式重新構(gòu)建。認(rèn)為超級(jí)智能人工智能即將到來(lái)的過(guò)度興奮的狂熱者，以及認(rèn)為人工智能最近的發(fā)展只是炒作的不屑一顧的懷疑論者，在他們對(duì)現(xiàn)代人工智能的一些基本方面的思考中都偏離了標(biāo)準(zhǔn)。

通用人工智能是一個(gè)不連貫的概念

人們經(jīng)常忽略的關(guān)于人工智能的一個(gè)基本原則是，人工智能從根本上不同于人類智能。

將人工智能過(guò)于直接地類比為人類智能是錯(cuò)誤的。今天的人工智能不僅僅是人類智能的一種“進(jìn)化程度較低”的形式。明天的超先進(jìn)人工智能也不會(huì)只是人類智能的更強(qiáng)大版本。

許多不同的智能模式和維度是可能的。最好不要將人工智能視為對(duì)人類智能的不完美模仿，而是將其視為一種獨(dú)特的、外星的智能形式，其輪廓和能力在基本方面與我們不同。

為了使這一點(diǎn)更具體，簡(jiǎn)單地考慮一下今天的人工智能狀態(tài)。今天的人工智能在某些領(lǐng)域遠(yuǎn)遠(yuǎn)超過(guò)了人類的能力——而在其他領(lǐng)域卻遠(yuǎn)遠(yuǎn)落后于人類。

舉個(gè)例子：半個(gè)世紀(jì)以來(lái)， “蛋白質(zhì)折疊問(wèn)題”一直是生物學(xué)領(lǐng)域的一大挑戰(zhàn)。簡(jiǎn)而言之，蛋白質(zhì)折疊問(wèn)題需要根據(jù)蛋白質(zhì)的一維氨基酸序列預(yù)測(cè)蛋白質(zhì)的三維形狀。數(shù)十年來(lái)，世界上幾代最聰明的人共同努力，未能解決這一挑戰(zhàn)。2007 年的一位評(píng)論員將其描述為“現(xiàn)代科學(xué)中最重要但尚未解決的問(wèn)題之一”。

2020 年底，DeepMind 的一個(gè)名為 AlphaFold 的 AI 模型為蛋白質(zhì)折疊問(wèn)題提供了解決方案。正如長(zhǎng)期從事蛋白質(zhì)研究的 John Moult 所說(shuō)，“這是歷史上第一次由 AI 解決嚴(yán)重的科學(xué)問(wèn)題?！?/p>

破解蛋白質(zhì)折疊之謎需要空間理解和高維推理形式，而這根本超出了人類思維的掌握范圍。但并非超出現(xiàn)代機(jī)器學(xué)習(xí)系統(tǒng)的掌握范圍。

與此同時(shí)，任何健康的人類兒童都擁有遠(yuǎn)遠(yuǎn)超過(guò)世界上最復(fù)雜的人工智能的“具身智能”。

從很小的時(shí)候起，人類就可以毫不費(fèi)力地做一些事情，比如玩接球、走過(guò)陌生的地形，或者打開(kāi)廚房的冰箱吃點(diǎn)零食。事實(shí)證明，人工智能很難掌握這些物理能力。

這被封裝在“莫拉維克悖論”中。正如 AI 研究員莫拉維克（ Hans Moravec） 在 1980 年代所說(shuō)：“讓計(jì)算機(jī)在智力測(cè)試或下棋時(shí)表現(xiàn)出成人水平的表現(xiàn)相對(duì)容易，但很難或不可能讓計(jì)算機(jī)具備一歲兒童的技能。感知和流動(dòng)性?！?/p>

莫拉維克對(duì)這個(gè)不直觀的事實(shí)的解釋是進(jìn)化論的：“在人類大腦的大型、高度進(jìn)化的感覺(jué)和運(yùn)動(dòng)部分中，編碼了十億年關(guān)于世界性質(zhì)以及如何在其中生存的經(jīng)驗(yàn)。[另一方面，]我們稱之為高級(jí)推理的深思熟慮的過(guò)程，我相信，是人類思想的最薄薄的一層，它之所以有效，僅僅是因?yàn)樗玫搅诉@種更古老、更強(qiáng)大、雖然通常是無(wú)意識(shí)的感覺(jué)運(yùn)動(dòng)知識(shí)的支持。我們都是知覺(jué)和運(yùn)動(dòng)領(lǐng)域的杰出奧運(yùn)選手，如此出色以至于我們讓困難看起來(lái)很容易?！?/p>

直到今天，機(jī)器人仍在與基本的身體能力作斗爭(zhēng)。就在幾周前，一組 DeepMind 研究人員在一篇新論文中寫(xiě)道：“與非常年幼的孩子相比，當(dāng)前的人工智能系統(tǒng)對(duì)‘直覺(jué)物理學(xué)’的理解相形見(jiàn)絀?！?/p>

這一切的結(jié)果是什么？

沒(méi)有通用人工智能這樣的東西。

AGI 既不可能也不不可能。相反，它作為一個(gè)概念是不連貫的。

智能不是單一的、定義明確的、可概括的能力，甚至也不是一組特定的能力。在最高層次上，智能行為只是一個(gè)代理獲取和使用有關(guān)其環(huán)境的知識(shí)來(lái)追求其目標(biāo)。因?yàn)榇嬖诖罅浚ɡ碚撋鲜菬o(wú)限的）不同類型的代理、環(huán)境和目標(biāo)，所以智能可以通過(guò)無(wú)數(shù)種不同的方式表現(xiàn)出來(lái)。

AI大神Yann LeCun總結(jié)得很好：“沒(méi)有通用人工智能這種東西……即使是人類也是專用的?！?/p>

將“通用”或“真正的”人工智能定義為可以做人類可以做的事情（但更好）的人工智能——認(rèn)為人類智能是通用智能——是短視的以人為中心。如果我們將人類智能作為人工智能發(fā)展的最終錨和標(biāo)準(zhǔn)，我們將錯(cuò)過(guò)機(jī)器智能可能具備的所有強(qiáng)大、深刻、意想不到、對(duì)社會(huì)有益、完全非人類的能力。

想象一下，一個(gè)人工智能對(duì)地球大氣的組成有了原子級(jí)的理解，并且可以以極高的準(zhǔn)確度動(dòng)態(tài)預(yù)測(cè)整個(gè)系統(tǒng)將如何隨著時(shí)間的推移而演變。想象一下，如果它可以設(shè)計(jì)出一種精確、安全的地球工程干預(yù)措施，我們?cè)诖髿庵械哪承┑胤匠练e一定數(shù)量的某些化合物，從而抵消人類持續(xù)碳排放造成的溫室效應(yīng)，從而減輕全球變暖對(duì)地球表面的影響。

想象一下，一個(gè)人工智能可以將人體中的每一個(gè)生物和化學(xué)機(jī)制都細(xì)致入微地理解到分子水平。想象一下，如果它可以因此開(kāi)出量身定制的飲食來(lái)優(yōu)化每個(gè)人的健康，可以精確診斷任何疾病的根本原因，可以產(chǎn)生新的個(gè)性化療法（即使它們還不存在）來(lái)治療任何嚴(yán)重的疾病。

想象一下，一個(gè)人工智能可以發(fā)明一種協(xié)議，以一種安全地產(chǎn)生比消耗更多的能量的方式融合原子核，從而將核聚變解鎖為一種廉價(jià)、可持續(xù)、無(wú)限豐富的人類能源。

所有這些場(chǎng)景在今天仍然是幻想，對(duì)于今天的人工智能來(lái)說(shuō)是遙不可及的。關(guān)鍵在于，人工智能的真正潛力在于這樣的道路——隨著新型智能形式的發(fā)展，這些智能形式完全不同于人類所能做到的任何事情。如果人工智能能夠?qū)崿F(xiàn)這樣的目標(biāo)，誰(shuí)會(huì)在乎它在整體上匹配人類能力的意義上是否是“通用的”？

將我們自己定位于“通用人工智能”會(huì)限制和削弱這項(xiàng)技術(shù)的發(fā)展?jié)摿?。而且——因?yàn)槿祟愔悄懿皇且话阒悄?，一般智能不存在——它首先在概念上是不連貫的。

成為人工智能是什么感覺(jué)？

這給我們帶來(lái)了一個(gè)關(guān)于人工智能大局的相關(guān)話題，這個(gè)話題目前正受到公眾的廣泛關(guān)注：人工智能是否或者永遠(yuǎn)是有感知能力的問(wèn)題。

谷歌工程師 Blake Lemoine上個(gè)月公開(kāi)斷言谷歌的一個(gè)大型語(yǔ)言模型已經(jīng)變得有意識(shí)，這引發(fā)了一波爭(zhēng)議和評(píng)論浪潮。（在形成任何明確的意見(jiàn)之前，值得自己閱讀Lemoine 和 AI 之間討論的完整記錄。）

大多數(shù)人——尤其是人工智能專家——認(rèn)為 Lemoine 的說(shuō)法是錯(cuò)誤的和不合理的。

谷歌在官方回應(yīng)中表示：“我們的團(tuán)隊(duì)已經(jīng)審查了布萊克的擔(dān)憂，并告知他證據(jù)不支持他的說(shuō)法?！?nbsp;斯坦福大學(xué)教授 Erik Brynjolfsson認(rèn)為，感知人工智能可能還需要 50 年的時(shí)間。加里馬庫(kù)斯插話稱 Lemoine 的說(shuō)法是“胡說(shuō)八道”，并得出結(jié)論說(shuō)“這里沒(méi)有什么可看的?！?/p>

整個(gè)討論的問(wèn)題——包括專家輕描淡寫(xiě)的解雇——的問(wèn)題在于，根據(jù)定義，感知的存在與否是不可證明的、不可證偽的、不可知的。

當(dāng)我們談?wù)摳兄獣r(shí)，我們指的是代理人的主觀內(nèi)在體驗(yàn)，而不是任何外在的智力表現(xiàn)。沒(méi)有人——不是 Blake Lemoine、不是 Erik Brynjolfsson、不是 Gary Marcus——可以完全確定高度復(fù)雜的人工神經(jīng)網(wǎng)絡(luò)在內(nèi)部體驗(yàn)或不體驗(yàn)什么。

1974 年，哲學(xué)家托馬斯·內(nèi)格爾發(fā)表了一篇題為《成為蝙蝠是什么感覺(jué)？》的文章。作為 20 世紀(jì)最有影響力的哲學(xué)論文之一，這篇文章將眾所周知的難以捉摸的意識(shí)概念歸結(jié)為一個(gè)簡(jiǎn)單、直觀的定義：如果有某種東西愿意成為那個(gè)代理人，那么代理人就是有意識(shí)的。例如，做我的隔壁鄰居，甚至做他的狗都像是什么東西；但做他的郵箱一點(diǎn)也不像。

該論文的一個(gè)關(guān)鍵信息是，不可能以有意義的方式確切地知道成為另一個(gè)生物體或物種的感覺(jué)。其他有機(jī)體或物種越不像我們，它的內(nèi)部體驗(yàn)就越難以接近。

內(nèi)格爾以蝙蝠為例來(lái)說(shuō)明這一點(diǎn)。他之所以選擇蝙蝠，是因?yàn)樽鳛椴溉閯?dòng)物，它們是高度復(fù)雜的生物，但它們對(duì)生活的體驗(yàn)與我們截然不同：它們會(huì)飛，它們使用聲納作為感知世界的主要手段，等等。

正如 Nagel 所說(shuō)（值得全文引用論文中的幾段）：

“我們自己的經(jīng)驗(yàn)為我們的想象力提供了基本材料，因此想象力的范圍是有限的。試想一個(gè)人的胳膊上有蹼，使人在黃昏和黎明時(shí)可以飛來(lái)飛去，嘴里有蟲(chóng)子，這無(wú)濟(jì)于事；一個(gè)人的視力很差，通過(guò)反射的高頻聲音信號(hào)系統(tǒng)感知周圍的世界；那個(gè)人整天倒掛在閣樓上。

“就我所能想象的（這不是很遠(yuǎn)）而言，它只告訴我像蝙蝠一樣行事會(huì)是什么樣子。但這不是問(wèn)題。我想知道蝙蝠成為蝙蝠是什么感覺(jué)。然而，如果我試圖想象這一點(diǎn)，我就會(huì)被限制在我自己的思想資源中，而這些資源不足以完成這項(xiàng)任務(wù)。我無(wú)法通過(guò)想象對(duì)我當(dāng)前經(jīng)驗(yàn)的補(bǔ)充，或者通過(guò)想象逐漸從中減去的片段，或者通過(guò)想象一些加法、減法和修改的組合來(lái)實(shí)現(xiàn)它?！?/p>

與蝙蝠相比，人工神經(jīng)網(wǎng)絡(luò)對(duì)我們?nèi)祟悂?lái)說(shuō)更加陌生和難以接近，蝙蝠至少是哺乳動(dòng)物和碳基生命形式。

同樣，太多評(píng)論者在這個(gè)話題上犯的基本錯(cuò)誤（通常甚至沒(méi)有考慮過(guò)）是假設(shè)我們可以簡(jiǎn)單地將我們對(duì)人類感知或智能的期望映射到人工智能。

我們無(wú)法以任何直接或第一手的方式確定甚至思考人工智能的內(nèi)在體驗(yàn)。我們根本無(wú)法確定。

那么，我們?nèi)绾尾拍芤愿挥谐尚У姆绞教幚?AI 感知這個(gè)話題呢？

我們可以從圖靈（Alan Turing） 在 1950 年首次提出的圖靈測(cè)試中獲得靈感。圖靈測(cè)試經(jīng)常受到批評(píng)或誤解，而且肯定是不完美的，它作為 AI 領(lǐng)域的參考點(diǎn)經(jīng)受住了時(shí)間的考驗(yàn)，因?yàn)樗蹲降搅四承┗疽?jiàn)解關(guān)于機(jī)器智能的本質(zhì)。

圖靈測(cè)試承認(rèn)并接受了我們永遠(yuǎn)無(wú)法直接訪問(wèn)人工智能內(nèi)部體驗(yàn)的現(xiàn)實(shí)。它的全部前提是，如果我們想衡量人工智能的智能，我們唯一的選擇是觀察它的行為，然后得出適當(dāng)?shù)耐普?。（需要明確的是，圖靈關(guān)注的是評(píng)估機(jī)器的思考能力，而不一定是它的感知能力；不過(guò)，就我們的目的而言，相關(guān)的是基本原理。）

侯世達(dá)(Douglas Hofstadter) 特別雄辯地闡述了這個(gè)想法：“你怎么知道當(dāng)我與你交談時(shí)，我內(nèi)心正在發(fā)生任何類似于你所說(shuō)的‘思考’的事情？圖靈測(cè)試是一個(gè)了不起的探針——就像物理學(xué)中的粒子加速器。就像在物理學(xué)中一樣，當(dāng)您想了解原子或亞原子水平上發(fā)生的事情時(shí)，由于您無(wú)法直接看到它，因此您可以將加速粒子從相關(guān)目標(biāo)上散射并觀察它們的行為。由此您可以推斷出目標(biāo)的內(nèi)部性質(zhì)。圖靈測(cè)試將這個(gè)想法延伸到頭腦中。它將思想視為不直接可見(jiàn)但可以更抽象地推斷其結(jié)構(gòu)的“目標(biāo)”。通過(guò)從目標(biāo)頭腦中‘分散’問(wèn)題，你可以了解它的內(nèi)部運(yùn)作，就像在物理學(xué)中一樣。”

為了在關(guān)于人工智能感知的討論中取得任何進(jìn)展，我們必須將自己定位在可觀察的表現(xiàn)上，作為內(nèi)部體驗(yàn)的代理；否則，我們會(huì)在不嚴(yán)謹(jǐn)、空洞、死胡同的辯論中兜圈子。

Erik Brynjolfsson 確信今天的人工智能沒(méi)有感知能力。然而，他的評(píng)論表明他相信人工智能最終將是有感知的。當(dāng)他遇到真正有感知力的人工智能時(shí)，他怎么會(huì)知道呢？他會(huì)尋找什么？

你是你的所作所為

在有關(guān) AI 的辯論中，懷疑論者經(jīng)常以簡(jiǎn)化的方式描述該技術(shù)，以淡化其能力。

正如一位 AI 研究人員在回應(yīng) Blake Lemoine 新聞時(shí)所說(shuō)的那樣：“使用更高維度的參數(shù)函數(shù)從符號(hào)和數(shù)據(jù)處理中希望獲得意識(shí)、理解或常識(shí)是很神秘的?！?nbsp;在最近的一篇博客文章中，Gary Marcus 認(rèn)為，今天的 AI 模型甚至都不是“遠(yuǎn)程智能的”，因?yàn)椤八鼈兯龅闹皇瞧ヅ淠Ｊ讲暮Ａ拷y(tǒng)計(jì)數(shù)據(jù)庫(kù)中提取數(shù)據(jù)。” 他認(rèn)為 Google 的大型語(yǔ)言模型 LaMDA 只是“文字電子表格”。

這種推理方式具有誤導(dǎo)性，是微不足道的。畢竟，如果我們這樣選擇，我們可以以類似的簡(jiǎn)化方式構(gòu)建人類智能：我們的大腦“只是”大量以特定方式相互連接的神經(jīng)元，“只是”我們頭骨內(nèi)的基本化學(xué)反應(yīng)的集合。

但這沒(méi)有抓住重點(diǎn)。人類智能的力量和魔力不在于特定的機(jī)制，而在于以某種方式產(chǎn)生的令人難以置信的涌現(xiàn)能力。簡(jiǎn)單的基本功能可以產(chǎn)生深刻的智力系統(tǒng)。

最終，我們必須根據(jù)人工智能的能力來(lái)判斷它。

如果我們將五年前的人工智能狀態(tài)與今天的技術(shù)狀態(tài)進(jìn)行比較，毫無(wú)疑問(wèn)，由于自我監(jiān)督學(xué)習(xí)等領(lǐng)域的突破，其能力和深度以顯著（并且仍在加速）的方式擴(kuò)展，變壓器和強(qiáng)化學(xué)習(xí)。

人工智能不像人類智能。人工智能何時(shí)以及是否會(huì)變得有感知力——在 Nagel 的表述中，它何時(shí)以及是否曾經(jīng)“像某樣?xùn)|西”成為一個(gè)人工智能——它將無(wú)法與成為人類的情況相提并論。人工智能是它自己獨(dú)特的、陌生的、迷人的、快速發(fā)展的認(rèn)知形式。

重要的是人工智能可以實(shí)現(xiàn)什么。在基礎(chǔ)科學(xué)（如 AlphaFold）方面取得突破，應(yīng)對(duì)氣候變化等物種層面的挑戰(zhàn)，促進(jìn)人類健康和長(zhǎng)壽，加深我們對(duì)宇宙如何運(yùn)作的理解——這些結(jié)果是對(duì) AI 力量和復(fù)雜性的真正考驗(yàn)。