像人一樣，似乎是 AI 發(fā)展的最終目標(biāo)。

然而眾所周知，人類有智慧和愚蠢兩面， AI 要類人，是否也需要具備這兩面性呢?

從一開(kāi)始為測(cè)試 AI 是否能像人一樣而生的圖靈測(cè)試來(lái)看，人類在完成計(jì)算等任務(wù)時(shí)，算出來(lái)的答案可能存在一定的錯(cuò)誤率并且需要花一定的時(shí)間來(lái)完成計(jì)算，當(dāng)能立馬說(shuō)出正確答案的 AI 也模仿人類這樣的計(jì)算過(guò)程，人類和 AI 就無(wú)從判別，這便是 AI 模仿人類愚蠢，從而實(shí)現(xiàn)“類人”的一個(gè)方面。

從人類自身的成長(zhǎng)和進(jìn)化而言，從小時(shí)候蹣跚學(xué)步被自己絆倒開(kāi)始，人類一開(kāi)始犯的錯(cuò)誤或者說(shuō)愚蠢，會(huì)為未來(lái)的經(jīng)驗(yàn)和智慧鋪路。因而，看似一無(wú)是處的“愚蠢”，可能會(huì)為 AI 變得更加智能提供另外一種可能性。

本文便聚焦 AI 是否也需要向人類一樣擁有愚蠢這一屬性進(jìn)行了探索，相信會(huì)給大家一些思考和啟發(fā)。

[[331097]]

一. 愚蠢 or 智慧

我們通常似乎都知道評(píng)價(jià)一個(gè)人很聰明的含義。反之，當(dāng)給一個(gè)人貼上“愚蠢”的標(biāo)簽時(shí)，問(wèn)題隨之而來(lái)，這究竟意味著什么?例如，愚蠢是否意味著以零和的方式缺乏智慧，或者愚蠢是否占據(jù)了自己的空間，并作為一個(gè)平行的等同物與智慧為鄰?

針對(duì)這一沉重的問(wèn)題，我們不妨來(lái)做一個(gè)思考實(shí)驗(yàn)。假設(shè)我們有一個(gè)裝滿智慧的桶，我們把智力當(dāng)成是有形的東西，可以把它倒進(jìn)手邊的一個(gè)桶里，也可能把它從桶里倒出來(lái)。讓裝滿智慧的水桶倒在地上，還剩下什么?

一個(gè)答案是，桶現(xiàn)在已經(jīng)完全空了，桶里什么都沒(méi)有了，也就是說(shuō)，水桶變得空空如也。另一個(gè)答案是，水桶里的智慧被清空，便剩下一個(gè)由愚蠢組成的殘骸。

換句話說(shuō)，一旦你喪失了所謂的聰明，剩下的就是愚蠢。

這是一個(gè)看似深?yuàn)W的討論，但稍后你會(huì)看到，這一觀點(diǎn)對(duì)許多重要的事物都有相當(dāng)深刻的影響，尤其是對(duì)于人工智能的發(fā)展和崛起而言。

智慧可以在沒(méi)有愚蠢的情況下存在嗎?或者從實(shí)際意義上講，如果智慧與愚蠢并存，又總是必須存在一定數(shù)量的愚蠢嗎?有人斷言，智慧和愚蠢是禪宗般的陰陽(yáng)。 從這個(gè)角度講，除非你也有一種可以作為衡量標(biāo)準(zhǔn)的愚蠢的表象，否則將無(wú)法洞悉智慧的本質(zhì)。

據(jù)說(shuō)隨著時(shí)間的流逝，人類變得越來(lái)越聰明，從而降低了他們的愚蠢水平。你可能認(rèn)為智慧和愚蠢在玩一個(gè)零和游戲，也就是說(shuō)，當(dāng)你的智慧上升的同時(shí)，你的愚蠢水平正在下降(同樣，如果你的愚蠢上升，這意味著你的智慧下降)。人類能達(dá)到100%的聰明和0%的愚蠢嗎?還是無(wú)論我們多么努力地去變得100%聰明，我們注定總會(huì)有一些愚蠢?

回到桶的比喻，有些人會(huì)說(shuō)，人永遠(yuǎn)不會(huì)出現(xiàn)徹底而又完全聰明，并且完全擺脫了愚蠢的情況?？倳?huì)有一些愚蠢在那只桶里“正襟危坐”。如果你聰明伶俐并且?jiàn)^發(fā)努力，盡管桶里仍然還剩一些愚蠢，你也許可以縮小自己的的愚蠢度。

二. 愚蠢對(duì)智慧有利還是有害?

你可能會(huì)想當(dāng)然地認(rèn)為，任何愚蠢都是壞事，因此我們必須一直努力把它“關(guān)”起來(lái)，或者避免它的出現(xiàn)。但我們需要問(wèn)的是，那種把愚蠢歸為“壞”范疇、把智力歸為“好”范疇的簡(jiǎn)單觀點(diǎn)，是否有可能遺漏更復(fù)雜的東西?你可能會(huì)爭(zhēng)辯說(shuō)，有時(shí)候在有限的范圍內(nèi)變蠢，可能會(huì)為提升智慧提供一種途徑。

當(dāng)你還是個(gè)孩子的時(shí)候，假設(shè)你愚蠢地被自己的腳絆倒了，這樣做之后，你就會(huì)意識(shí)到之所以被絆倒是因?yàn)槟銢](méi)有小心地抬起腳。從那時(shí)起，你就會(huì)開(kāi)始更加注意如何走路，從而在走路時(shí)變得聰明起來(lái)。也許在晚年，當(dāng)你走在一個(gè)羊腸小道上時(shí)，能夠設(shè)法避免自己從路邊摔落，部分原因便是愚蠢引發(fā)的早期人生教訓(xùn)，已成為你智慧的一部分。

當(dāng)然，愚蠢也會(huì)給我們招來(lái)麻煩。盡管你從愚蠢中學(xué)會(huì)了走路時(shí)的小心謹(jǐn)慎，但如果有一天你打算在大峽谷的邊緣昂首闊步，你會(huì)摔入深淵。在懸崖邊上這樣走路是明智之舉嗎?顯然不是。

因此，我們要注意到，愚蠢可以是朋友，也可以是敵人，而在任何特定的情形和任何特定的時(shí)刻下，究竟是哪一個(gè)，取決于智慧部分。你可能會(huì)想象到，智慧和愚蠢之間正上演著一場(chǎng)永恒的斗爭(zhēng)。

另一方面，你可能同樣會(huì)想到，聰明和愚蠢雙方是伙伴，彼此拉扯在一起，因而這不是一場(chǎng)特殊的戰(zhàn)斗，因?yàn)檫@更像是圍繞哪一方占上風(fēng)以及彼此如何協(xié)調(diào)和互相幫助的一場(chǎng)微妙的舞蹈或者說(shuō)博弈。

三. 該認(rèn)真思考下人工愚蠢了

我們每天都聽(tīng)到關(guān)于人工智能的來(lái)臨如何改變我們的生活的言論。人工智能技術(shù)正在載入我們的智能手機(jī)、冰箱、汽車等等。如果我們打算把人工智能融入我們使用的物品中，那就引出了一個(gè)問(wèn)題：我們是否需要考慮“陰中有陽(yáng)”，特別是我們是否需要充分了解人工愚蠢?

大多數(shù)人聽(tīng)到或看到“人工愚蠢”這個(gè)詞時(shí)都會(huì)忍俊不禁，他們認(rèn)為提到這樣的事情一定是某位知情者的玩笑。誠(chéng)然，人造和愚蠢這兩個(gè)詞的結(jié)合，似乎本身就很愚蠢。

但是，通過(guò)回顧之前智慧和愚蠢在人類中所起作用的討論，你可以重塑自己的觀點(diǎn)，并可能發(fā)現(xiàn)，每當(dāng)你進(jìn)行關(guān)于智慧的討論時(shí)，不可避免地也需要考慮愚蠢的作用。

有些人建議我們應(yīng)該使用另一種表達(dá)人工愚蠢的方式，來(lái)減少大家的竊笑，浮夸的詞組包括人工智障、人工人性、人工遲鈍等等，但這些詞都還沒(méi)有深入我心。請(qǐng)容忍我暫且使用“人工愚蠢”的措辭，并且堅(jiān)信討論“人工愚蠢”其實(shí)并不愚蠢。

確實(shí)，你可以提出討論人工愚蠢的行為是愚蠢的做法，因?yàn)槟悴辉敢饣虿唤邮苓@樣一種認(rèn)識(shí)，即愚蠢存在于現(xiàn)實(shí)世界中，因此存在于我們?cè)噲D重現(xiàn)智能的計(jì)算機(jī)系統(tǒng)的虛擬世界中，如此一來(lái)你會(huì)忽略或忽視原本作為“等式另一半”的愚蠢。

簡(jiǎn)而言之，有人說(shuō)，真正的人工智能需要將我們現(xiàn)在所認(rèn)為的“聰明”或者說(shuō)良好人工智能與人工愚蠢(毫無(wú)掩蓋)進(jìn)行結(jié)合，而這種結(jié)合必須以聰明的方式實(shí)現(xiàn)。

有觀點(diǎn)認(rèn)為，通過(guò)將人工愚蠢納入人工智能中，你將從根本上無(wú)可挽回地給人工智能系統(tǒng)引入了愚蠢，因此可能最終會(huì)使AI變得愚蠢。事實(shí)上，我們可以通過(guò)駁斥此觀點(diǎn)來(lái)應(yīng)對(duì)許多人對(duì)這個(gè)概念的直接下意識(shí)反應(yīng)。

當(dāng)然，如果你采用愚蠢的方式引入愚蠢，則很有可能有害于 AI 系統(tǒng)并使它變得愚蠢。另一方面，如果了解人類的運(yùn)作方式，在深思熟慮的情況下將愚蠢行為引入，最終則有可能會(huì)幫助AI提升智慧(想想兒時(shí)絆到自己腳摔倒的故事)。

迄今為止AI還遠(yuǎn)沒(méi)有達(dá)到人類的智能水平，也許實(shí)現(xiàn)真正和完整的人工智能的唯一方法，就是將人工愚蠢融入人工智能;因此，一旦我們與人工愚蠢保持距離或?qū)⑵湟曌鳁墐?，我們?huì)身陷囹圄，像人類一樣智能的 AI 將遙不可及。也就是說(shuō)，如果把人工愚蠢排除在我們的思維之外，我們可能會(huì)阻止AI到達(dá)巔峰。這就像是一記重拳并且如此反直覺(jué)，以至于常常會(huì)阻礙人類往這個(gè)方向發(fā)展 AI 。

然而現(xiàn)實(shí)是，越來(lái)越多的跡象表明，揭示和利用人工愚蠢(或任何它應(yīng)該被稱作的稱呼)的重要性， 對(duì) AI 的發(fā)展大有裨益。

我斷定，真正的無(wú)人駕駛汽車的誕生，可能就涉及到將人工愚蠢納入到系統(tǒng)之中。這是不是很令人震驚?或許如此。下面我們不妨來(lái)剖析一下這件事。

四. 利用人工愚蠢獲益

當(dāng)談到真正的自動(dòng)駕駛汽車時(shí)，我將重點(diǎn)關(guān)注L4和L5級(jí)的自動(dòng)駕駛汽車。這兩個(gè)級(jí)別的自動(dòng)駕駛汽車，由人工智能系統(tǒng)自動(dòng)駕駛，沒(méi)有必要并且通常不配備人類司機(jī)。人工智能負(fù)責(zé)所有的駕駛操作，所有人類乘坐者都為乘客。

關(guān)于人工愚蠢的話題，有必要快速回顧一下術(shù)語(yǔ)產(chǎn)生的歷史。在20世紀(jì)50年代，著名的數(shù)學(xué)家、計(jì)算機(jī)科學(xué)先驅(qū)艾倫·圖靈提出了眾所周知的AI圖靈測(cè)試。

簡(jiǎn)而言之，圖靈測(cè)試就是：讓你跟一個(gè)搭載人工智能的計(jì)算機(jī)系統(tǒng)進(jìn)行交互，并同時(shí)與另一個(gè)人交互，而你事先沒(méi)有被告知哪個(gè)是AI，哪個(gè)是人類(假設(shè)它們都隱藏在視線之外)，要求你通過(guò)與對(duì)方對(duì)話，來(lái)判定哪一個(gè)是AI，哪一個(gè)是人類。如果你無(wú)法區(qū)分這兩個(gè)參與者，就可以宣布 AI 通過(guò)了測(cè)試。從這個(gè)意義上講，AI無(wú)法從人類參與者被辨別出來(lái)，并且在智能交互中必須被平等對(duì)待。

其實(shí)最初的圖靈測(cè)試有一個(gè)急轉(zhuǎn)彎。如果提問(wèn)者很 “狡猾”，要求這兩個(gè)參與者將圓周率計(jì)算到千分位數(shù)。想必，AI會(huì)在一眨眼的工夫里十分出色地、輕而易舉地告訴你答案，而且非常精確和完全正確。但是人類很難做到這一點(diǎn)，如果用紙和鉛筆費(fèi)勁地計(jì)算，則要花相當(dāng)長(zhǎng)的時(shí)間才能回答這個(gè)問(wèn)題，并且最終很可能答案錯(cuò)誤。

圖靈意識(shí)到了這一點(diǎn)，他認(rèn)為通過(guò)提出這樣的算術(shù)問(wèn)題，基本上可以揭開(kāi)人工智能的神秘面紗。緊接著他又采取了另一舉措，有人認(rèn)為這一步打開(kāi)了潘多拉盒子，并暗示AI可能會(huì)故意錯(cuò)誤地回答算術(shù)問(wèn)題。簡(jiǎn)言之，AI可以試圖愚弄提問(wèn)者，表現(xiàn)得像人類一樣回答問(wèn)題，比如故意給出錯(cuò)誤的答案，以及耗費(fèi)與人類手動(dòng)計(jì)算大致相同的時(shí)間。

勒布納獎(jiǎng)( Loebner Prize)設(shè)立于20世紀(jì)90年代初，這是一項(xiàng)類似于圖靈測(cè)試的競(jìng)賽，會(huì)給予獲獎(jiǎng)?wù)哓S厚的現(xiàn)金獎(jiǎng)勵(lì)。在這項(xiàng)競(jìng)賽中，人工智能系統(tǒng)通常會(huì)被加入類似人為的錯(cuò)誤，以蒙騙提問(wèn)者將AI 判斷為人類。但這背后引發(fā)了爭(zhēng)議，在此不做過(guò)多討論。1991年，《經(jīng)濟(jì)學(xué)人》刊登了一篇有關(guān)該競(jìng)賽的經(jīng)典文章。再次具有諷刺意味的是，引入愚蠢實(shí)際上是為了描繪某種事物是聰明的。這個(gè)簡(jiǎn)短的歷史經(jīng)驗(yàn)為此次討論的下一要素做好了鋪墊。

讓我們將人工愚蠢的話題歸結(jié)為兩個(gè)主要方面或兩種定義：

• 人工愚蠢是有目的地將類人的愚蠢融入到人工智能系統(tǒng)中，這樣做是使AI看起來(lái)更像人類，目的不在于提高AI本身，而是為了塑造人類對(duì)AI的感知，使其看起來(lái)更智能。
• 人工愚蠢是對(duì)人類無(wú)數(shù)缺點(diǎn)的承認(rèn)，這種“愚蠢”可能以一種聯(lián)合的方式融入AI或與AI齊頭并進(jìn)，如果處理得當(dāng)可能會(huì)改善AI性能。

關(guān)于第一個(gè)定義，我想澄清一個(gè)常見(jiàn)的誤解，其涉及的假設(shè)有些瑕疵，即計(jì)算機(jī)可能會(huì)故意錯(cuò)誤地計(jì)算某些問(wèn)題。有些人震驚卻又不屑地尖叫著說(shuō)，可能存在令計(jì)算機(jī)蓄意尋求錯(cuò)誤計(jì)算的暗示，例如以欠缺準(zhǔn)確性的方法計(jì)算出圓周率!其實(shí)這個(gè)定義并不一定意味著這一點(diǎn)。這大概是因?yàn)橛?jì)算機(jī)可能會(huì)將圓周率正確地計(jì)算到千分之一位，然后選擇微調(diào)一些數(shù)字，再來(lái)回答調(diào)整后記錄下來(lái)的答案，并在眨眼間完成，然后等待與人類手動(dòng)計(jì)算耗費(fèi)的相同時(shí)間量后顯示結(jié)果。如此一來(lái)，計(jì)算機(jī)內(nèi)部其實(shí)已經(jīng)有了正確的答案，只是顯示了似乎有錯(cuò)誤的答案。

這種情形對(duì)那些依賴于計(jì)算機(jī)所報(bào)告數(shù)據(jù)的人來(lái)說(shuō)無(wú)疑是不利的，但請(qǐng)注意，這與計(jì)算機(jī)實(shí)際上錯(cuò)誤計(jì)算出的數(shù)據(jù)截然不同!這兩者間的細(xì)微差別，其實(shí)還有很多內(nèi)容可以介紹，但現(xiàn)在，讓我們繼續(xù)前面的分析。人工愚蠢的這兩個(gè)方面都可以應(yīng)用到真正的自動(dòng)駕駛汽車上，但是這樣做會(huì)帶來(lái)一定的問(wèn)題，值得斟酌。

五. 人工愚蠢與真正的無(wú)人駕駛汽車

如今，在公共道路上試用的自動(dòng)駕駛汽車已經(jīng)憑借其高超的駕駛造詣名聲大噪?？偟膩?lái)說(shuō)，無(wú)人駕駛汽車像一個(gè)年輕的新手司機(jī)，對(duì)駕駛?cè)蝿?wù)既膽怯又有些猶豫不決。當(dāng)你看到一輛無(wú)人駕駛汽車時(shí)，會(huì)發(fā)現(xiàn)它通常嘗試在其與前方汽車之間創(chuàng)建一個(gè)較大的緩沖區(qū)，并嘗試遵守我們初學(xué)駕照時(shí)保持車距的經(jīng)驗(yàn)規(guī)則。人類司機(jī)很少考慮車距的安全區(qū)，往往喜歡把其他汽車擠到一邊，其實(shí)這樣做容易對(duì)自己造成危險(xiǎn)。

下面是另一個(gè)無(wú)人駕駛汽車練習(xí)駕駛的例子。當(dāng)看到停車標(biāo)志牌時(shí)，無(wú)人駕駛汽車通常會(huì)完全熄火。它會(huì)等著看行駛道是否安全，然后謹(jǐn)慎前行。然而在人類世界，沒(méi)有人會(huì)在停車標(biāo)志處完全熄火，現(xiàn)在滾動(dòng)停車是一種常態(tài)。你可以下結(jié)論，人類的駕駛方式是魯莽和有點(diǎn)愚蠢的。由于你的車和前面的車之間沒(méi)有足夠的車距，這會(huì)提高發(fā)生追尾事故的幾率。不能在停車牌處完全熄火，會(huì)增加與另一輛車或行人相撞的風(fēng)險(xiǎn)。

以圖靈測(cè)試的方式，你可以站在人行道上看著從你身邊經(jīng)過(guò)的汽車，僅僅觀察他們的駕駛行為，你就可以確定哪些是AI駕駛的汽車，哪些是人類駕駛的汽車。聽(tīng)起來(lái)熟悉嗎?大抵如此，因?yàn)檫@與之前提出的算術(shù)精度問(wèn)題異曲同工。

如何解決這個(gè)問(wèn)題?一種方法是引入上述定義的人工愚蠢。首先，你可以讓車上搭載的 AI故意縮短車距緩沖區(qū)，使其看起來(lái)像人類一樣在駕駛。同樣，可以設(shè)置 AI 滾動(dòng)通過(guò)停車標(biāo)志，這一切都很容易部署。這樣在觀察行駛過(guò)的汽車時(shí)，究竟是AI還是人類在駕駛便很難區(qū)分出來(lái)，因?yàn)樗麄儍烧咴隈{駛過(guò)程中所犯的錯(cuò)誤如出一轍。這似乎解決了一個(gè)問(wèn)題，因?yàn)樗P(guān)系到我們?nèi)祟悓?duì)自動(dòng)駕駛汽車 AI是否智能的看法。

但是，等一下，這種做法難道不是在將AI變成風(fēng)險(xiǎn)性更高的“駕駛員”嗎?我們是否是在試圖提高這種人為駕駛導(dǎo)致的危險(xiǎn)車禍的發(fā)生率呢?理智地說(shuō)，不是。

我們?cè)俎D(zhuǎn)向人工愚蠢的第二個(gè)定義，即通過(guò)以一種實(shí)質(zhì)性的方式將這些“愚蠢”的駕駛方法并入AI系統(tǒng)中，使AI在駕駛汽車時(shí)能夠考慮這些因素，同時(shí)也有強(qiáng)烈的意識(shí)來(lái)避免它們或在特殊時(shí)刻謹(jǐn)慎應(yīng)用這些方法。與其讓AI盲目地以人為錯(cuò)誤的方式駕駛，不如開(kāi)發(fā)AI，使其擁有強(qiáng)大的能力來(lái)應(yīng)對(duì)人類駕駛的缺點(diǎn)，發(fā)現(xiàn)這些缺點(diǎn)并在有需要的場(chǎng)景下利用好這些缺點(diǎn)，讓AI成為名副其實(shí)的安全型“駕駛員”。

六. 結(jié)語(yǔ)

當(dāng)今人工智能最顯而易見(jiàn)的瓶頸之一，便是它不具備任何常識(shí)推理能力，并且完全不具備人類進(jìn)行整合推理的能力(許多人稱這樣的人工智能為人工通用智能或 AGI)。因此，有人認(rèn)為當(dāng)今的AI更接近“人工愚蠢”的一面，而不是真正“人工智能 ”的一面。如果人類擁有二元性的智慧和愚蠢，那么AI系統(tǒng)要想彰顯出人類一般的智慧，可能也需要具有類似的二元性(但也有聲音說(shuō) AI可能不必步人后塵)。

我們正在在道路上投放所謂的AI自動(dòng)駕駛汽車，然而AI沒(méi)有知覺(jué)，并且不是所有的部分都能夠擁有感知能力。自動(dòng)駕駛汽車只有在能夠進(jìn)一步向智能階梯攀登的情況下才會(huì)成功嗎?目前無(wú)人知曉，但這絕對(duì)不是一個(gè)愚蠢的問(wèn)題。

本文轉(zhuǎn)自雷鋒網(wǎng)，如需轉(zhuǎn)載請(qǐng)至雷鋒網(wǎng)官網(wǎng)申請(qǐng)授權(quán)。