對(duì)于「通用人工智能」，OpenAI科學(xué)家Karpathy下場(chǎng)做出了解釋。

前幾天，Karpathy在個(gè)人blog發(fā)表了一篇文章「將自動(dòng)駕駛作為AGI的一個(gè)案例來(lái)研究」。

不知是何原因，他卻刪除了這篇文章，幸而，還有網(wǎng)絡(luò)備份。

眾所周知，Karpathy不僅是OpenAI 的創(chuàng)始成員之一，還曾是特斯拉前AI高級(jí)總監(jiān)、自動(dòng)駕駛Autopilot負(fù)責(zé)人。

他將自動(dòng)駕駛作為案例，研究AGI，這篇文章的觀點(diǎn)確實(shí)值得一看。

自動(dòng)駕駛

LLM的爆發(fā)引發(fā)了眾多關(guān)于AGI降臨的時(shí)間，甚至它可能是什么樣子的討論。

有的人對(duì)AGI未來(lái)充滿希望，持有樂(lè)觀的態(tài)度。而有的人卻充滿恐懼和悲觀的情緒。

不幸的是，其中也有很多討論過(guò)于抽象，導(dǎo)致人們的觀點(diǎn)互不接軌。

因此，我總是在尋找具體的類比和歷史先例，用更具體的術(shù)語(yǔ)來(lái)探討這個(gè)主題。

特別是，當(dāng)我被問(wèn)及「你認(rèn)為AGI會(huì)是什么樣子」時(shí)，我個(gè)人喜歡用自動(dòng)駕駛舉例。在這篇文章中，我想解釋一下原因。讓我們從AGI的一個(gè)常見(jiàn)定義開(kāi)始：

AGI：一個(gè)在大多數(shù)有經(jīng)濟(jì)價(jià)值的工作中超越人類能力的自主系統(tǒng)。

請(qǐng)注意，在這個(gè)AGI定義中有兩個(gè)具體要求。

首先，它是一個(gè)完全自主的系統(tǒng)，即自己運(yùn)作，很少或根本沒(méi)有人類監(jiān)督。

其次，它在大多數(shù)有經(jīng)濟(jì)價(jià)值的工作上都是自主運(yùn)作的。關(guān)于這部分?jǐn)?shù)據(jù)，我個(gè)人喜歡參考美國(guó)勞工統(tǒng)計(jì)局的職業(yè)指數(shù)。

一個(gè)同時(shí)具有這兩種性質(zhì)的系統(tǒng)，我們將其稱之為AGI。

我想在這篇文章中建議的是，最近我們自動(dòng)駕駛能力的發(fā)展是一個(gè)非常好的早期案例，研究了日益自動(dòng)化的社會(huì)動(dòng)態(tài)，可以拓展到對(duì)AGI的總體樣貌和感受的研究。

我這樣認(rèn)為的原因是，這個(gè)領(lǐng)域具有幾個(gè)特征。可以簡(jiǎn)單地說(shuō)「it is a big deal」：自動(dòng)駕駛對(duì)社會(huì)來(lái)說(shuō)非常容易理解，更常見(jiàn)。

它在經(jīng)濟(jì)規(guī)模上占據(jù)了很大一部分，并且雇傭了大量的人類勞動(dòng)力。駕駛是一個(gè)足夠復(fù)雜的問(wèn)題，但我們已經(jīng)實(shí)現(xiàn)自動(dòng)化，并引來(lái)社會(huì)的高度關(guān)注。

當(dāng)然，也還有其他的行業(yè)實(shí)現(xiàn)了大規(guī)模的自動(dòng)化，但要么是我個(gè)人對(duì)它們不太熟悉，要么它們?cè)谏鲜鲆恍傩苑矫嬗兴啡薄?/span>

L2級(jí)自動(dòng)化

駕駛的自動(dòng)化被認(rèn)為是AI領(lǐng)域中一個(gè)極具挑戰(zhàn)的問(wèn)題，并非一蹴而就。

它是通過(guò)逐步將駕駛?cè)蝿?wù)自動(dòng)化的過(guò)程而成的，這個(gè)過(guò)程中涉及了許多階段性的「工具型AI」。

在車輛自動(dòng)化方面，目前許多汽車已經(jīng)配備了L2級(jí)駕駛輔助系統(tǒng)。即一個(gè)能與人類司機(jī)協(xié)作，共同完成從起點(diǎn)到終點(diǎn)旅程的AI。

雖然它還不能完全自主駕駛，但L2已經(jīng)能處理許多駕駛中的基礎(chǔ)任務(wù)。

有時(shí)，它甚至能自動(dòng)完成整個(gè)操作流程，比如自動(dòng)泊車。

在這一過(guò)程中，人類主要扮演監(jiān)督角色，甚至可以隨時(shí)接手，直接駕駛或下達(dá)高級(jí)指令（如換道請(qǐng)求）。

在某些方面（比如保持車道居中和快速?zèng)Q策），AI的表現(xiàn)甚至超過(guò)了人類，但在一些罕見(jiàn)的情況下還是會(huì)有所不足。

這與我們?cè)谄渌袠I(yè)看到的許多AI工具非常相似，特別是隨LLM最近的技術(shù)突破。

例如，作為程序員，當(dāng)我用GitHub Copilot來(lái)自動(dòng)補(bǔ)全一段代碼，或使用GPT-4編寫更復(fù)雜的函數(shù)時(shí)，我實(shí)際上是將基礎(chǔ)任務(wù)交給了自動(dòng)化系統(tǒng).

但同樣，如有需要，我也可以隨時(shí)介入進(jìn)行調(diào)整。

換句話說(shuō)，Copilot和GPT-4就像是在編程領(lǐng)域的「二級(jí)」自動(dòng)化工具。

在整個(gè)行業(yè)中，有許多類似的「二級(jí)」自動(dòng)化解決方案，但并不是所有的都基于大模型，從TurboTax，到亞馬遜倉(cāng)庫(kù)中機(jī)器人，再到翻譯、寫作、藝術(shù)、法律、營(yíng)銷等領(lǐng)域的各種「工具型 AI」。

全自動(dòng)駕駛

隨著時(shí)間的推移，一些系統(tǒng)的可靠性達(dá)到了新高度，變得就像今天的Waymo那樣。

它們正逐步實(shí)現(xiàn)「全自動(dòng)駕駛」。

如今，在舊金山，你只需打開(kāi)應(yīng)用，就能叫到一輛Waymo無(wú)人駕駛車，它將會(huì)來(lái)接你，并把你安全送達(dá)目的地。

這實(shí)在是令人驚嘆。你無(wú)需懂得駕駛，也無(wú)需關(guān)注路況，只需舒服地靠后坐，并小憩片刻，系統(tǒng)便會(huì)將你從起點(diǎn)帶到終點(diǎn)。

與我交談過(guò)的許多人一樣，我個(gè)人更傾向于選擇Waymo而非Uber，我?guī)缀踔皇褂盟鼇?lái)進(jìn)行市內(nèi)交通。

你會(huì)擁有更穩(wěn)定、可預(yù)測(cè)的旅程體驗(yàn)，而且駕駛過(guò)程平穩(wěn)，可以聽(tīng)音樂(lè)，不用顧及司機(jī)在聽(tīng)你說(shuō)話時(shí)在想什么。

「復(fù)合經(jīng)濟(jì)」

雖然自動(dòng)駕駛技術(shù)已經(jīng)走入現(xiàn)實(shí)，但仍有許多人選擇使用Uber。原因何在？

首先，很多人根本不知道他們可以選擇Waymo作為出行工具。即便知道，許多人對(duì)自動(dòng)化系統(tǒng)仍缺乏足夠的信任，更傾向于由人類司機(jī)駕駛。

不過(guò)，即使有些人接受自動(dòng)駕駛，或許他們還是更傾向于人類司機(jī)，比如享受與司機(jī)的交談，以及與他人的互動(dòng)。

不僅僅是個(gè)人偏好，從現(xiàn)在應(yīng)用中不斷增長(zhǎng)的等待時(shí)間可以看出，Waymo面臨著供不應(yīng)求的問(wèn)題。市場(chǎng)上的車輛數(shù)量遠(yuǎn)遠(yuǎn)無(wú)法滿足需求。

這部分原因可能是，Waymo在管理和監(jiān)測(cè)風(fēng)險(xiǎn)和輿論方面非常謹(jǐn)慎。

另一方面，據(jù)我所知，Waymo受到監(jiān)管機(jī)構(gòu)的限制，只能在街道上部署一定數(shù)量的車輛。另一個(gè)限制因素是，Waymo不能一夜之間就完全取代Uber。

他們需要建立基礎(chǔ)設(shè)施，生產(chǎn)汽車，擴(kuò)大運(yùn)營(yíng)規(guī)模。

我個(gè)人認(rèn)為，其他經(jīng)濟(jì)領(lǐng)域的自動(dòng)化也將面臨同樣的情況——有些人/公司會(huì)立即采用它們，但許多人（1）不了解這些技術(shù)，（2）即便了解，也不會(huì)信任它們，（3）即使信任，他們?nèi)匀桓敢馀c人類合作。

但除此之外，需求超過(guò)供應(yīng)，AGI也將因?yàn)橥瑯拥脑蚴艿酵瑯拥南拗?，包括開(kāi)發(fā)商的自我約束、監(jiān)管限制以及資源短缺，比如需要建立更多的GPU數(shù)據(jù)中心。

技術(shù)全球化

正如我已經(jīng)在資源限制中暗示的那樣，這種技術(shù)的全球化部署成本非常高，還需要耗費(fèi)大量人力，推廣速度也慢。

今天，Waymo只能在舊金山和鳳凰城駕駛，但這種技術(shù)本身是通用的，還可以擴(kuò)展，因此該公司可能很快就會(huì)推廣到洛杉磯、奧斯汀等地。

自動(dòng)駕駛汽車還可能會(huì)受到其他環(huán)境因素的限制，比如在大雪中駕駛。在一些罕見(jiàn)的情況下，它甚至可能需要操作員的救援。

此外，技術(shù)能力的擴(kuò)展還需要很多資源成本，并非是免費(fèi)的。

比如，Waymo必須投入資源后才能進(jìn)入另一個(gè)城市，比如繪制街道地圖、整體感知路徑規(guī)劃、控制算法以適應(yīng)某些特殊情況，或當(dāng)?shù)氐姆ㄒ?guī)。

就像我們的工作比喻所示，許多工作可能只在某些特定環(huán)境下才能實(shí)現(xiàn)自動(dòng)化，若是擴(kuò)大范圍還需要大量的工作。

無(wú)論哪種情況，自動(dòng)駕駛技術(shù)本身都是通用的和可擴(kuò)展的，其應(yīng)用前景將隨著時(shí)間的推移而逐步拓寬。

社會(huì)反應(yīng)：很快成為「過(guò)眼云煙」

關(guān)于自動(dòng)駕駛技術(shù)逐漸融入社會(huì)的過(guò)程，我覺(jué)得特別有趣的一點(diǎn)是——

就在幾年前，人們還在熱烈討論并對(duì)其充滿了疑慮和擔(dān)憂，爭(zhēng)論著它是否能夠成功運(yùn)作，甚至是否可行，這成了一個(gè)廣泛關(guān)注的議題。而現(xiàn)在，自動(dòng)駕駛不再是未來(lái)的夢(mèng)想，它真的出現(xiàn)了。

它不僅僅是一個(gè)研究原型，而是成為了一種可以用金錢購(gòu)買的完全自動(dòng)化交通方式。

在目前的應(yīng)用范圍內(nèi)，自動(dòng)駕駛技術(shù)已經(jīng)實(shí)現(xiàn)了完全的自主性。

然而，總體來(lái)看，這似乎并沒(méi)有引起太多人的關(guān)注。我交流過(guò)的大多數(shù)人（包括科技領(lǐng)域的?。┥踔炼疾恢肋@一進(jìn)展。

當(dāng)你乘坐Waymo在舊金山的街道上行駛時(shí)，你會(huì)發(fā)現(xiàn)很多人對(duì)它投以好奇的目光。他們首先會(huì)感到驚訝，然后好奇地凝視。

之后，他們就會(huì)繼續(xù)自己的生活。

當(dāng)自動(dòng)駕駛技術(shù)在其他行業(yè)也實(shí)現(xiàn)完全自主時(shí)，世界可能并不會(huì)因此而動(dòng)蕩不安。

大多數(shù)人可能一開(kāi)始，甚至都沒(méi)意識(shí)到這一變化。當(dāng)他們注意到時(shí)，可能只是好奇地看一眼，然后不以為意，這種反應(yīng)從否認(rèn)到接受都有。

有些人可能會(huì)因此感到不安，甚至采取一些抗議行動(dòng)，比如向Waymo汽車前放置交通錐這樣的舉動(dòng)。

當(dāng)然，到目前為止，我們距離見(jiàn)證這一現(xiàn)象完全上演還很遙遠(yuǎn)。但當(dāng)它發(fā)生時(shí)，我期望它在很大程度上具有預(yù)測(cè)性。

經(jīng)濟(jì)影響

當(dāng)我們討論就業(yè)時(shí)，不可否認(rèn)，Waymo明顯地取代了駕駛員的崗位。

但同時(shí)，它也催生了許多以前不存在的工作崗位，這些崗位相對(duì)不那么顯眼——比如為神經(jīng)網(wǎng)絡(luò)收集訓(xùn)練數(shù)據(jù)的標(biāo)注人員、遠(yuǎn)程協(xié)助遇到問(wèn)題汽車的客服人員、負(fù)責(zé)建造和維護(hù)車隊(duì)的工作人員等等。

首先誕生的是一個(gè)包含各種傳感器和相關(guān)基礎(chǔ)設(shè)施的全新行業(yè)，旨在構(gòu)建這些裝備精密的高科技汽車。

正如人們對(duì)工作的普遍看法一樣，許多崗位都將發(fā)生改變，一些崗位會(huì)因此消失，但也會(huì)出現(xiàn)很多新的崗位。

這其實(shí)是工作形態(tài)的一種轉(zhuǎn)變，而非簡(jiǎn)單的崗位減少，盡管崗位減少是最直觀的變化。

雖然很難說(shuō)總體就業(yè)人數(shù)不會(huì)隨著時(shí)間推移而減少，但這種變化的速度比人們簡(jiǎn)單預(yù)想的要慢得多。

競(jìng)爭(zhēng)環(huán)境

最后，我想談?wù)勛詣?dòng)駕駛領(lǐng)域的競(jìng)爭(zhēng)環(huán)境。

幾年前，自動(dòng)駕駛汽車公司如雨后春筍般涌現(xiàn)。但今天，隨著人們逐漸意識(shí)到這項(xiàng)技術(shù)的復(fù)雜性（我個(gè)人認(rèn)為，基于當(dāng)前的人工智能和計(jì)算技術(shù)，實(shí)現(xiàn)自動(dòng)化仍然十分困難），這個(gè)領(lǐng)域已經(jīng)經(jīng)歷了大規(guī)模的整合。

其中，Waymo成為了首個(gè)完整展示自動(dòng)駕駛未來(lái)的公司。

盡管如此，還有一些公司仍在緊追不舍，比如Cruise、Zoox，以及我個(gè)人特別喜歡的Tesla。

這里我要簡(jiǎn)單提一下，基于我在這個(gè)領(lǐng)域的經(jīng)歷和參與。在我看來(lái)，自動(dòng)駕駛行業(yè)的終極目標(biāo)是實(shí)現(xiàn)全球范圍內(nèi)的完全自動(dòng)駕駛。

Waymo選擇了先實(shí)現(xiàn)自動(dòng)駕駛再全球擴(kuò)展的策略，而Tesla則是先全球布局再逐步提升自動(dòng)駕駛技術(shù)。

顯然，這兩家公司將會(huì)面臨截然不同的調(diào)整：一家主要是軟件方面的工作，另一家則是硬件方面的工作。

目前，我對(duì)他們的產(chǎn)品都非常滿意，個(gè)人而言，我更是對(duì)技術(shù)本身充滿了支持。

同樣的，很多其他行業(yè)也可能經(jīng)歷一個(gè)快速增長(zhǎng)和擴(kuò)張的階段（就像大約在2015年的自動(dòng)駕駛領(lǐng)域），但最終，可能只有少數(shù)幾家公司在這場(chǎng)競(jìng)爭(zhēng)中存活下來(lái)。

在這個(gè)過(guò)程中，將會(huì)有許多實(shí)用的AI輔助工具（比如現(xiàn)在的L2 ADAS功能）和一些開(kāi)放平臺(tái)（比如Comma）得到廣泛應(yīng)用。

通用人工智能（AGI）

以上就是我對(duì)通用人工智能（AGI）未來(lái)發(fā)展的大致設(shè)想。

想象一下，這樣的變革將以不同的速度遍布整個(gè)經(jīng)濟(jì)體，并伴隨著許多難以預(yù)料的相互影響及連鎖反應(yīng)。

雖然這個(gè)設(shè)想可能不盡完美，但我認(rèn)為它是一個(gè)值得記住并有益參考的模型。

從模因（memetic）的角度來(lái)看，AGI與那種逃離我們控制、在網(wǎng)絡(luò)空間自我遞歸提升、制造致命病原體或納米機(jī)器人、最終把銀河系變?yōu)榛疑迟|(zhì)的超級(jí)智能相去甚遠(yuǎn)。

相比之下，它更像是自動(dòng)駕駛技術(shù)的發(fā)展——一項(xiàng)正在快速推進(jìn)且能改變社會(huì)的自動(dòng)化技術(shù)。其發(fā)展速度會(huì)在包括受教育的勞動(dòng)力資源、信息、材料、能源，以及監(jiān)管等多個(gè)方面受到限制。

在這之中，社會(huì)既是觀察者也是參與者。

世界不會(huì)因此崩潰，而是會(huì)適應(yīng)、變化并重新構(gòu)建。

就自動(dòng)駕駛本身而言，交通自動(dòng)化將大大提升安全性，城市將變得更加清新、通暢，而那些占據(jù)道路兩旁的停車場(chǎng)和停放的汽車將逐漸消失，從而讓出更多的空間。

對(duì)于通用人工智能（AGI）帶來(lái)的所有這些可能的變革，我個(gè)人是充滿期待的。

網(wǎng)友熱議

總而言之，Karpathy將AGI看作更像是自動(dòng)駕駛的發(fā)展，這一具體類比的觀點(diǎn)，引發(fā)了眾多網(wǎng)友的討論。

「看到那個(gè)無(wú)法交付FSD的人，決定將FSD與AGI進(jìn)行類比，實(shí)際上確實(shí)給了我信心，我們還有幾十年的時(shí)間」。

是啊，他好像忘記了「G」。我記得Norvig在幾十年前的人工智能著作中曾說(shuō)過(guò)，「智能」并不意味著無(wú)所不能，一個(gè)智能體要想有用，解決一個(gè)小問(wèn)題就足夠了。在我看來(lái)，這就是G的由來(lái)。

而我們現(xiàn)在卻突然又回到了以前那個(gè)狹隘的定義？我仍然看不到從LLM和自動(dòng)駕駛到AGI的路徑。

當(dāng)然，AGI 的發(fā)展可能是漸進(jìn)而緩慢的，就像我們看到Waymo打造自動(dòng)駕駛汽車一樣。但這只是眾多方式中的一種，你也可以看到AGI通過(guò)非常不同的方式突然出現(xiàn)，就像通過(guò)擴(kuò)展大規(guī)模LLM那樣。