許多AI大佬都給我們畫(huà)過(guò)同樣的餅——AI可以成為科學(xué)家。

不僅如此，根據(jù)他們的說(shuō)法：諾獎(jiǎng)級(jí)AI近在眼前，屆時(shí)所有的研發(fā)工作將被自動(dòng)化，世界也會(huì)因?yàn)楦鞣N科學(xué)突破變得愈發(fā)繁榮和美好。

OpenAI奧特曼曾表示，AI 可能會(huì)像晶體管一樣，成為一種可廣泛擴(kuò)展并滲透到經(jīng)濟(jì)各個(gè)角落的重大突破。雖然他的觀點(diǎn)較為溫和，但他仍然認(rèn)為 AI 在推動(dòng)科學(xué)進(jìn)步方面的影響“將超越其他一切”。

DeepMind CEO Demis Hassabis 也對(duì) AI 在研發(fā)領(lǐng)域的影響持樂(lè)觀態(tài)度。他在最近的一次采訪中具體闡述了 AI 可能帶來(lái)的變革機(jī)制：AI 或可治愈所有疾病，并“解決能源問(wèn)題”。他還提到 AI 可能帶來(lái)“極端的富足”（radical abundance），但除了科學(xué)研發(fā)這一渠道之外，他并未指出 AI 還能通過(guò)哪些方式實(shí)現(xiàn)這一目標(biāo)。

最激進(jìn)的莫過(guò)于Anthropic 的CEO，Dario Amodei。他在最近的一次采訪中表示，他有70~80%的信心，AI還能保持指數(shù)增長(zhǎng)，并在四年內(nèi)成功達(dá)到諾貝爾獲獎(jiǎng)?wù)咚健?/strong>他還曾在文章《Machines of Loving Grace》中，列舉了 AI 在理想情況下如何造福人類的五種方式，其中三種涉及生物學(xué)研發(fā)、神經(jīng)科學(xué)研發(fā)和經(jīng)濟(jì)學(xué)研發(fā)。然而，他并未明確主張 AI 會(huì)因在整個(gè)經(jīng)濟(jì)中的廣泛應(yīng)用而帶來(lái)高經(jīng)濟(jì)增長(zhǎng)，相反，他更關(guān)注 AI 通過(guò)加速研發(fā)和改善經(jīng)濟(jì)治理所帶來(lái)的影響。

Epoch AI的兩位研究員撰文稱，以上大佬的觀點(diǎn)，缺乏嚴(yán)謹(jǐn)?shù)慕?jīng)濟(jì)學(xué)論證，但卻擁有著巨大的影響力。該文章認(rèn)為，那種技術(shù)樂(lè)觀主義的論調(diào)很可能是錯(cuò)誤的，比起得諾獎(jiǎng)，AI造成大規(guī)模失業(yè)的概率大得多，簡(jiǎn)單來(lái)說(shuō)：

• AI 的真正價(jià)值將主要來(lái)自于大規(guī)模的自動(dòng)化，而不僅僅依靠前沿的研發(fā)工作；
• 廣泛的自動(dòng)化能夠顯著提升經(jīng)濟(jì)效率和生產(chǎn)率，推動(dòng)整個(gè)社會(huì)和行業(yè)的變革；
• 自動(dòng)化有助于使我們擺脫重復(fù)性工作，從而專注于更高價(jià)值和創(chuàng)造性的任務(wù)；
• 行業(yè)變革將由 AI 賦能的自動(dòng)化驅(qū)動(dòng)；
• AI 成功的關(guān)鍵在于如何將現(xiàn)有的 AI 技術(shù)有效轉(zhuǎn)化為現(xiàn)實(shí)應(yīng)用，解決實(shí)際問(wèn)題。

圖片

撰寫(xiě)這篇文章的Epoch AI是一家非營(yíng)利性質(zhì)的研究機(jī)構(gòu)，致力于分析人工智能的歷史趨勢(shì)，并幫助預(yù)測(cè)其未來(lái)發(fā)展。

這篇帖子在Hacker News上的討論度非常高：

圖片

一位網(wǎng)友留言，認(rèn)為AI的樂(lè)觀主義無(wú)法說(shuō)服自己。

有沒(méi)有人覺(jué)得技術(shù)樂(lè)觀主義其實(shí)很讓人沮喪？

我想，首先是因?yàn)樗眉夹g(shù)取代了人類，這應(yīng)該是更常見(jiàn)的原因。但另一個(gè)原因是，你很難對(duì)一場(chǎng)不太可能實(shí)現(xiàn)的炒作感到興奮。

它感覺(jué)與對(duì)社會(huì)的實(shí)際好處脫節(jié)了。

圖片

也有人指出，技術(shù)進(jìn)步本身是好的，但這波AI發(fā)展太快，我們的社會(huì)還沒(méi)有做好承接新技術(shù)的準(zhǔn)備：

技術(shù)進(jìn)步本來(lái)會(huì)很棒，如果它的好處不會(huì)主要流向社會(huì)頂層的話。

我?guī)缀蹩梢钥隙?，在不遠(yuǎn)的未來(lái)，我們的技術(shù)會(huì)足夠先進(jìn)，讓人們可以依靠機(jī)器人在某個(gè)地方自給自足，或者讓它們幫你做所有的家務(wù)。

原則上，這聽(tīng)起來(lái)很棒，但我們的社會(huì)并沒(méi)有為“大量人口不工作，而技術(shù)進(jìn)步主要由少數(shù)高技能人才推動(dòng)”這種情況做好準(zhǔn)備。

我不確定未來(lái)會(huì)如何發(fā)展，但如果技術(shù)繼續(xù)以當(dāng)前的速度進(jìn)步，社會(huì)將需要進(jìn)行一些重大變革。

圖片

原貼涉及很多經(jīng)濟(jì)學(xué)知識(shí)，在此整理了文章的重點(diǎn)部分，感興趣閱讀全文的朋友可以移步：https://epoch.ai/gradient-updates/most-ai-value-will-come-from-broad-automation-not-from-r-d

1.事多錢(qián)少：諾獎(jiǎng)級(jí)AI對(duì)AI獨(dú)角獸的吸引力并不大

文章指出了一個(gè)殘酷的現(xiàn)實(shí)，能勝任自主研發(fā)工作的AI對(duì)AI創(chuàng)企來(lái)說(shuō)吃力不討好。

所謂開(kāi)發(fā)諾獎(jiǎng)級(jí)AI,很可能是AI企業(yè)們寫(xiě)在PPT第一頁(yè)用來(lái)“撐門(mén)面”的“謊言”。

首先，自動(dòng)研發(fā)的經(jīng)濟(jì)價(jià)值并沒(méi)有人們想象的那么高。提高生產(chǎn)率和新技術(shù)固然是長(zhǎng)期增長(zhǎng)的關(guān)鍵，但研發(fā)在這一過(guò)程中所占的比重通常比人們預(yù)期的要小。

更重要的是，即便研發(fā)確實(shí)有所貢獻(xiàn)，其大部分成果往往是外部化的，并不會(huì)直接轉(zhuǎn)化為AI企業(yè)的利潤(rùn)，這也降低了企業(yè)部署 AI 進(jìn)行自主研發(fā)的激勵(lì)。因此，大多數(shù) AI 系統(tǒng)實(shí)際上會(huì)被用于與研發(fā)無(wú)關(guān)的任務(wù)，并且這些任務(wù)在整體上更具經(jīng)濟(jì)價(jià)值。

其次，自動(dòng)化研發(fā)遠(yuǎn)比看起來(lái)困難得多。研究員的工作不僅僅是“推理任務(wù)”，還依賴于諸如自主性（agency）、多模態(tài)處理（multimodality）和長(zhǎng)上下文一致性（long-context coherence）等能力。如果 AI 已經(jīng)發(fā)展到足以完全自動(dòng)化研究員的工作，那么它也很可能已經(jīng)能夠自動(dòng)化經(jīng)濟(jì)中大多數(shù)其他崗位，而這些崗位帶來(lái)的經(jīng)濟(jì)價(jià)值很可能遠(yuǎn)遠(yuǎn)超過(guò)單純的研發(fā)自動(dòng)化。

綜合這兩點(diǎn)，沒(méi)有理由認(rèn)為 AI 的主要經(jīng)濟(jì)價(jià)值會(huì)來(lái)自研發(fā)。更有可能的情況是，AI 價(jià)值的主要來(lái)源是其在整個(gè)經(jīng)濟(jì)中的廣泛部署。盡管 AI 會(huì)因規(guī)模報(bào)酬遞增帶來(lái)生產(chǎn)率和人均產(chǎn)出的提升，但這類增長(zhǎng)很可能并非主要來(lái)自研發(fā)，而是源于 AI 在更廣泛經(jīng)濟(jì)活動(dòng)中的應(yīng)用。

也就是，取代大多數(shù)普通人的工作。

2.與AI共存的未來(lái)：Agent代替白領(lǐng)，人類進(jìn)入漫長(zhǎng)磨合期

以下是文章從商業(yè)、政策和個(gè)人角度出發(fā)，對(duì)未來(lái)AI影響所作出的一些預(yù)測(cè)：

首先，從商業(yè)角度來(lái)看，我們認(rèn)為在可預(yù)見(jiàn)的未來(lái)，AI實(shí)驗(yàn)室更有可能通過(guò)自動(dòng)化普通工作任務(wù)來(lái)獲得更大的利潤(rùn)，而不是專注于開(kāi)發(fā)具備“諾貝爾獎(jiǎng)級(jí)”推理能力的模型，以幫助生物學(xué)或醫(yī)學(xué)等領(lǐng)域的研究人員。更現(xiàn)實(shí)的商業(yè)目標(biāo)是開(kāi)發(fā)能熟練瀏覽互聯(lián)網(wǎng)、操作商業(yè)軟件并執(zhí)行標(biāo)準(zhǔn)白領(lǐng)任務(wù)的計(jì)算機(jī)智能體。與此同時(shí)，我們也認(rèn)為，衡量和基準(zhǔn)測(cè)試AI在這些普通任務(wù)上的表現(xiàn)，可能比評(píng)估AI在研發(fā)（研究與開(kāi)發(fā)）任務(wù)上的能力更為重要。

其次，從政策角度來(lái)看，我們認(rèn)為公眾對(duì)AI的態(tài)度將在未來(lái)發(fā)生深刻變化，尤其是在AI開(kāi)始對(duì)世界產(chǎn)生變革性影響——如引發(fā)爆炸性的經(jīng)濟(jì)增長(zhǎng)或大幅延長(zhǎng)人類壽命——之前。屆時(shí)，社會(huì)可能已經(jīng)經(jīng)歷了多輪大規(guī)模勞動(dòng)力替代的自動(dòng)化浪潮，這將極大地改變公眾對(duì)AI的看法。因此，我們認(rèn)為，假設(shè)公眾對(duì)AI的態(tài)度會(huì)保持不變，直到變革性AI出現(xiàn)前后，可能是錯(cuò)誤的。

最后，從個(gè)人角度來(lái)看，我們認(rèn)為應(yīng)該規(guī)劃并投資于一個(gè)AI逐步取代工作的未來(lái)，這一過(guò)程可能會(huì)持續(xù)數(shù)年甚至數(shù)十年，而不是假設(shè)AI一旦掌握AI 研發(fā)，就會(huì)立即讓人類勞動(dòng)力完全過(guò)時(shí)。與其設(shè)想AI會(huì)通過(guò)遞歸式的自我研發(fā)突然爆發(fā)為超級(jí)智能，我們更傾向于預(yù)見(jiàn)經(jīng)濟(jì)會(huì)經(jīng)歷更平緩的全自動(dòng)化過(guò)渡。

在我們看來(lái)，AI很可能會(huì)經(jīng)歷一個(gè)較長(zhǎng)的過(guò)渡期，在此期間，它在某些任務(wù)上超越人類，但在其他互補(bǔ)性任務(wù)上仍然不如人類。需要明確的是，我們同意AI最終將在幾乎所有具有經(jīng)濟(jì)價(jià)值的活動(dòng)中超越人類，并推動(dòng)經(jīng)濟(jì)增長(zhǎng)的顯著加速。但我們認(rèn)為，這種轉(zhuǎn)變不會(huì)是瞬間發(fā)生的，而是會(huì)經(jīng)歷多年或數(shù)十年的廣泛而具有破壞性的自動(dòng)化進(jìn)程，而且這一過(guò)程遠(yuǎn)不止局限于研發(fā)領(lǐng)域。

那么，我們又該如何“規(guī)劃并投資于一個(gè)AI逐步取代工作的未來(lái)”呢？