許多AI大佬都給我們畫過同樣的餅——AI可以成為科學(xué)家。

不僅如此，根據(jù)他們的說法：諾獎級AI近在眼前，屆時所有的研發(fā)工作將被自動化，世界也會因?yàn)楦鞣N科學(xué)突破變得愈發(fā)繁榮和美好。

OpenAI奧特曼曾表示，AI 可能會像晶體管一樣，成為一種可廣泛擴(kuò)展并滲透到經(jīng)濟(jì)各個角落的重大突破。雖然他的觀點(diǎn)較為溫和，但他仍然認(rèn)為 AI 在推動科學(xué)進(jìn)步方面的影響“將超越其他一切”。

DeepMind CEO Demis Hassabis 也對 AI 在研發(fā)領(lǐng)域的影響持樂觀態(tài)度。他在最近的一次采訪中具體闡述了 AI 可能帶來的變革機(jī)制：AI 或可治愈所有疾病，并“解決能源問題”。他還提到 AI 可能帶來“極端的富足”（radical abundance），但除了科學(xué)研發(fā)這一渠道之外，他并未指出 AI 還能通過哪些方式實(shí)現(xiàn)這一目標(biāo)。

最激進(jìn)的莫過于Anthropic 的CEO，Dario Amodei。他在最近的一次采訪中表示，他有70~80%的信心，AI還能保持指數(shù)增長，并在四年內(nèi)成功達(dá)到諾貝爾獲獎?wù)咚健?/strong>他還曾在文章《Machines of Loving Grace》中，列舉了 AI 在理想情況下如何造福人類的五種方式，其中三種涉及生物學(xué)研發(fā)、神經(jīng)科學(xué)研發(fā)和經(jīng)濟(jì)學(xué)研發(fā)。然而，他并未明確主張 AI 會因在整個經(jīng)濟(jì)中的廣泛應(yīng)用而帶來高經(jīng)濟(jì)增長，相反，他更關(guān)注 AI 通過加速研發(fā)和改善經(jīng)濟(jì)治理所帶來的影響。

Epoch AI的兩位研究員撰文稱，以上大佬的觀點(diǎn)，缺乏嚴(yán)謹(jǐn)?shù)慕?jīng)濟(jì)學(xué)論證，但卻擁有著巨大的影響力。該文章認(rèn)為，那種技術(shù)樂觀主義的論調(diào)很可能是錯誤的，比起得諾獎，AI造成大規(guī)模失業(yè)的概率大得多，簡單來說：

• AI 的真正價值將主要來自于大規(guī)模的自動化，而不僅僅依靠前沿的研發(fā)工作；
• 廣泛的自動化能夠顯著提升經(jīng)濟(jì)效率和生產(chǎn)率，推動整個社會和行業(yè)的變革；
• 自動化有助于使我們擺脫重復(fù)性工作，從而專注于更高價值和創(chuàng)造性的任務(wù)；
• 行業(yè)變革將由 AI 賦能的自動化驅(qū)動；
• AI 成功的關(guān)鍵在于如何將現(xiàn)有的 AI 技術(shù)有效轉(zhuǎn)化為現(xiàn)實(shí)應(yīng)用，解決實(shí)際問題。

圖片

撰寫這篇文章的Epoch AI是一家非營利性質(zhì)的研究機(jī)構(gòu)，致力于分析人工智能的歷史趨勢，并幫助預(yù)測其未來發(fā)展。

這篇帖子在Hacker News上的討論度非常高：

圖片

一位網(wǎng)友留言，認(rèn)為AI的樂觀主義無法說服自己。

有沒有人覺得技術(shù)樂觀主義其實(shí)很讓人沮喪？

我想，首先是因?yàn)樗眉夹g(shù)取代了人類，這應(yīng)該是更常見的原因。但另一個原因是，你很難對一場不太可能實(shí)現(xiàn)的炒作感到興奮。

它感覺與對社會的實(shí)際好處脫節(jié)了。

圖片

也有人指出，技術(shù)進(jìn)步本身是好的，但這波AI發(fā)展太快，我們的社會還沒有做好承接新技術(shù)的準(zhǔn)備：

技術(shù)進(jìn)步本來會很棒，如果它的好處不會主要流向社會頂層的話。

我?guī)缀蹩梢钥隙?，在不遠(yuǎn)的未來，我們的技術(shù)會足夠先進(jìn)，讓人們可以依靠機(jī)器人在某個地方自給自足，或者讓它們幫你做所有的家務(wù)。

原則上，這聽起來很棒，但我們的社會并沒有為“大量人口不工作，而技術(shù)進(jìn)步主要由少數(shù)高技能人才推動”這種情況做好準(zhǔn)備。

我不確定未來會如何發(fā)展，但如果技術(shù)繼續(xù)以當(dāng)前的速度進(jìn)步，社會將需要進(jìn)行一些重大變革。

圖片

原貼涉及很多經(jīng)濟(jì)學(xué)知識，在此整理了文章的重點(diǎn)部分，感興趣閱讀全文的朋友可以移步：??https://epoch.ai/gradient-updates/most-ai-value-will-come-from-broad-automation-not-from-r-d??

1.事多錢少：諾獎級AI對AI獨(dú)角獸的吸引力并不大

文章指出了一個殘酷的現(xiàn)實(shí)，能勝任自主研發(fā)工作的AI對AI創(chuàng)企來說吃力不討好。

所謂開發(fā)諾獎級AI,很可能是AI企業(yè)們寫在PPT第一頁用來“撐門面”的“謊言”。

首先，自動研發(fā)的經(jīng)濟(jì)價值并沒有人們想象的那么高。提高生產(chǎn)率和新技術(shù)固然是長期增長的關(guān)鍵，但研發(fā)在這一過程中所占的比重通常比人們預(yù)期的要小。

更重要的是，即便研發(fā)確實(shí)有所貢獻(xiàn)，其大部分成果往往是外部化的，并不會直接轉(zhuǎn)化為AI企業(yè)的利潤，這也降低了企業(yè)部署 AI 進(jìn)行自主研發(fā)的激勵。因此，大多數(shù) AI 系統(tǒng)實(shí)際上會被用于與研發(fā)無關(guān)的任務(wù)，并且這些任務(wù)在整體上更具經(jīng)濟(jì)價值。

其次，自動化研發(fā)遠(yuǎn)比看起來困難得多。研究員的工作不僅僅是“推理任務(wù)”，還依賴于諸如自主性（agency）、多模態(tài)處理（multimodality）和長上下文一致性（long-context coherence）等能力。如果 AI 已經(jīng)發(fā)展到足以完全自動化研究員的工作，那么它也很可能已經(jīng)能夠自動化經(jīng)濟(jì)中大多數(shù)其他崗位，而這些崗位帶來的經(jīng)濟(jì)價值很可能遠(yuǎn)遠(yuǎn)超過單純的研發(fā)自動化。

綜合這兩點(diǎn)，沒有理由認(rèn)為 AI 的主要經(jīng)濟(jì)價值會來自研發(fā)。更有可能的情況是，AI 價值的主要來源是其在整個經(jīng)濟(jì)中的廣泛部署。盡管 AI 會因規(guī)模報酬遞增帶來生產(chǎn)率和人均產(chǎn)出的提升，但這類增長很可能并非主要來自研發(fā)，而是源于 AI 在更廣泛經(jīng)濟(jì)活動中的應(yīng)用。

也就是，取代大多數(shù)普通人的工作。

2.與AI共存的未來：Agent代替白領(lǐng)，人類進(jìn)入漫長磨合期

以下是文章從商業(yè)、政策和個人角度出發(fā)，對未來AI影響所作出的一些預(yù)測：

首先，從商業(yè)角度來看，我們認(rèn)為在可預(yù)見的未來，AI實(shí)驗(yàn)室更有可能通過自動化普通工作任務(wù)來獲得更大的利潤，而不是專注于開發(fā)具備“諾貝爾獎級”推理能力的模型，以幫助生物學(xué)或醫(yī)學(xué)等領(lǐng)域的研究人員。更現(xiàn)實(shí)的商業(yè)目標(biāo)是開發(fā)能熟練瀏覽互聯(lián)網(wǎng)、操作商業(yè)軟件并執(zhí)行標(biāo)準(zhǔn)白領(lǐng)任務(wù)的計算機(jī)智能體。與此同時，我們也認(rèn)為，衡量和基準(zhǔn)測試AI在這些普通任務(wù)上的表現(xiàn)，可能比評估AI在研發(fā)（研究與開發(fā)）任務(wù)上的能力更為重要。

其次，從政策角度來看，我們認(rèn)為公眾對AI的態(tài)度將在未來發(fā)生深刻變化，尤其是在AI開始對世界產(chǎn)生變革性影響——如引發(fā)爆炸性的經(jīng)濟(jì)增長或大幅延長人類壽命——之前。屆時，社會可能已經(jīng)經(jīng)歷了多輪大規(guī)模勞動力替代的自動化浪潮，這將極大地改變公眾對AI的看法。因此，我們認(rèn)為，假設(shè)公眾對AI的態(tài)度會保持不變，直到變革性AI出現(xiàn)前后，可能是錯誤的。

最后，從個人角度來看，我們認(rèn)為應(yīng)該規(guī)劃并投資于一個AI逐步取代工作的未來，這一過程可能會持續(xù)數(shù)年甚至數(shù)十年，而不是假設(shè)AI一旦掌握AI 研發(fā)，就會立即讓人類勞動力完全過時。與其設(shè)想AI會通過遞歸式的自我研發(fā)突然爆發(fā)為超級智能，我們更傾向于預(yù)見經(jīng)濟(jì)會經(jīng)歷更平緩的全自動化過渡。

在我們看來，AI很可能會經(jīng)歷一個較長的過渡期，在此期間，它在某些任務(wù)上超越人類，但在其他互補(bǔ)性任務(wù)上仍然不如人類。需要明確的是，我們同意AI最終將在幾乎所有具有經(jīng)濟(jì)價值的活動中超越人類，并推動經(jīng)濟(jì)增長的顯著加速。但我們認(rèn)為，這種轉(zhuǎn)變不會是瞬間發(fā)生的，而是會經(jīng)歷多年或數(shù)十年的廣泛而具有破壞性的自動化進(jìn)程，而且這一過程遠(yuǎn)不止局限于研發(fā)領(lǐng)域。

那么，我們又該如何“規(guī)劃并投資于一個AI逐步取代工作的未來”呢？

本文轉(zhuǎn)載自??51CTO技術(shù)棧??