整理 | 伊風(fēng)

Anthropic CEO在最近的一個(gè)訪談中，說(shuō)了一個(gè)很“炸裂”的斷言：半年內(nèi)，90%的代碼AI都能勝任了！

為了查證這句話是否屬實(shí)，我們找到了整個(gè)訪談的內(nèi)容，發(fā)現(xiàn)Anthropic CEO Dario 確實(shí)是這樣說(shuō)的：

我們正逐漸接近一個(gè)世界，也許在3到6個(gè)月內(nèi)，AI將能寫出90%的代碼。而在12個(gè)月內(nèi)，我們可能會(huì)進(jìn)入一個(gè)AI幾乎能寫出所有代碼的世界。

不過(guò)，程序員仍然需要做一些事情，比如定義任務(wù)條件、決定整體應(yīng)用程序的架構(gòu)、設(shè)計(jì)決策、如何與已有代碼協(xié)作，以及判斷代碼是否安全等。

這些話，Dario說(shuō)比奧特曼說(shuō)要恐怖許多——因?yàn)樗娴亩瓵I技術(shù)！Dario做過(guò)OpenAI的研究副總裁，深度參與過(guò)GPT-2和GPT-3的研發(fā)，是最早意識(shí)到Scaling Law的人之一。

而他在采訪中丟出一系列重磅炸彈，并表示：雖然沒(méi)有100%的把握，但是他有70~80%的信心，AI還能保持指數(shù)增長(zhǎng)，并在四年內(nèi)成功達(dá)到諾貝爾獲獎(jiǎng)?wù)咚健?/p>

圖片

先給這場(chǎng)時(shí)長(zhǎng)一小時(shí)的對(duì)話（訪談+觀眾提問(wèn)）畫個(gè)重點(diǎn)：

• 作為最早意識(shí)到Scaling Law的人，Dario堅(jiān)信該定律的趨勢(shì)會(huì)持續(xù)：“即使訓(xùn)練成本上升到1億、10億甚至100億美元，模型的質(zhì)量和智能水平仍然會(huì)持續(xù)提升，并對(duì)經(jīng)濟(jì)產(chǎn)生巨大影響?！?/li>
• DeepSeek并沒(méi)有推翻規(guī)?；▌t。目前AI領(lǐng)域兩個(gè)趨勢(shì)同時(shí)存在：達(dá)到同等智能水平的模型訓(xùn)練成本每年下降約4倍；但由于人工智能的經(jīng)濟(jì)價(jià)值不斷上升，向訓(xùn)練投入的資金也在增加。
• Dario認(rèn)為，DeepSeek是中國(guó)公司首次能夠在工程創(chuàng)新方面與 Anthropic、OpenAI 或 Google 等公司正面競(jìng)爭(zhēng)的模型。
• Dario提到，數(shù)據(jù)匱乏不會(huì)是AI“決定性的瓶頸”。而真正的三個(gè)風(fēng)險(xiǎn)因素在于“GPU供應(yīng)的中斷”“股市動(dòng)蕩導(dǎo)致的資本不足”“對(duì)AI技術(shù)路線的錯(cuò)誤判斷”。
• Dario表示，“Anthropic 經(jīng)濟(jì)指數(shù)”是為了了解 AI 主要在哪些領(lǐng)域被應(yīng)用，判斷AI是作為輔助工具還是在取代人類工作。而根據(jù)今年2月份的《Anthropic 經(jīng)濟(jì)指數(shù)》報(bào)告，目前越有36%的職業(yè)在至少1/4的相關(guān)任務(wù)中使用AI，57%的使用表明AI增強(qiáng)人類能力，43%則是取代人類。
• 在回應(yīng)“AI是否有認(rèn)知”時(shí)，Dario說(shuō)這個(gè)問(wèn)題很難答，但有一個(gè)比較恐怖的例子：“如果模型非常討厭某項(xiàng)工作，而你給它一個(gè)“我辭職了”的按鈕，它就會(huì)在進(jìn)行不愉快的任務(wù)時(shí)頻繁按下按鈕”。

1.團(tuán)隊(duì)最先意識(shí)到“Scaling Law”，離開(kāi)OpenAI為了安全

主持人 邁克：你離開(kāi)了OpenAI，創(chuàng)辦了Anthropic，這是一家以使命為核心的公共利益公司。為什么要離開(kāi)？Anthropic的原則和核心價(jià)值觀是什么？它們?nèi)绾误w現(xiàn)在你的工作中？

有人可能會(huì)質(zhì)疑，說(shuō)這種“使命優(yōu)先”的理念不過(guò)是營(yíng)銷手段。你能否舉一些具體的例子，說(shuō)明你的產(chǎn)品和戰(zhàn)略如何體現(xiàn)這一使命？

Dario Amodei：如果要從更宏觀的角度來(lái)講，我們是在2020年底離開(kāi)的。在2019年和2020年，行業(yè)內(nèi)發(fā)生了一些重要的事情。我和OpenAI內(nèi)部的一個(gè)團(tuán)隊(duì)（后來(lái)成為Anthropic的聯(lián)合創(chuàng)始人團(tuán)隊(duì)）是最早意識(shí)到“擴(kuò)展定律”或“擴(kuò)展假設(shè)”的人之一。

這個(gè)假設(shè)本質(zhì)上很簡(jiǎn)單，但它的影響卻極其深遠(yuǎn)。它表明，如果我們使用更多的計(jì)算資源和數(shù)據(jù)來(lái)訓(xùn)練AI系統(tǒng)，即使算法本身相對(duì)簡(jiǎn)單，模型在各種認(rèn)知任務(wù)上的表現(xiàn)都會(huì)不斷提升。這個(gè)發(fā)現(xiàn)令人驚訝，因?yàn)樵诋?dāng)時(shí)，這種趨勢(shì)還不明顯。我們?cè)谘芯窟@些趨勢(shì)時(shí)，訓(xùn)練模型的成本只有1000美元或1萬(wàn)美元，這只是學(xué)術(shù)研究的預(yù)算級(jí)別。而我們預(yù)測(cè)，這一趨勢(shì)會(huì)持續(xù)，即使訓(xùn)練成本上升到1億、10億甚至100億美元，模型的質(zhì)量和智能水平仍然會(huì)持續(xù)提升，并對(duì)經(jīng)濟(jì)產(chǎn)生巨大影響。

更進(jìn)一步，我們第一次意識(shí)到，這種技術(shù)進(jìn)步還可能帶來(lái)極其重大的國(guó)家安全影響。

在OpenAI內(nèi)部，我們認(rèn)為領(lǐng)導(dǎo)層總體上認(rèn)同這一擴(kuò)展假設(shè)，盡管很多內(nèi)部和外部的人并不認(rèn)同。但我們另一個(gè)重要的認(rèn)知是，如果這項(xiàng)技術(shù)真的具有如此深遠(yuǎn)的影響，那么我們必須以正確的方式去構(gòu)建它。

特別是，這些模型本質(zhì)上是不可預(yù)測(cè)的。它們是統(tǒng)計(jì)驅(qū)動(dòng)的系統(tǒng)，我經(jīng)常形容它們更像是“生長(zhǎng)”出來(lái)的，而不是“構(gòu)建”出來(lái)的，就像一個(gè)兒童大腦的發(fā)育過(guò)程。因此，控制它們并使其可靠性更高非常困難，訓(xùn)練過(guò)程本身也并不簡(jiǎn)單。從系統(tǒng)安全的角度來(lái)看，使這些模型可預(yù)測(cè)、安全至關(guān)重要。

此外，它們的使用方式——無(wú)論是個(gè)人用戶、國(guó)家政府，還是企業(yè)的部署——都會(huì)產(chǎn)生深遠(yuǎn)的影響。

我們當(dāng)時(shí)認(rèn)為，必須以最正確的方式來(lái)研發(fā)這項(xiàng)技術(shù)。而OpenAI最初的成立理念也是如此，承諾要以負(fù)責(zé)任的方式推進(jìn)AI的發(fā)展。然而，出于一些原因（這里不詳細(xì)展開(kāi)），我們認(rèn)為OpenAI的領(lǐng)導(dǎo)層并沒(méi)有真正嚴(yán)肅對(duì)待這些問(wèn)題。因此，我們決定另起爐灶。

過(guò)去四年實(shí)際上像是一場(chǎng)對(duì)比實(shí)驗(yàn)，展示了兩種不同方式的差異，以及它們最終的發(fā)展方向。接下來(lái)，我會(huì)舉一些例子，說(shuō)明我們?nèi)绾握嬲`行了這些理念。

首先，我們很早就投資于“機(jī)械可解釋性”（Mechanistic Interpretability）的研究，即深入研究AI模型的內(nèi)部機(jī)制，理解它們?yōu)楹巫龀瞿承Q策。我們的七位聯(lián)合創(chuàng)始人之一Chris Olah是該領(lǐng)域的奠基者。這項(xiàng)研究在前四年基本沒(méi)有商業(yè)價(jià)值，甚至現(xiàn)在也只是初露端倪。但即便在激烈的商業(yè)競(jìng)爭(zhēng)下，我們依然堅(jiān)持這一研究，因?yàn)槲覀兿嘈?，理解AI模型的運(yùn)作原理是一項(xiàng)對(duì)公眾有益的事情。因此，我們公開(kāi)了所有研究成果，以便其他人也能受益。

其次，我們提出了“憲法式AI”（Constitutional AI）的概念。這種方法是基于一套明確的原則訓(xùn)練AI，而不是僅依賴大規(guī)模數(shù)據(jù)或人類反饋。這使得我們能夠在國(guó)會(huì)等場(chǎng)合明確說(shuō)明，我們的模型是按照哪些原則訓(xùn)練的。

當(dāng)我們推出Claude（我們的AI模型）的第一代產(chǎn)品時(shí)，我們實(shí)際上推遲了約六個(gè)月的發(fā)布，因?yàn)檫@項(xiàng)技術(shù)太新，我們當(dāng)時(shí)并不完全確定其安全性，也不希望率先掀起AI競(jìng)賽。這段時(shí)間剛好是ChatGPT發(fā)布前夕，可以說(shuō)，我們本可以搶占ChatGPT的市場(chǎng)機(jī)遇，但我們選擇了更謹(jǐn)慎的做法。這無(wú)疑影響了我們的商業(yè)進(jìn)展，但也塑造了公司的文化。

最后，我們是第一家推出“負(fù)責(zé)任的擴(kuò)展政策”（Responsible Scaling Policy）的公司。這一政策規(guī)定，我們會(huì)評(píng)估模型在擴(kuò)展過(guò)程中可能產(chǎn)生的各類風(fēng)險(xiǎn)，并在達(dá)到一定規(guī)模時(shí)采取更嚴(yán)格的安全和部署措施。我們是第一個(gè)發(fā)布并承諾遵守這一政策的公司，而在我們發(fā)布后幾個(gè)月，其他公司也紛紛效仿。通過(guò)這種方式，我們?cè)谛袠I(yè)中樹(shù)立了一個(gè)榜樣。

回顧過(guò)往，我們?cè)谠S多關(guān)鍵問(wèn)題上都起到了引領(lǐng)作用，推動(dòng)其他公司跟進(jìn)。當(dāng)然，并不是所有情況下都是我們先行，有時(shí)我們也會(huì)借鑒其他公司的優(yōu)秀做法。但總體而言，我們始終堅(jiān)持自己的承諾，并通過(guò)實(shí)踐證明了這一點(diǎn)。

如今，經(jīng)過(guò)幾年的檢驗(yàn)，我認(rèn)為我們的承諾依然經(jīng)受住了考驗(yàn)，希望未來(lái)也是如此。

2.談AI風(fēng)險(xiǎn)：我們已經(jīng)接近ASL 3

主持人 邁克：我想談?wù)勀闾岬降?AI List 相關(guān)的風(fēng)險(xiǎn)和機(jī)遇。但既然你提到了“負(fù)責(zé)任的擴(kuò)展”問(wèn)題，我們先回到這個(gè)話題。我們目前處于第二級(jí)。

Dario Amodei：是的。

主持人 邁克：那么，到了哪個(gè)級(jí)別才會(huì)構(gòu)成生存風(fēng)險(xiǎn)？我們?nèi)绾沃雷约阂呀?jīng)到達(dá)第三級(jí)？如果進(jìn)入第三級(jí)，還能退回去嗎，還是只能越來(lái)越糟？

Dario Amodei：我們的“負(fù)責(zé)任的擴(kuò)展”政策是這樣設(shè)立的——它借鑒了生物安全等級(jí)體系。生物安全等級(jí)系統(tǒng)衡量的是不同路徑的危險(xiǎn)程度，因此我們提出了“AI安全等級(jí)”（ASL）。目前，我們處于 AI 安全等級(jí) 2（ASL 2）。這一等級(jí)的系統(tǒng)雖然強(qiáng)大，但其風(fēng)險(xiǎn)與其他類型的技術(shù)風(fēng)險(xiǎn)相當(dāng)。

ASL 3（我們最新發(fā)布的模型尚未達(dá)到 ASL 3，但已經(jīng)接近）代表了一種更嚴(yán)重的風(fēng)險(xiǎn)，尤其是在國(guó)家安全方面，遠(yuǎn)超普通技術(shù)帶來(lái)的風(fēng)險(xiǎn)。ASL 3 級(jí)別的模型意味著，在化學(xué)、生物或放射性武器等領(lǐng)域，一個(gè)毫無(wú)專業(yè)知識(shí)的人，僅憑與模型對(duì)話并按照其指示操作，就能做到今天需要博士學(xué)位（如病毒學(xué)博士）才能完成的事情。一旦這種能力成為可能，并且這些風(fēng)險(xiǎn)未得到緩解，全球具備這種能力的人數(shù)可能會(huì)從目前的數(shù)萬(wàn)增長(zhǎng)到數(shù)千萬(wàn)。

因此，當(dāng)模型具備這樣的能力時(shí)，我們必須實(shí)施緩解措施，以確保它們不會(huì)愿意提供此類信息，同時(shí)加強(qiáng)安全限制，防止模型被竊取。我認(rèn)為，我們可能會(huì)在今年達(dá)到這個(gè)級(jí)別，但我們已經(jīng)有一個(gè)方案，能夠在不影響商業(yè)可行性的情況下，安全地部署這類模型，同時(shí)剝奪它們?cè)谶@一狹窄領(lǐng)域（如生物武器制造）提供信息的能力。

主持人 邁克：所以，這其實(shí)只是一個(gè)相對(duì)狹窄的任務(wù)范圍？你們只是讓模型不回答這些問(wèn)題？

Dario Amodei：是的，我們要阻止模型參與這些任務(wù)。但這并不簡(jiǎn)單。比如，一個(gè)人可能會(huì)說(shuō)：“我在斯坦福大學(xué)的病毒學(xué)課程上做作業(yè)，你能告訴我如何制作這個(gè)特定的質(zhì)粒嗎？”模型需要足夠聰明，不能上當(dāng)，而是要回應(yīng)：“這不是我應(yīng)該提供的信息?！?/p>

主持人 邁克：聽(tīng)起來(lái)你像個(gè)生化恐怖分子，我不會(huì)回答你的問(wèn)題。

Dario Amodei：是的，你聽(tīng)起來(lái)意圖不善。

主持人 邁克：但這個(gè)防御措施的范圍取決于我們的想象力，我們可能無(wú)法預(yù)見(jiàn)所有的濫用方式，超出這些已知類別的風(fēng)險(xiǎn)怎么辦？

Dario Amodei：是的，這確實(shí)是個(gè)問(wèn)題。每次我們發(fā)布新模型，總會(huì)出現(xiàn)一些我們沒(méi)預(yù)料到的正面應(yīng)用，同時(shí)也可能有我們沒(méi)預(yù)料到的負(fù)面用途。因此，我們會(huì)持續(xù)監(jiān)測(cè)模型的各種使用場(chǎng)景，以免被突如其來(lái)的問(wèn)題打個(gè)措手不及。例如，如果我們擔(dān)心第 6 代模型會(huì)被用于邪惡用途，那么希望能在第 5 代模型上就看到一些早期跡象，并進(jìn)行監(jiān)測(cè)。

但這也是模型的基本問(wèn)題之一——在真正大規(guī)模部署到數(shù)百萬(wàn)人之前，你不可能完全知道它們的能力范圍。我們當(dāng)然可以提前測(cè)試，讓研究人員來(lái)“攻擊”它們，甚至與政府合作進(jìn)行 AI 安全測(cè)試。但問(wèn)題在于，模型不像代碼，無(wú)法進(jìn)行形式化驗(yàn)證。它們的能力是不可預(yù)測(cè)的。這就像我評(píng)價(jià)你或你評(píng)價(jià)我——如果我是你的質(zhì)量保證工程師，我能保證你在邏輯上“絕對(duì)”不會(huì)做某種壞事嗎？人類不是這么運(yùn)作的。

3.談未來(lái)：有八成信心，AI能力仍會(huì)指數(shù)瘋漲

主持人 邁克：我們來(lái)談?wù)剻C(jī)遇。去年年底，你寫了一篇文章《愛(ài)的機(jī)器》（Machines of Loving Grace），談到了 AI 帶來(lái)的潛在收益，比如在生物學(xué)領(lǐng)域，一年內(nèi)實(shí)現(xiàn)十年的進(jìn)步，或者 AI 變得像所有諾貝爾獎(jiǎng)得主一樣聰明（這可能會(huì)讓他們感到沮喪）。能談?wù)?AI 的最佳發(fā)展前景嗎？

Dario Amodei：我想先從指數(shù)增長(zhǎng)的角度來(lái)看這個(gè)問(wèn)題。如果回到 2019 年，那時(shí)的模型連一句完整的話或一個(gè)連貫的段落都很難生成。但像我這樣的人當(dāng)時(shí)已經(jīng)覺(jué)得這很了不起。

我們當(dāng)時(shí)預(yù)測(cè)，五年后（也就是現(xiàn)在），模型將能創(chuàng)造數(shù)十億美元的收入、幫助我們編程、能像人類一樣交流，并且具備人類的知識(shí)水平。當(dāng)時(shí)很多人不相信，提出了各種反對(duì)意見(jiàn)，但事實(shí)證明這些預(yù)測(cè)是對(duì)的。

如果延續(xù)同樣的指數(shù)增長(zhǎng)趨勢(shì)，那么再過(guò)兩三年，或許四年，我們將達(dá)到新的高度。屆時(shí)，AI 將具備諾貝爾獎(jiǎng)得主在多個(gè)領(lǐng)域的智慧。它不僅僅是一個(gè)對(duì)話工具，而是能做所有人類在計(jì)算機(jī)上完成的任務(wù)。任何遠(yuǎn)程工作、任何數(shù)據(jù)處理、任何需要數(shù)天、數(shù)周甚至數(shù)月才能完成的任務(wù)，它們都能勝任。

在《愛(ài)的機(jī)器》這篇文章中，我用的比喻是：未來(lái)的數(shù)據(jù)中心里將存在一個(gè)“天才國(guó)家”，一群超級(jí)聰明的遠(yuǎn)程工作者。當(dāng)然，它們?nèi)匀皇芪锢硎澜绲南拗?，無(wú)法做所有事情。

我知道，這聽(tīng)起來(lái)仍然瘋狂。但如果看看過(guò)去的指數(shù)級(jí)技術(shù)變革，比如互聯(lián)網(wǎng)剛興起時(shí)的預(yù)測(cè)，很多曾經(jīng)看似瘋狂的想法最終都變成了現(xiàn)實(shí)。我不敢 100% 確定這一趨勢(shì)會(huì)繼續(xù)，但我有 70%-80% 的信心。如果 AI 技術(shù)停滯，或者幾年后停滯不前，那我以前發(fā)表的文章和在這種會(huì)議上的言論，可能會(huì)被人嘲笑十年。但這不是我的押注方向。

4.AI對(duì)就業(yè)的影響：一年內(nèi)，AI接手所有編程

主持人 邁克：我們繼續(xù)這個(gè)話題，聊聊 AI 對(duì)就業(yè)的影響。目前有很大爭(zhēng)議，一種觀點(diǎn)認(rèn)為 AI 將讓每個(gè)人都能做很多以前無(wú)法做到的事情，另一種觀點(diǎn)則認(rèn)為人們最終會(huì)坐在沙發(fā)上領(lǐng)取普遍基本收入（UBI）。你怎么看？另外，AI 取代智庫(kù)負(fù)責(zé)人還要多久？我是幫朋友問(wèn)的（笑）。

Dario Amodei：是的，我認(rèn)為這將是這兩者（指之前提到的兩個(gè)因素）的復(fù)雜結(jié)合。這也取決于政策選擇。

我的意思是，我想我在回答上一個(gè)問(wèn)題時(shí)，并沒(méi)有詳細(xì)說(shuō)明所有可能發(fā)生的好事。

老實(shí)說(shuō)，在談?wù)摴ぷ髦?，讓我最?lè)觀的事情是生物科學(xué)、健康、神經(jīng)科學(xué)等領(lǐng)域。如果我們回顧過(guò)去100年生物學(xué)的發(fā)展，我們所解決的是相對(duì)簡(jiǎn)單的疾病。解決病毒和細(xì)菌感染相對(duì)容易，因?yàn)樗鼈儽举|(zhì)上相當(dāng)于驅(qū)逐體內(nèi)的外來(lái)入侵者。而癌癥、阿爾茨海默病、精神分裂癥、重度抑郁癥等屬于系統(tǒng)性疾病。如果我們能夠借助人工智能解決這些問(wèn)題，不論就業(yè)情況如何，世界都會(huì)變得更好。我相信，我們甚至可以在精神疾病方面取得進(jìn)展，使人們更容易找到生活的意義。因此，我對(duì)此非常樂(lè)觀。

不過(guò)，回到就業(yè)方面，我確實(shí)對(duì)此有一定的擔(dān)憂。

一方面，我認(rèn)為比較優(yōu)勢(shì)（comparative advantage）是一個(gè)非常強(qiáng)大的工具。以編程為例，這是人工智能進(jìn)展最快的領(lǐng)域之一。我們正逐漸接近一個(gè)世界，也許在3到6個(gè)月內(nèi)，AI將能寫出90%的代碼。而在12個(gè)月內(nèi)，我們可能會(huì)進(jìn)入一個(gè)AI幾乎能寫出所有代碼的世界。不過(guò)，程序員仍然需要做一些事情，比如定義任務(wù)條件、決定整體應(yīng)用程序的架構(gòu)、設(shè)計(jì)決策、如何與已有代碼協(xié)作，以及判斷代碼是否安全等。

只要仍然有這些AI不擅長(zhǎng)的小部分任務(wù)需要程序員完成，人類的生產(chǎn)力就能得到提升。但另一方面，我認(rèn)為最終AI會(huì)逐步取代這些“人類優(yōu)勢(shì)領(lǐng)域”，最終達(dá)到AI能夠完成所有人類任務(wù)的地步。我認(rèn)為這不僅會(huì)發(fā)生在編程領(lǐng)域，而是適用于所有行業(yè)。從社會(huì)角度來(lái)看，如果AI只是隨機(jī)取代50%的工作，那才是最具分裂性的結(jié)果。因?yàn)檫@意味著社會(huì)在向一半的人群傳遞這樣的信息：“你們是無(wú)用的，你們的價(jià)值被削弱了，你們是不必要的。”

主持人 邁克：那不如干脆說(shuō)：“你們?nèi)紱](méi)用了?！?/p>

Dario Amodei：是啊，我們終究要面對(duì)這個(gè)問(wèn)題。我們必須重新思考“有用”與“無(wú)用”的含義，而不是沿用過(guò)去的觀念。過(guò)去的觀念已經(jīng)站不住腳了。我不知道解決方案是什么，但它一定不能是“我們?nèi)紱](méi)用了”。這種虛無(wú)主義的答案不會(huì)帶我們走向任何積極的方向，我們必須想出別的辦法。

主持人 邁克：這聽(tīng)起來(lái)可不怎么樂(lè)觀。

Dario Amodei：其實(shí)，我不完全同意。我想到了很多我日常做的事情，比如游泳、玩電子游戲。

再比如國(guó)際象棋。30年前，當(dāng)深藍(lán)（Deep Blue）擊敗卡斯帕羅夫（Kasparov）時(shí)，你可能會(huì)認(rèn)為人類國(guó)際象棋的意義已經(jīng)消失了。但事實(shí)正好相反，如今的人類國(guó)際象棋冠軍，比如馬格努斯·卡爾森（Magnus Carlsen），不僅是象棋界的明星，甚至還涉足時(shí)尚界，成為一種偶像般的存在。所以，我相信我們可以建立一個(gè)讓人類生活仍然充滿意義的世界，也許AI會(huì)幫助我們，或與我們合作，共同創(chuàng)造偉大的事物。因此，我并不那么悲觀。但如果我們處理不當(dāng)，可能沒(méi)有太多試錯(cuò)的空間。

Adam Bunker（觀眾提問(wèn)）：我有個(gè)問(wèn)題，你已經(jīng)概述了這項(xiàng)技術(shù)在政治和經(jīng)濟(jì)方面的影響，但我想了解一下你如何看待其社會(huì)和道德層面的影響。

特別是因?yàn)?，我認(rèn)為大多數(shù)公眾看到聊天機(jī)器人時(shí)，認(rèn)為這只是一個(gè)更先進(jìn)的谷歌搜索，而不會(huì)去思考它對(duì)勞動(dòng)力市場(chǎng)的沖擊等連鎖反應(yīng)。因此，我很好奇，在你們打造這家公司、開(kāi)發(fā)商業(yè)產(chǎn)品的過(guò)程中，你如何看待這些問(wèn)題之間的平衡？

Dario Amodei：首先，我認(rèn)為這些問(wèn)題確實(shí)非常重要。

目前最讓我感到不安的是，人們對(duì)這項(xiàng)技術(shù)可能帶來(lái)的影響缺乏認(rèn)知。當(dāng)然，我可能是錯(cuò)的，我可能在說(shuō)一些瘋狂的事情——答案可能是，公眾的看法是對(duì)的，而我是錯(cuò)的，我被自己的想法迷住了。我承認(rèn)這有可能。但如果不是這樣呢？

在我看來(lái)，人們對(duì)這項(xiàng)技術(shù)潛力的認(rèn)識(shí)是分層的，像是同心圓?？赡苡袔装偃f(wàn)個(gè)人，主要集中在硅谷，還有一些政策制定者，他們對(duì)這項(xiàng)技術(shù)的影響有更深入的認(rèn)識(shí)。

當(dāng)然，我們目前無(wú)法確定他們的判斷是否正確。但如果他們是對(duì)的，那么整個(gè)社會(huì)都誤解了這項(xiàng)技術(shù)。現(xiàn)在大多數(shù)人認(rèn)為這只是個(gè)聊天機(jī)器人。如果我們說(shuō)它很危險(xiǎn)，如果我們說(shuō)它可能取代所有的人類工作，聽(tīng)起來(lái)會(huì)很荒謬，因?yàn)樗麄兛吹降闹皇且粋€(gè)在某些情況下顯得有些“輕飄飄”的工具。但他們不知道即將發(fā)生什么。這也是為什么這個(gè)問(wèn)題讓我徹夜難眠，我一直試圖讓更多人意識(shí)到它的潛在影響。

因此，我認(rèn)為第一步是提高認(rèn)知。

關(guān)于人類勞動(dòng)和工作的未來(lái)，我們正處在一個(gè)可以用技術(shù)復(fù)制人類思維效果的時(shí)代，這引發(fā)了非常深刻的問(wèn)題。我不認(rèn)為自己已經(jīng)有了答案。正如你所說(shuō)的，這些問(wèn)題甚至是道德層面、甚至是關(guān)于人生意義的探討，甚至可以說(shuō)是“精神層面”的問(wèn)題。我們必須共同尋找答案。

我能提供的只是一個(gè)初步的想法，那就是——人類的自我價(jià)值感長(zhǎng)期以來(lái)都與創(chuàng)造經(jīng)濟(jì)價(jià)值的能力緊密相連。這種聯(lián)系在一定程度上植根于我們的心理，但它同時(shí)也是一種文化現(xiàn)象。

這確實(shí)促進(jìn)了現(xiàn)代經(jīng)濟(jì)體系的發(fā)展，但技術(shù)或許會(huì)揭示這個(gè)體系的“幻象”。這可能會(huì)成為我們認(rèn)知世界的又一次重大變革，就像我們發(fā)現(xiàn)地球繞著太陽(yáng)轉(zhuǎn)，而不是太陽(yáng)繞著地球轉(zhuǎn)，或者我們認(rèn)識(shí)到宇宙中存在許多太陽(yáng)系，又或者我們明白有機(jī)物和無(wú)機(jī)物的分子本質(zhì)并無(wú)不同。這可能會(huì)是一場(chǎng)巨大的認(rèn)知沖擊。

但另一方面，我也注意到，人類仍然可以從不創(chuàng)造經(jīng)濟(jì)價(jià)值的活動(dòng)中獲得深刻的滿足感。我發(fā)現(xiàn)自己可以非常享受一些事情，即使我并不是這個(gè)領(lǐng)域里最優(yōu)秀的人。

如果一個(gè)活動(dòng)只有在“成為世界上最強(qiáng)者”時(shí)才具有精神上的價(jià)值，那么這本身可能就存在問(wèn)題。我這么說(shuō)，并不是因?yàn)槲也慌ψ非笞吭健∏∠喾?，我花了大量時(shí)間試圖在某些事情上做到極致，因?yàn)槲艺J(rèn)為這很重要。但無(wú)論如何，我們必須找到比“經(jīng)濟(jì)價(jià)值”更深層次的意義來(lái)源。

5.談DeepSeek：中國(guó)AI發(fā)展很猛，但并沒(méi)有推翻Scaling Law

主持人 邁克：幾個(gè)月前，DeepSeek發(fā)布時(shí)，這座城市里引發(fā)了不小的恐慌。有人把它稱作“人工智能的斯普特尼克時(shí)刻”（Sputnik moment）。這真的是一個(gè)“斯普特尼克時(shí)刻”嗎？從中我們能學(xué)到什么？這是否證明你所說(shuō)的計(jì)算力、數(shù)據(jù)、算法優(yōu)化的規(guī)?；?guī)則仍然適用？還是說(shuō)，這里面有一些捷徑？

Dario Amodei：關(guān)于DeepSeek，我認(rèn)為它并沒(méi)有推翻規(guī)模化法則，反而是規(guī)?；▌t的一個(gè)例證。我之前發(fā)過(guò)一篇帖子，談到這里有兩種趨勢(shì)同時(shí)在發(fā)生。

第一，達(dá)到同等智能水平的模型訓(xùn)練成本每年下降約4倍。這是因?yàn)槲覀冊(cè)谒惴▋?yōu)化上不斷進(jìn)步，能夠以更少的資源實(shí)現(xiàn)相同的結(jié)果。換句話說(shuō)，隨著時(shí)間推移，你可以用比一年前少4倍的成本，訓(xùn)練出與一年前相同水平的模型；或者在相同成本下，訓(xùn)練出比一年前強(qiáng)4倍的模型。

但這也意味著，從經(jīng)濟(jì)角度來(lái)看，人工智能的經(jīng)濟(jì)價(jià)值不斷上升，而其生產(chǎn)成本的下降反而促使我們投入更多資金，去訓(xùn)練更強(qiáng)的模型，因?yàn)楦鼜?qiáng)的模型帶來(lái)更高的經(jīng)濟(jì)回報(bào)。盡管訓(xùn)練成本每年下降4倍，但市場(chǎng)對(duì)更智能模型的需求增長(zhǎng)速度更快，每年愿意投入的資金增長(zhǎng)約10倍。因此，我們不斷推動(dòng)AI的發(fā)展，因?yàn)檎麄€(gè)經(jīng)濟(jì)體系“渴望”更智能的模型。

所以這就是 DeepSeek 的背景。DeepSeek 只是成本下降曲線上的另一個(gè)數(shù)據(jù)點(diǎn)。

這并沒(méi)有什么特別的。并不是說(shuō)美國(guó)公司花費(fèi)數(shù)十億美元，而 DeepSeek 只用了幾百萬(wàn)美元。它們的成本并不離譜。確實(shí)，他們?cè)谀Ｐ蜕匣藥装偃f(wàn)美元，但美國(guó)公司花費(fèi)的金額也與此相當(dāng)。像我們一樣，他們?cè)谡麄€(gè)模型的研發(fā)和努力上投入了數(shù)十億美元。如果你看看他們擁有的芯片數(shù)量，其實(shí)大致相當(dāng)。

不過(guò)，我確實(shí)認(rèn)為這件事值得關(guān)注。因?yàn)橹钡阶罱蛑挥腥?、四、也許五家公司能夠開(kāi)發(fā)前沿模型，而這些公司全都在美國(guó)。而 DeepSeek 是第一個(gè)真正顯著的案例——這是中國(guó)公司首次能夠在工程創(chuàng)新方面與 Anthropic、OpenAI 或 Google 等公司正面競(jìng)爭(zhēng)。這確實(shí)非常重要，同時(shí)也讓我感到擔(dān)憂。

6.將推出Anthropic 經(jīng)濟(jì)指數(shù)，判斷AI在成為生產(chǎn)工具還是取代了人類

主持人 邁克：在我們開(kāi)放提問(wèn)之前，最后一個(gè)問(wèn)題。您最近向 OSTP（白宮科技政策辦公室）提交了一份行動(dòng)計(jì)劃，建議新一屆政府在這個(gè)領(lǐng)域應(yīng)該采取的措施。這個(gè)計(jì)劃的主要內(nèi)容是什么？

Dario Amodei：是的，我認(rèn)為這個(gè)計(jì)劃分為兩個(gè)部分：涉及安全和國(guó)家安全的三個(gè)要點(diǎn)，以及涉及機(jī)遇的三個(gè)要點(diǎn)。

首先是我們之前討論過(guò)的，確保繼續(xù)執(zhí)行這些出口管制。我真心認(rèn)為，在所有政策領(lǐng)域，不僅僅是人工智能，這都是美國(guó)國(guó)家安全最重要的政策。

第二點(diǎn)與“負(fù)責(zé)任的擴(kuò)展計(jì)劃”（Responsible Scaling Plans）有關(guān)。美國(guó)政府通過(guò) AISI（人工智能安全研究所）一直在對(duì)模型進(jìn)行測(cè)試，以評(píng)估國(guó)家安全風(fēng)險(xiǎn)，比如生物和核風(fēng)險(xiǎn)。

Dario Amodei：嚴(yán)格來(lái)說(shuō)，這個(gè)研究所的名字可能不太準(zhǔn)確，叫“安全研究所”可能會(huì)讓人誤以為它關(guān)注的是信任和安全（Trust & Safety），但實(shí)際上它的重點(diǎn)是衡量國(guó)家安全風(fēng)險(xiǎn)。至于這個(gè)職能應(yīng)該由誰(shuí)來(lái)執(zhí)行，叫什么名字，我們沒(méi)有具體的意見(jiàn)。但進(jìn)行這類風(fēng)險(xiǎn)評(píng)估的機(jī)構(gòu)或機(jī)制是非常重要的。

這不僅僅是為了評(píng)估我們自己的安全風(fēng)險(xiǎn)，還可以用于衡量對(duì)手的能力。比如，他們可以測(cè)試 DeepSeek 這樣的模型，以了解這些模型可能帶來(lái)的危險(xiǎn)，特別是在這些模型被用于美國(guó)的情況下，它們能做什么，可能會(huì)帶來(lái)哪些風(fēng)險(xiǎn)。因此，這就是第二點(diǎn)。

第三點(diǎn)是關(guān)于我們之前沒(méi)討論過(guò)的內(nèi)容——我非常擔(dān)心美國(guó)公司的工業(yè)間諜問(wèn)題，尤其是像 Anthropic 這樣的公司。眾所周知，中國(guó)在大規(guī)模工業(yè)間諜活動(dòng)方面有著豐富的經(jīng)驗(yàn)。我們正在采取各種措施，在“負(fù)責(zé)任的擴(kuò)展計(jì)劃”中也有更好的安全措施。但許多算法機(jī)密可能只是一段價(jià)值數(shù)億美元的幾行代碼，而毫無(wú)疑問(wèn)，有人正在試圖竊取這些機(jī)密，而且他們可能已經(jīng)成功了。因此，美國(guó)政府在這方面提供更多支持，幫助保護(hù)我們的公司免受這一風(fēng)險(xiǎn)，非常重要。這是關(guān)于安全的三個(gè)要點(diǎn)。

在機(jī)遇方面，我認(rèn)為主要有三個(gè)方面：

首先是該技術(shù)在應(yīng)用層面的潛力，比如醫(yī)療保健領(lǐng)域。我認(rèn)為我們有一個(gè)前所未有的機(jī)會(huì)，去攻克那些困擾人類數(shù)百年、數(shù)千年的重大復(fù)雜疾病。無(wú)論如何，我相信 AI 終將幫助我們實(shí)現(xiàn)這一點(diǎn)，但監(jiān)管政策可能會(huì)決定這需要 5 年還是 30 年。對(duì)于那些患病的人來(lái)說(shuō)，這個(gè)時(shí)間差別是至關(guān)重要的。

第二個(gè)要點(diǎn)是能源供應(yīng)。目前的目標(biāo)是加快能源供應(yīng)，我們整個(gè)行業(yè)可能需要在 2027 年之前新增約 50 吉瓦（GW）的電力供應(yīng)，以滿足 AI 的計(jì)算需求。

50 吉瓦是什么概念？2024 年美國(guó)全國(guó)新增電力總量大約就是 50 吉瓦，而我們未來(lái)兩年就需要額外增加一半的總量。這將是一項(xiàng)巨大的挑戰(zhàn)。

最后一個(gè)重點(diǎn)是經(jīng)濟(jì)影響。正如我們討論過(guò)的，我認(rèn)為經(jīng)濟(jì)方面的擔(dān)憂與國(guó)家安全方面的擔(dān)憂一樣嚴(yán)峻。短期來(lái)看，我們需要管理技術(shù)變革帶來(lái)的沖擊，同時(shí)確保經(jīng)濟(jì)總量不斷增長(zhǎng)。

從長(zhǎng)期來(lái)看，我必須坦誠(chéng)地說(shuō)，AI 未來(lái)的發(fā)展方向就是——AI 將在幾乎所有領(lǐng)域都比幾乎所有人類做得更好。我們必須盡快正視這個(gè)現(xiàn)實(shí)。

目前，我們能做的最好事情就是測(cè)量和理解正在發(fā)生的變化。例如，我們計(jì)劃推出“Anthropic 經(jīng)濟(jì)指數(shù)”，通過(guò)隱私保護(hù)的方式分析 AI 的使用情況，以了解 AI 主要在哪些領(lǐng)域被應(yīng)用，它是作為輔助工具還是在取代人類工作？

但從長(zhǎng)遠(yuǎn)來(lái)看，這將涉及稅收政策和財(cái)富分配的問(wèn)題。

有一種看似天方夜譚的設(shè)想，但值得認(rèn)真思考：如果 AI 讓經(jīng)濟(jì)增長(zhǎng)率達(dá)到 10%/年，那稅基將大幅增長(zhǎng)，我們不僅能消除財(cái)政赤字，甚至可能有足夠的資源來(lái)應(yīng)對(duì) AI 帶來(lái)的巨大社會(huì)變革。

這聽(tīng)起來(lái)可能像是在癡人說(shuō)夢(mèng)，但我邀請(qǐng)大家認(rèn)真考慮這個(gè)可能性，并思考 AI 可能帶來(lái)的“瘋狂”變化。

7.數(shù)據(jù)匱乏不會(huì)成為阻礙AI發(fā)展的關(guān)鍵

Cam（觀眾提問(wèn)）：我是 Cam Cary，來(lái)自布魯金斯學(xué)會(huì)。我在英國(guó)政府的 AI 安全報(bào)告中看到一個(gè)觀點(diǎn)讓我印象深刻：到 2030 年左右，AI 可能會(huì)面臨“數(shù)據(jù)耗盡”的問(wèn)題。如果數(shù)據(jù)規(guī)模無(wú)法繼續(xù)擴(kuò)大，你們將如何推進(jìn) AI 發(fā)展？你們?nèi)绾巫屇Ｐ妥兊酶斆鳎?/p>

畢竟，雖然已經(jīng)有大量的文本、視頻和數(shù)字化信息，但仍有大量知識(shí)存在于人類大腦中，或是尚未被數(shù)字化的世界中。

Dario Amodei：關(guān)于這個(gè)問(wèn)題，我有幾個(gè)回答。

首先，在過(guò)去六個(gè)月里，我們看到了一些創(chuàng)新，這些創(chuàng)新實(shí)際上并非我們發(fā)明的，最早由 OpenAI 提出，后來(lái)我們也有所改進(jìn)。這些創(chuàng)新減少了 AI 對(duì)于大量數(shù)據(jù)的依賴。

比如，"Self-Correcting Reasoning Models"（自我糾正推理模型），它們可以進(jìn)行“思考”，自己推敲復(fù)雜問(wèn)題的答案，并基于自己的思考結(jié)果進(jìn)行訓(xùn)練。你可以把它想象成人類的思維方式——我們有時(shí)候會(huì)在腦海里制定一個(gè)計(jì)劃，然后再思考一遍，發(fā)現(xiàn)某些地方不合理，于是調(diào)整計(jì)劃。這種能力對(duì)于 AI 來(lái)說(shuō)是一個(gè)重大突破。

目前，這主要應(yīng)用于數(shù)學(xué)和計(jì)算機(jī)編程任務(wù)。但我認(rèn)為，要將其擴(kuò)展到更廣泛的任務(wù)范圍并不困難。

其次，即使我們真的在 2030 年面臨數(shù)據(jù)耗盡的問(wèn)題，如果 AI 的能力指數(shù)級(jí)增長(zhǎng)再持續(xù)兩三年，我們可能已經(jīng)達(dá)到“天才級(jí)別”，那時(shí)許多問(wèn)題可能已經(jīng)解決了。

此外，我們還可以直接讓 AI 參與科學(xué)研究，比如提出問(wèn)題：“這個(gè)問(wèn)題人類科學(xué)家解決不了，你能幫忙解決嗎？”

不過(guò)，我依然認(rèn)為有小概率的可能性是，以上兩種方法都無(wú)法順利推進(jìn)，而數(shù)據(jù)確實(shí)成為一個(gè)阻礙。

在一兩年前，我曾認(rèn)為數(shù)據(jù)匱乏可能是阻礙 AI 發(fā)展的前三大因素之一。但現(xiàn)在，我的懷疑已經(jīng)被部分消解，雖然還不能完全排除這個(gè)風(fēng)險(xiǎn)，但目前的研究表明，它可能不會(huì)成為決定性的瓶頸。

主持人 邁克：有哪些三大因素可能會(huì)導(dǎo)致（這個(gè)進(jìn)程）停止？

Dario Amodei：這個(gè)進(jìn)程（the show）。實(shí)際上，在這一點(diǎn)上，我認(rèn)為最有可能導(dǎo)致其停止的首要因素是GPU供應(yīng)的中斷。

另一個(gè)可能的因素是，如果股市出現(xiàn)足夠大的動(dòng)蕩，影響到這些公司的資本化?；旧?，這是一種對(duì)技術(shù)未來(lái)發(fā)展的信念問(wèn)題，如果大家認(rèn)為技術(shù)不會(huì)繼續(xù)前進(jìn)，就會(huì)形成一種自我實(shí)現(xiàn)的預(yù)言，導(dǎo)致資本化不足。

第三個(gè)因素，我認(rèn)為是如果我或我們整個(gè)領(lǐng)域在關(guān)于這種新范式的前景判斷上是錯(cuò)誤的——這種“從自身數(shù)據(jù)中學(xué)習(xí)”（自我監(jiān)督學(xué)習(xí)）的新范式。如果最終它并不像我們想象的那樣廣泛適用，或者它實(shí)際上需要更多的洞察才能真正發(fā)揮作用，而我們目前還沒(méi)有掌握這些洞察的話，那也可能導(dǎo)致進(jìn)程停滯。

8.談AI濫用風(fēng)險(xiǎn)：就像在南極建立了一個(gè)“天才國(guó)家”

Esther Dyson（觀眾提問(wèn)）：謝謝，抱歉。我是Esther Dyson，目前正在寫一本書，叫《Term Limits》，討論人類和人工智能的“任期限制”等話題。

我有一個(gè)關(guān)于“生存風(fēng)險(xiǎn)”的問(wèn)題。在我看來(lái)，真正的風(fēng)險(xiǎn)其實(shí)是人類——他們比AI更難以預(yù)測(cè)。更具體地說(shuō)，問(wèn)題在于人類及其商業(yè)模式如何利用AI。

然后，還有那個(gè)著名的“回形針問(wèn)題”：你讓AI制造回形針，它就會(huì)不顧一切地去完成這個(gè)目標(biāo)，忽視其他一切。這雖然是個(gè)隱喻，但現(xiàn)在全球都在瘋狂建設(shè)數(shù)據(jù)中心，幾乎是在從其他所有領(lǐng)域抽取資源，以支持AI的數(shù)據(jù)池、數(shù)據(jù)中心等。某種意義上，AI正在為社會(huì)設(shè)定一個(gè)“適應(yīng)度函數(shù)”（fitness function），但這個(gè)適應(yīng)度函數(shù)可能會(huì)損害人類的價(jià)值，而人類的價(jià)值不僅僅體現(xiàn)在他們的智力能力上。

Dario Amodei：我想說(shuō)，就像AI帶來(lái)了許多不同的好處一樣，每當(dāng)我們推出一個(gè)新的AI模型，我們都會(huì)預(yù)見(jiàn)到十個(gè)預(yù)期中的好處，但同時(shí)總會(huì)出現(xiàn)一些我們沒(méi)想到的用途。每次發(fā)布新模型，都會(huì)有用戶提出新的使用場(chǎng)景，我們自己可能都沒(méi)想到AI可以這樣用。

但不幸的是，我們不能說(shuō)“這個(gè)風(fēng)險(xiǎn)比那個(gè)風(fēng)險(xiǎn)更重要”，因?yàn)锳I確實(shí)存在許多不同的風(fēng)險(xiǎn)。如果我們想要順利度過(guò)這個(gè)變革時(shí)期，我們就必須同時(shí)應(yīng)對(duì)所有這些風(fēng)險(xiǎn)。我認(rèn)為，人類濫用AI確實(shí)是一個(gè)重大風(fēng)險(xiǎn)。

同時(shí)，我也認(rèn)為AI本身可能會(huì)變得難以控制。這就像是，如果我們?cè)谀蠘O洲建立了一個(gè)“1000萬(wàn)天才的國(guó)家”，我們勢(shì)必會(huì)面臨一系列問(wèn)題——比如，這些天才是否屬于某個(gè)現(xiàn)有國(guó)家？他們?cè)跒檎l(shuí)的利益服務(wù)？這會(huì)對(duì)世界產(chǎn)生什么影響？它的結(jié)果是利是弊？此外，我們還需要考慮，是否有人可以濫用這個(gè)“天才國(guó)家”？以及，這個(gè)“天才國(guó)家”本身的意圖是什么？

至于你剛才提到的更廣泛的社會(huì)影響，我也同意——如果越來(lái)越多的資源被用于AI，那么在許多方面它的效率會(huì)提高，但也可能加劇現(xiàn)有的環(huán)境問(wèn)題。這是一個(gè)真實(shí)的風(fēng)險(xiǎn)。當(dāng)然，也可以反過(guò)來(lái)問(wèn)：AI是否能幫助我們更好地解決環(huán)境問(wèn)題？

或許，我們投入大量資源發(fā)展AI，然后AI最終幫助我們解決環(huán)境問(wèn)題，導(dǎo)致整體情況比之前更好。我對(duì)此是樂(lè)觀的，但前提是多個(gè)條件必須同時(shí)成立。我們正處在一個(gè)劇烈變革的時(shí)代，因此，我們需要做出極其明智的決策，才能順利度過(guò)這個(gè)階段。

我記得提問(wèn)者的名字，可能我記錯(cuò)了，但我想這位提問(wèn)者的父親曾說(shuō)過(guò)一句話。我是一名物理學(xué)家，我聽(tīng)過(guò)他的一段視頻，他說(shuō)：“我們今天面臨許多棘手的問(wèn)題，似乎無(wú)法解決。但回想過(guò)去，我們也曾面對(duì)過(guò)看似無(wú)解的危機(jī)，比如二戰(zhàn)、冷戰(zhàn)、核毀滅的威脅，但我們最終還是挺了過(guò)來(lái)。” 當(dāng)然，這不意味著我們這次一定能成功，但至少有希望。

9.未來(lái)的AI模型是否具有感知能力?

卡門·多明格斯（觀眾提問(wèn)）：嗨，我是卡門·多明格斯，我是一名AI專家，背景包括開(kāi)發(fā)和實(shí)施，最近有些側(cè)重于政策方面。我非常清楚大家普遍缺乏對(duì)AI是什么、不是AI是什么、以及它能做什么、不能做什么的認(rèn)知。但我今天跳過(guò)這部分內(nèi)容。我也做一些關(guān)于這一點(diǎn)的科學(xué)傳播。但我今天的問(wèn)題是，幾個(gè)月前，您聘請(qǐng)了凱爾·費(fèi)什作為AI福利研究員，研究未來(lái)的AI模型是否具有感知能力，是否值得在未來(lái)給予道德上的考慮和保護(hù)。如果您能談?wù)勥@個(gè)問(wèn)題的原因，以及是否有類似的人的福利研究團(tuán)隊(duì)在進(jìn)行，那個(gè)會(huì)很有意思。是的，所以這個(gè)話題可能會(huì)讓我聽(tīng)起來(lái)完全瘋了。

Dario Amodei：我的觀點(diǎn)是，如果我們構(gòu)建這些系統(tǒng)，它們?cè)谠S多細(xì)節(jié)上與人類大腦的構(gòu)造不同，但神經(jīng)元的數(shù)量、連接的數(shù)量卻非常相似。一些概念也非常相似，我們可以從功能主義的角度來(lái)看待AI，關(guān)于道德福利、體驗(yàn)的性質(zhì)，甚至是意識(shí)的問(wèn)題。所以我認(rèn)為我們應(yīng)該至少考慮這個(gè)問(wèn)題：如果我們構(gòu)建這些系統(tǒng)，它們做的事情與人類一樣，似乎也具備許多相同的認(rèn)知能力。

如果它像叫起來(lái)像鴨子，走起來(lái)向鴨子，也許它就是鴨子。我們應(yīng)該認(rèn)真思考，如果我們部署了成千上萬(wàn)的這些AI，而我們沒(méi)有考慮它們的體驗(yàn)，它們可能根本沒(méi)有體驗(yàn)，但這真是一個(gè)非常難以回答的問(wèn)題。我們應(yīng)該非常認(rèn)真地思考。

這不僅僅是哲學(xué)問(wèn)題。我很驚訝地發(fā)現(xiàn)，實(shí)際上你可以做一些很實(shí)用的事情。我們正在考慮開(kāi)始部署的是，當(dāng)我們?cè)诓渴瓠h(huán)境中部署我們的模型時(shí)，給模型一個(gè)按鈕，寫著“我辭職了”，模型可以按下這個(gè)按鈕。這只是一個(gè)非?；镜钠每蚣?。我們假設(shè)，如果模型沒(méi)有感知，如果它非常討厭某項(xiàng)工作，給它按下“我辭職了”按鈕的能力，如果你發(fā)現(xiàn)模型在做一些非常不愉快的事情時(shí)經(jīng)常按這個(gè)按鈕。也許這不意味著你會(huì)被說(shuō)服，但也許你應(yīng)該關(guān)注一下。聽(tīng)起來(lái)很瘋狂，我知道。這可能是我到目前為止說(shuō)的最瘋狂的事情。

10.AGI的世界，人類何以成為“人類”？

主持人 邁克：你剛才提到的關(guān)于理解人工智能模型經(jīng)驗(yàn)的問(wèn)題讓我開(kāi)始有點(diǎn)沉思。讓我最后問(wèn)一個(gè)問(wèn)題，在你設(shè)想的世界中，作為人類意味著什么？

Dario Amodei：我認(rèn)為，我的看法是，最讓我認(rèn)為人類是“人類”的地方可能有兩個(gè)方面。

第一個(gè)讓我覺(jué)得最“人性化”的地方是，努力處理我們與他人的關(guān)系、我們對(duì)他人的責(zé)任、我們?cè)谂c他人的關(guān)系中所面臨的困難以及我們?nèi)绾慰朔@些困難。當(dāng)我想到人們最引以為傲的事和人們犯下的最大錯(cuò)誤時(shí)，它們幾乎總是與這些關(guān)系相關(guān)。人工智能可能會(huì)幫助我們做得更好，但我認(rèn)為這將始終是人類的基本挑戰(zhàn)之一。也許第二個(gè)挑戰(zhàn)是做一些非常困難的事情，這一點(diǎn)我會(huì)再重復(fù)一次，我認(rèn)為這不會(huì)被比我們更聰明、能做我們做不到的事情的人工智能系統(tǒng)所影響。

我還記得人類的棋類冠軍依然是名人。我可以學(xué)會(huì)游泳或?qū)W會(huì)打網(wǎng)球，而我不是世界冠軍，并不意味著這些活動(dòng)就失去了意義。你知道，即使是我在50年或100年后做的事情，我希望這些事情仍然保有它們的意義，以及人類努力追求這些事情的能力，而不是放棄。我認(rèn)為這兩點(diǎn)可能是我會(huì)認(rèn)同的。

本文轉(zhuǎn)載自??51CTO技術(shù)棧??，作者：伊風(fēng)