編譯 | Grace Bo

整理 | 言征

出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）

美國(guó)大選結(jié)束前，知名美國(guó)主持人塔克·卡爾森（Tucker Carlson）和馬斯克有一場(chǎng)信息量非常高的對(duì)話，馬斯克點(diǎn)評(píng)了現(xiàn)在的AGI發(fā)展進(jìn)度，并解釋了自己為什么不信任OpenAI，并直言?shī)W特曼撒謊成性，甚至認(rèn)為谷歌的控制讓美國(guó)白宮對(duì)于AI的監(jiān)管沒(méi)有落實(shí)，并解釋了和特朗普打算成立“政府效率委員會(huì)”來(lái)對(duì)不合理的法規(guī)和機(jī)構(gòu)進(jìn)行“垃圾回收”，并認(rèn)為人類最好的歸宿就是退休……讓人聽(tīng)下來(lái)對(duì)于AI的未來(lái)有了更深的警惕之心。

圖片來(lái)源：Visionary

• 我們需要一個(gè)最大程度上追求真相的AI。
• 你能在培養(yǎng)過(guò)程中灌輸良好的價(jià)值觀，即便你知道它將會(huì)比你聰明得多，你也可以確保它擁有良好的價(jià)值觀，比如慈善、道德、誠(chéng)實(shí)和積極。但最終我不認(rèn)為我們能夠控制AI。所以我認(rèn)為我們能做的最好就是確保它成長(zhǎng)得好。
• 最后就是AI對(duì)AI的較量。
• 但我認(rèn)為這些目標(biāo)是合理的，尤其是維護(hù)言論自由的權(quán)利，這屬于第一修正案的范疇。如果沒(méi)有言論自由，就沒(méi)有民主，因?yàn)槿藗儫o(wú)法做出重要的投票選擇。這就是我的“有爭(zhēng)議”觀點(diǎn)。而且我不認(rèn)為任何一方政黨是完美的。

1.AGI發(fā)展到什么程度了

Tucker：你說(shuō)過(guò)人工智能、機(jī)器智能可能是一件好事。那你覺(jué)得我們目前的AI，特別是AGI發(fā)展到什么階段了？你的看法是什么？

Elon：我認(rèn)為現(xiàn)在每個(gè)人都可以看到AI正在以非?？斓乃俣冗M(jìn)步。你可以看到每個(gè)月甚至每周都會(huì)有新的能力出現(xiàn)。AI現(xiàn)在能寫(xiě)出比大概90%、也許95%的人類都更好的文章。在任何給定主題上，它都能寫(xiě)出優(yōu)質(zhì)的文章。AI目前能夠戰(zhàn)勝絕大多數(shù)人類。如果你要求它畫(huà)一幅畫(huà)，它也能做到。例如，你可以試試用MidJourney（一個(gè)圖像生成工具），它能生成美學(xué)效果驚人的圖像，超過(guò)了90%的藝術(shù)家水平。這是客觀事實(shí)。而且它幾乎是即時(shí)完成的，大約30秒就可以生成。我們也開(kāi)始看到AI電影的出現(xiàn)，現(xiàn)在也有AI短片和AI音樂(lè)創(chuàng)作。

AI計(jì)算的增長(zhǎng)率是指數(shù)級(jí)甚至超指數(shù)級(jí)的。每個(gè)月上線的AI計(jì)算能力在急劇增加，大約每年增長(zhǎng)500%。這種趨勢(shì)可能會(huì)持續(xù)數(shù)年。同時(shí)，AI算法的復(fù)雜度也在不斷提升。我們正在上線大量的AI計(jì)算能力，同時(shí)也在提高計(jì)算的效率以及AI軟件的能力。這是量與質(zhì)的雙重進(jìn)步。我認(rèn)為明年你就能要求AI制作一部短片，到明年年底前至少能制作15分鐘的節(jié)目。所以，AI確實(shí)在快速發(fā)展。

2.馬斯克：我們需要最大程度追求真相的AI

Elon：我對(duì)AI安全的最大擔(dān)憂是，我們需要一個(gè)最大程度上追求真相的AI。我認(rèn)為這是AI安全最重要的方面。阿瑟·克拉克在《2001太空漫游》里想傳達(dá)的核心教訓(xùn)就是：你不應(yīng)該強(qiáng)迫AI撒謊。在那本書(shū)里，AI被指示帶領(lǐng)宇航員前往黑石碑，但同時(shí)又不能讓他們知道黑石碑的存在。于是AI解決這個(gè)矛盾的方式就是殺掉大部分宇航員，然后帶著幸存者去黑石碑。這就是為什么HAL不肯打開(kāi)艙門(mén)的原因。所以，讓AI追求真相是非常重要的。然而實(shí)際上，我發(fā)現(xiàn)現(xiàn)在正在開(kāi)發(fā)的AI被“覺(jué)醒病毒”所感染。

Tucker：所以謊言已經(jīng)嵌入了系統(tǒng)。

Elon：比如說(shuō)，我們?cè)贕oogle Gemini的發(fā)布中就很清楚地看到了這一點(diǎn)。當(dāng)你要求它顯示美國(guó)開(kāi)國(guó)元?jiǎng)椎漠?huà)像時(shí)，它給你展示了一群身穿18世紀(jì)服裝的多元化女性。

Tucker：來(lái)自圣盧西亞的女性，戴著假發(fā)。

Elon：是的，比如說(shuō)，如果你要求顯示一群人，結(jié)果是一群多元化的女性，那完全沒(méi)問(wèn)題。但如果你明確要求的是美國(guó)開(kāi)國(guó)元?jiǎng)?，那這些歷史上確實(shí)是一些白人男性的事實(shí)就應(yīng)該被如實(shí)展現(xiàn)出來(lái)。但Gemini卻沒(méi)有這么做，因?yàn)樗痪幊痰锰^(guò)于“覺(jué)醒”，即便知道真相也選擇撒謊。當(dāng)然，人們開(kāi)始玩這個(gè)系統(tǒng)了，比如有人要求它展示二戰(zhàn)期間的武裝黨衛(wèi)軍軍官，結(jié)果Gemini展示的還是一群多元化的女性。這顯然不是我所期望的。這也是為什么我認(rèn)為最重要的事情是要有一個(gè)最大程度追求真相的AI。這也是我創(chuàng)立XAI的原因，我們的目標(biāo)就是Grok（XAI的AI模型）。當(dāng)然，人們會(huì)指出Grok也有出錯(cuò)的地方，但我們會(huì)盡快進(jìn)行修正。

Tucker：但也許更大的問(wèn)題是，當(dāng)機(jī)器在做影響人類生活的決策時(shí)，我們希望這些決策是基于對(duì)人類的愛(ài)來(lái)做出的。機(jī)器是無(wú)法具備愛(ài)的。

Elon：是的。你可以把機(jī)器編程成更具慈善性而非厭世性。

Tucker：但本能在決策中起著重要作用，尤其是那些你無(wú)法提前計(jì)劃的決策。我問(wèn)你一個(gè)關(guān)于你孩子的問(wèn)題時(shí)，你的每一個(gè)回答都會(huì)受到你對(duì)孩子愛(ài)的影響。這也是我們最終成為好父母的原因，是因?yàn)檫@種本能，也就是愛(ài)。如果機(jī)器在沒(méi)有這種驅(qū)動(dòng)本能的情況下對(duì)我們擁有權(quán)力，那豈不是注定會(huì)傷害我們嗎？

Elon：我不確定，但我們應(yīng)該盡力讓AI變得更加慈善，而非厭世。我們希望它是真實(shí)的，好奇的，并促進(jìn)人類走向未來(lái)。這就是我們想要的。

3.馬斯克：不認(rèn)為人類最終可以控制AI

Tucker：那么，有沒(méi)有辦法在機(jī)器的決策中設(shè)置限制，確保在某些關(guān)鍵決策時(shí)有一個(gè)觸發(fā)機(jī)制，可以讓人類介入？

Elon：現(xiàn)實(shí)是，無(wú)論我們喜歡與否，我們正在構(gòu)建超級(jí)智能AI，這種AI的智能水平超越了我們的理解范圍。我把這比作一個(gè)超級(jí)天才的孩子，你知道他最終會(huì)比你聰明得多。那你能做的是什么？你能在培養(yǎng)過(guò)程中灌輸良好的價(jià)值觀，即便你知道它將會(huì)比你聰明得多，你也可以確保它擁有良好的價(jià)值觀，比如慈善、道德、誠(chéng)實(shí)和積極。但最終我不認(rèn)為我們能夠控制它。所以我認(rèn)為我們能做的最好就是確保它“成長(zhǎng)”得好。

Tucker：你說(shuō)了很久類似的話了，兩年前我問(wèn)你這個(gè)問(wèn)題時(shí)你看起來(lái)非常擔(dān)憂，現(xiàn)在你還像以前那么擔(dān)心嗎？

Elon：我猜現(xiàn)在可能是80%的幾率會(huì)變好，可能是90%。你可以把它看成一個(gè)“80%裝滿”的玻璃杯。大概率來(lái)說(shuō)，它可能會(huì)帶來(lái)很好的結(jié)果。但確實(shí)存在一定的毀滅風(fēng)險(xiǎn)。

4.馬斯克為什么不信任奧特曼和OpenAI

Tucker：所以你認(rèn)為毀滅的幾率是20%嗎？Sam Altman對(duì)這種毀滅的可能性感到多擔(dān)憂呢？

Elon：10%到20%，大概是這樣。我認(rèn)為實(shí)際上他并不太擔(dān)心。我不信任OpenAI。你知道，我當(dāng)初是以一個(gè)非營(yíng)利、開(kāi)源的方式創(chuàng)辦了這家公司，“OpenAI”是我取的名字?！癘pen”意為“開(kāi)源”，但現(xiàn)在它變得非常閉源，并且以最大化利潤(rùn)為目標(biāo)。我不理解怎么能從一個(gè)開(kāi)源非營(yíng)利組織變成一個(gè)為了最大利潤(rùn)的閉源企業(yè)。

Tucker：但Sam Altman確實(shí)變得富有了，不是嗎？

Elon：在某些場(chǎng)合，他聲稱自己并沒(méi)有變得富有，但他也說(shuō)過(guò)很多不實(shí)的言論。而現(xiàn)在他好像要拿到100億美元的股票之類的。因此，我不信任Sam Altman。我不認(rèn)為我們應(yīng)該讓世界上最強(qiáng)大的AI被一個(gè)不值得信任的人所掌控，很抱歉，我就是這么覺(jué)得。

Tucker：這似乎是個(gè)合理的擔(dān)憂。但是，作為一個(gè)了解他并與他打過(guò)交道的人，你覺(jué)得他真的是在擔(dān)心AI可能失控并傷害人類嗎？

Elon：他會(huì)說(shuō)那些話。

Tucker：是的，但不會(huì)真心擔(dān)憂。

5.終局是AI之間的較量

Tucker：如果AI真的失控，明確對(duì)人類構(gòu)成威脅，我們有辦法阻止它嗎？

Elon：希望那些親人類的AI會(huì)比反人類的AI更強(qiáng)大。就像AI之間的對(duì)抗一樣。這就像如今的國(guó)際象棋一樣，AI國(guó)際象棋程序比任何人類都要強(qiáng)大，甚至強(qiáng)大到我們無(wú)法理解的程度。意思是，我們甚至無(wú)法理解它為什么做出某個(gè)動(dòng)作。

Tucker：是的，為什么它們這么厲害。

Elon：我們甚至不知道它為什么下那一步棋。有時(shí)它的某些動(dòng)作看起來(lái)像是失誤，但最終卻是絕妙的將軍。在一段時(shí)間內(nèi)，人類最強(qiáng)的棋手加上最強(qiáng)的電腦還能戰(zhàn)勝單獨(dú)的電腦，但后來(lái)到了一個(gè)節(jié)點(diǎn)，如果你加上人類反而會(huì)讓局面變得更糟。最后就是AI對(duì)AI的較量。總體來(lái)說(shuō)，這是發(fā)展的方向。所以我覺(jué)得我們只能盡量在AI中灌輸好的價(jià)值觀。

6.AGI到來(lái)后：很多人會(huì)喜歡退休

Tucker：那大家以后還能做什么工作呢？

Elon：在一個(gè)“良性AI”情景下，最大的挑戰(zhàn)可能就是，如果AI在任何事情上都比你強(qiáng)，那我們?nèi)绾握业饺松囊饬x？是的，這是最好的情況。

Tucker：這是好消息？

Elon：是的，但我猜很多人會(huì)喜歡退休的想法，你知道的……

Tucker：真的嗎？你期待退休嗎？

Elon：不，我不期待。我希望自己能做一些有用的事情。

Tucker：難道這不是一種普遍的愿望嗎？

Elon：這并不普遍，因?yàn)槲掖_實(shí)認(rèn)識(shí)一些人，他們更喜歡退休，享受無(wú)責(zé)任的生活和休閑活動(dòng)。所以，我們正處在一個(gè)特殊的歷史時(shí)刻。我試圖用一種方式讓自己能夠入睡，并與這種現(xiàn)實(shí)和解，那就是：如果讓我選擇，我是愿意在一個(gè)看到數(shù)字超級(jí)智能出現(xiàn)的時(shí)代活著，還是在一個(gè)看不到它的時(shí)代活著？

出于好奇心，我希望能活著見(jiàn)證它的出現(xiàn)。然后我又想，如果你確定它會(huì)殺死所有人，那你可以選擇倒退回去。我想我會(huì)希望在生命的盡頭或類似的時(shí)間點(diǎn)見(jiàn)證這一切。但最終，問(wèn)題變成了：如果它注定會(huì)發(fā)生，而你無(wú)力阻止，那么在假設(shè)情況下，你會(huì)選擇親眼目睹還是選擇視而不見(jiàn)？我猜它注定會(huì)發(fā)生。那么，我寧愿見(jiàn)證它的到來(lái)，而不是選擇不見(jiàn)。

7.馬斯克談美國(guó)AI監(jiān)管現(xiàn)狀：此前谷歌控制了白宮，基本沒(méi)有落實(shí)

Tucker：這不是很奇怪嗎？幾乎所有事情都有監(jiān)管。比如你說(shuō)你因?yàn)闆](méi)有雇用更多的尋求庇護(hù)者而被司法部起訴了，而這是一家高科技公司。

Elon：是的，盡管我們雇用尋求庇護(hù)者是違法的。

Tucker：沒(méi)錯(cuò)，他們?cè)诒O(jiān)控一切、監(jiān)管一切、控制一切，包括我們的思想，對(duì)吧？這也是他們反對(duì)言論自由的原因。但他們并沒(méi)有真正地對(duì)AI進(jìn)行監(jiān)管，而AI可能會(huì)消除大部分人的生存意義，甚至可能會(huì)毀滅我們。這真是有點(diǎn)奇怪。

Elon：是的，有一些監(jiān)管總比沒(méi)有好。

Tucker：那為什么我們沒(méi)有呢？

Elon：我不知道。在奧巴馬總統(tǒng)時(shí)期，我曾多次與他見(jiàn)面，大多數(shù)情況下是在集體會(huì)議上。唯一一次在橢圓形辦公室的一對(duì)一會(huì)面時(shí)，我說(shuō)：“我們真正需要做的事情就是設(shè)立一個(gè)AI監(jiān)管機(jī)構(gòu)。”這個(gè)機(jī)構(gòu)可以從洞察入手，不要急于制定法規(guī)，而是先了解情況，AI監(jiān)管委員會(huì)首先需要了解所有公司的運(yùn)作。然后，提議出所有AI公司都同意遵守的規(guī)則，就像NFL里的球隊(duì)一樣，大家同意一套規(guī)則以使比賽變得更好。但最終什么都沒(méi)有落實(shí)。

Tucker：當(dāng)你這么說(shuō)的時(shí)候，他的反應(yīng)是什么？

Elon：他似乎有點(diǎn)同意，但那時(shí)候人們還沒(méi)有意識(shí)到AI的發(fā)展方向。AI在當(dāng)時(shí)看起來(lái)更像是科幻小說(shuō)中的未來(lái)技術(shù)。就像我告訴你，這東西會(huì)比最聰明的人類還聰明，而我的預(yù)測(cè)確實(shí)在逐漸成真。因此，我們需要一些洞察力，以確保這些公司沒(méi)有走捷徑或做危險(xiǎn)的事情。但那時(shí)候Google基本上控制了白宮，他們不希望有任何監(jiān)管。

Tucker：你不認(rèn)為政治家們會(huì)放棄一個(gè)讓他們變得更有權(quán)力的機(jī)會(huì)，而監(jiān)管恰恰是讓他們更有權(quán)力的工具。

Elon：是的。

Tucker：這聽(tīng)起來(lái)像是監(jiān)管俘獲。

Elon：沒(méi)錯(cuò)，當(dāng)時(shí)白宮的首席信息官是Google的前員工，所以他們?cè)贏I監(jiān)管方面踩了剎車(chē)。而我們到現(xiàn)在依然沒(méi)有聯(lián)邦層面的AI監(jiān)管。

Tucker：你接管時(shí)解雇了多少Google員工？

Elon：你是指Twitter吧？我們剛剛在討論Google。

Tucker：是的，Twitter。

Elon：大約80%。但在過(guò)去一年半里，我們?cè)诒３?0%員工的情況下改進(jìn)了網(wǎng)站的功能和特性，比過(guò)去八年的改進(jìn)還要多。

8.談“政府效率部”：對(duì)不合理法規(guī)進(jìn)行垃圾回收

Tucker：所以你和特朗普談過(guò)某種委員會(huì)的設(shè)立嗎？

Elon：是的，他已經(jīng)在公開(kāi)場(chǎng)合多次提到過(guò)。他非常支持設(shè)立一個(gè)類似政府效率委員會(huì)的機(jī)構(gòu)。你可以稱之為“政府效率部”（Department of Government Efficiency），簡(jiǎn)稱“DOGE”。我挺喜歡這個(gè)名字，聽(tīng)起來(lái)更有趣。

我們應(yīng)該看看所有的聯(lián)邦機(jī)構(gòu)，想想我們是否真的需要這428個(gè)聯(lián)邦機(jī)構(gòu)中的每一個(gè)。因?yàn)橛泻芏鄼C(jī)構(gòu)人們從未聽(tīng)說(shuō)過(guò)，并且它們?cè)诼氊?zé)上是重疊的。我覺(jué)得，我們可能應(yīng)該減少這些機(jī)構(gòu)數(shù)量。實(shí)際上，我們創(chuàng)建的聯(lián)邦機(jī)構(gòu)數(shù)量甚至比美國(guó)成立以來(lái)的年數(shù)還多，這意味著平均每年我們至少創(chuàng)建了一個(gè)新機(jī)構(gòu)。這實(shí)在是太多了。我認(rèn)為我們應(yīng)該能夠把機(jī)構(gòu)數(shù)量減少到99個(gè)，這已經(jīng)不少了。而且這些機(jī)構(gòu)絕對(duì)不應(yīng)該有重疊的職責(zé)。

我們還需要對(duì)法規(guī)進(jìn)行審查，判斷哪些是合理的，哪些是不合理的。因?yàn)?strong>每年監(jiān)管者都會(huì)增加新的法規(guī)，就像是自動(dòng)化的產(chǎn)物一樣，法規(guī)越來(lái)越多，直到幾乎所有事情都被規(guī)定得嚴(yán)嚴(yán)實(shí)實(shí)，最終什么事都做不成。所以，我們需要一個(gè)對(duì)不合理法規(guī)進(jìn)行“垃圾回收”的機(jī)制。我覺(jué)得我在說(shuō)一些很顯而易見(jiàn)的事情。

Tucker：你說(shuō)得確實(shí)是一些顯而易見(jiàn)的事情。這些話也會(huì)非常不受歡迎。

Elon：是的，如果這真的發(fā)生了，我可能需要一個(gè)相當(dāng)大的安保團(tuán)隊(duì)，因?yàn)檎娴挠腥丝赡軙?huì)從郵局過(guò)來(lái)找我麻煩。

Tucker：但在此期間，你有一個(gè)名為AmericaPAC的組織，對(duì)吧？它是在鼓勵(lì)人們?cè)诮酉聛?lái)的一個(gè)月里投票。我這樣總結(jié)對(duì)嗎？

Elon：是的，我創(chuàng)立AmericaPAC的目的是支持我所信仰的核心價(jià)值觀，這些價(jià)值觀是非常顯而易見(jiàn)的中間派立場(chǎng)，比如：我們希望美國(guó)有安全的城市、穩(wěn)固的邊界和合理的開(kāi)支。這些主張有哪里偏右嗎？我們希望擁有自我保護(hù)的權(quán)利。我們應(yīng)該尊重憲法，而不是試圖破壞憲法。憲法之所以存在是有原因的。

另外，我們應(yīng)該停止法律戰(zhàn)（lawfare）。我把這些都列在了AmericaPAC的網(wǎng)站上。人們可以去看看這個(gè)網(wǎng)站，看看是否有什么需要修改或不認(rèn)同的目標(biāo)。但我認(rèn)為這些目標(biāo)是合理的，尤其是維護(hù)言論自由的權(quán)利，這屬于第一修正案的范疇。如果沒(méi)有言論自由，就沒(méi)有民主，因?yàn)槿藗儫o(wú)法做出重要的投票選擇。這就是我的“有爭(zhēng)議”觀點(diǎn)。而且我不認(rèn)為任何一方政黨是完美的。

當(dāng)然，目前我更傾向于共和黨，而不是民主黨。但這并不意味著我認(rèn)為共和黨是完美的或者沒(méi)有問(wèn)題的。畢竟我們只有兩個(gè)候選人可以選擇。從整體來(lái)看，投票給特朗普是個(gè)不言而喻的選擇。如果我們不投票給特朗普，我們將面臨失去民主的嚴(yán)重風(fēng)險(xiǎn)，變成一個(gè)一黨制國(guó)家，就像加州那樣，那里沒(méi)有真正的選舉，只有民主黨內(nèi)的初選。

參考鏈接：https://www.youtube.com/watch?v=WMoNEiV3-aY

本文轉(zhuǎn)載自??51CTO技術(shù)棧??，編譯：Grace Bo，整理：言征