人工智能的進(jìn)步既可以為所有人創(chuàng)造一個(gè)奢侈的休閑社會(huì)，也可以為無(wú)法就業(yè)的大多數(shù)人帶來(lái)***的痛苦，這取決于人工生產(chǎn)的財(cái)富如何被征稅和分享。

[[201765]]

1.人工智能正在為你的工作而來(lái)。

為了保護(hù)你的職業(yè)，***去做那些機(jī)器不擅長(zhǎng)的工作——比如說(shuō)涉及到人、不可預(yù)測(cè)或是需要?jiǎng)?chuàng)造力的工作。我們要避免去做那些在可預(yù)見(jiàn)的環(huán)境中自動(dòng)消失的重復(fù)性或結(jié)構(gòu)化的工作，比如電話推銷員，倉(cāng)庫(kù)工人，收銀員，火車操作員，面包師或流水線廚師等等。卡車、公共汽車、出租車和uber/lyft的司機(jī)可能很快就會(huì)被取代。除此之外還有許多職業(yè)(包括律師助理、信貸分析師、貸款官員、簿記員和稅務(wù)會(huì)計(jì)師)，雖然他們沒(méi)有被列入將被取代的名單之中，但他們的大部分工作都是自動(dòng)化的，因此需要更少的人力。

2.失業(yè)可能會(huì)變成一個(gè)終生的假期。

人工智能的進(jìn)步既可以為所有人創(chuàng)造一個(gè)奢侈的休閑社會(huì)，也可以為無(wú)法就業(yè)的大多數(shù)人帶來(lái)***的痛苦，這取決于人工生產(chǎn)的財(cái)富如何被征稅和分享。

3.殺手機(jī)器人并不是虛構(gòu)的。

我們即將在人工控制的武器上發(fā)起失控的軍備競(jìng)賽，這可能會(huì)削弱當(dāng)今大國(guó)的軍事力量，因?yàn)樗梢宰屆總€(gè)人都能擁有一個(gè)裝滿錢包的廉價(jià)而便捷的暗殺機(jī)器，這其中也包括恐怖組織。人工智能研究人員對(duì)此表示反對(duì)，并希望達(dá)成一項(xiàng)國(guó)際人工智能武器控制條約。

[[201766]]

4.機(jī)器沒(méi)有智商。

而智力是完成復(fù)雜目標(biāo)所必需的。它不能用一個(gè)數(shù)字來(lái)量化，比如智商，因?yàn)椴煌挠袡C(jī)體和機(jī)器擅長(zhǎng)不同的事物。

5.人工智能正變得越來(lái)越廣泛。

如今的人工智能主要是狹義的智能，即完成一組小目標(biāo)的能力，比如下棋或駕駛，其表現(xiàn)有時(shí)比人類好。相比之下，人類擁有真正的智力，即完成任何目標(biāo)的能力，包括學(xué)習(xí)。人工智能的最終發(fā)展目標(biāo)是通用人工智能(Artificial General Intelligence：AGI)，即和人類一樣完成任何智力任務(wù)的能力。許多領(lǐng)先的人工智能研究人員認(rèn)為，我們離AGI只有幾十年的時(shí)間。

6.人工智能可能會(huì)讓我們遠(yuǎn)遠(yuǎn)落后。

正如英國(guó)數(shù)學(xué)家Irving J. Good在1965年所解釋的那樣：“使一個(gè)超智能的機(jī)器被定義為一臺(tái)能夠遠(yuǎn)遠(yuǎn)超過(guò)人類智力活動(dòng)的機(jī)器，無(wú)論它多么聰明。”由于機(jī)器的設(shè)計(jì)是一種智力活動(dòng)，一臺(tái)超智能機(jī)器可以設(shè)計(jì)出更好的機(jī)器。毫無(wú)疑問(wèn)，這將會(huì)是一場(chǎng)“智力爆炸”，而人類的智慧將遠(yuǎn)遠(yuǎn)落在后面。因此，***款超智能機(jī)器是人類需要制造的***一項(xiàng)發(fā)明，前提是機(jī)器足夠溫順，能夠告訴我們?nèi)绾慰刂扑?/p>

[[201767]]

7.我們還遠(yuǎn)未達(dá)到計(jì)算的極限。

從我祖母出生以來(lái)，計(jì)算機(jī)的成本已經(jīng)大幅下降了非常多。如果一切都變得更便宜，那么百分之一的錢就能讓你購(gòu)買今年在地球上生產(chǎn)的所有商品和服務(wù)。摩爾定律決定了我們?cè)诙S硅晶片上移動(dòng)電子的成本是多少，一旦進(jìn)入這個(gè)平臺(tái)，我們就可以嘗試許多其他的硬件解決方案——例如使用三維電路，使用電子來(lái)完成我們的競(jìng)標(biāo)。我們?nèi)匀槐任锢矶傻臉O限計(jì)算要低一百萬(wàn)億倍。

8.人工智能可以幫助人類繁榮。

因?yàn)槿祟愇拿鞯拿恳患挛锒际侵橇Φ漠a(chǎn)物，我們用人工智能放大我們自己的智慧，有可能幫助生命像以前一樣蓬勃發(fā)展，解決我們最棘手的問(wèn)題，從疾病到氣候變化等。

[[201768]]

9.人工智能帶來(lái)了風(fēng)險(xiǎn)。

好萊塢對(duì)機(jī)器變得有意識(shí)和邪惡的恐懼是一種轉(zhuǎn)移注意力的行為。真正的擔(dān)憂不是惡意，而是能力。超人工智能的定義是它非常善于實(shí)現(xiàn)其目標(biāo)，無(wú)論它們是什么，因此我們需要確保它的目標(biāo)與我們的目標(biāo)一致。人類一般不討厭螞蟻，但我們比它們聰明得多——所以如果我們想建一座水電站，那里有蟻丘，這對(duì)螞蟻來(lái)說(shuō)簡(jiǎn)直太糟糕了。

10.我們需要人工智能安全研究。

為了確保人工智能在對(duì)社會(huì)的影響日益增強(qiáng)的同時(shí)，還需要更多人工智能安全的研究。例如，我們?cè)鯓硬拍軐⒔裉炻┒窗俪龅挠?jì)算機(jī)變成我們真正信任的、強(qiáng)大的人工智能系統(tǒng)呢?如何讓機(jī)器學(xué)習(xí)、接受和保留我們的目標(biāo)?

這些都是具有挑戰(zhàn)性的問(wèn)題，可能需要幾十年才能回答，所以我們現(xiàn)在應(yīng)該開(kāi)始一項(xiàng)研究，以確保我們?cè)谛枰臅r(shí)候能找到答案。但相對(duì)于花費(fèi)數(shù)十億美元使人工智能更加強(qiáng)大，迄今各國(guó)政府幾乎沒(méi)有資金用于人工智能的安全研究。