[[202058]]

1.人工智能正在為你的工作而來。為了保護(hù)你的職業(yè)，***去做那些機(jī)器不擅長的工作——比如說涉及到人、不可預(yù)測或是需要創(chuàng)造力的工作。我們要避免去做那些在可預(yù)見的環(huán)境中自動消失的重復(fù)性或結(jié)構(gòu)化的工作，比如電話推銷員，倉庫工人，收銀員，火車操作員，面包師或流水線廚師等等?？ㄜ嚒⒐财?、出租車和uber/lyft的司機(jī)可能很快就會被取代。除此之外還有許多職業(yè)(包括律師助理、信貸分析師、貸款官員、簿記員和稅務(wù)會計師)，雖然他們沒有被列入將被取代的名單之中，但他們的大部分工作都是自動化的，因此需要更少的人力。

2.失業(yè)可能會變成一個終生的假期。人工智能的進(jìn)步既可以為所有人創(chuàng)造一個奢侈的休閑社會，也可以為無法就業(yè)的大多數(shù)人帶來***的痛苦，這取決于人工生產(chǎn)的財富如何被征稅和分享。

[[202059]]

3.殺手機(jī)器人并不是虛構(gòu)的。我們即將在人工控制的武器上發(fā)起失控的軍備競賽，這可能會削弱當(dāng)今大國的軍事力量，因為它可以讓每個人都能擁有一個裝滿錢包的廉價而便捷的暗殺機(jī)器，這其中也包括恐怖組織。人工智能研究人員對此表示反對，并希望達(dá)成一項國際人工智能武器控制條約。

4.機(jī)器沒有智商。而智力是完成復(fù)雜目標(biāo)所必需的。它不能用一個數(shù)字來量化，比如智商，因為不同的有機(jī)體和機(jī)器擅長不同的事物。

5.人工智能正變得越來越廣泛。如今的人工智能主要是狹義的智能，即完成一組小目標(biāo)的能力，比如下棋或駕駛，其表現(xiàn)有時比人類好。相比之下，人類擁有真正的智力，即完成任何目標(biāo)的能力，包括學(xué)習(xí)。人工智能的最終發(fā)展目標(biāo)是通用人工智能(Artificial General Intelligence：AGI)，即和人類一樣完成任何智力任務(wù)的能力。許多領(lǐng)先的人工智能研究人員認(rèn)為，我們離AGI只有幾十年的時間。

6.人工智能可能會讓我們遠(yuǎn)遠(yuǎn)落后。正如英國數(shù)學(xué)家Irving J. Good在1965年所解釋的那樣：“使一個超智能的機(jī)器被定義為一臺能夠遠(yuǎn)遠(yuǎn)超過人類智力活動的機(jī)器，無論它多么聰明。”由于機(jī)器的設(shè)計是一種智力活動，一臺超智能機(jī)器可以設(shè)計出更好的機(jī)器。毫無疑問，這將會是一場“智力爆炸”，而人類的智慧將遠(yuǎn)遠(yuǎn)落在后面。因此，***款超智能機(jī)器是人類需要制造的***一項發(fā)明，前提是機(jī)器足夠溫順，能夠告訴我們?nèi)绾慰刂扑?/p>

7.我們還遠(yuǎn)未達(dá)到計算的極限。從我祖母出生以來，計算機(jī)的成本已經(jīng)大幅下降了非常多。如果一切都變得更便宜，那么百分之一的錢就能讓你購買今年在地球上生產(chǎn)的所有商品和服務(wù)。摩爾定律決定了我們在二維硅晶片上移動電子的成本是多少，一旦進(jìn)入這個平臺，我們就可以嘗試許多其他的硬件解決方案——例如使用三維電路，使用電子來完成我們的競標(biāo)。我們?nèi)匀槐任锢矶傻臉O限計算要低一百萬億倍。

8.人工智能可以幫助人類繁榮。因為人類文明的每一件事物都是智力的產(chǎn)物，我們用人工智能放大我們自己的智慧，有可能幫助生命像以前一樣蓬勃發(fā)展，解決我們最棘手的問題，從疾病到氣候變化等。

9.人工智能帶來了風(fēng)險。好萊塢對機(jī)器變得有意識和邪惡的恐懼是一種轉(zhuǎn)移注意力的行為。真正的擔(dān)憂不是惡意，而是能力。超人工智能的定義是它非常善于實現(xiàn)其目標(biāo)，無論它們是什么，因此我們需要確保它的目標(biāo)與我們的目標(biāo)一致。人類一般不討厭螞蟻，但我們比它們聰明得多——所以如果我們想建一座水電站，那里有蟻丘，這對螞蟻來說簡直太糟糕了。

10.我們需要人工智能安全研究。為了確保人工智能在對社會的影響日益增強(qiáng)的同時，還需要更多人工智能安全的研究。例如，我們怎樣才能將今天漏洞百出的計算機(jī)變成我們真正信任的、強(qiáng)大的人工智能系統(tǒng)呢?如何讓機(jī)器學(xué)習(xí)、接受和保留我們的目標(biāo)?

這些都是具有挑戰(zhàn)性的問題，可能需要幾十年才能回答，所以我們現(xiàn)在應(yīng)該開始一項研究，以確保我們在需要的時候能找到答案。但相對于花費(fèi)數(shù)十億美元使人工智能更加強(qiáng)大，迄今各國政府幾乎沒有資金用于人工智能的安全研究。