Kurzweil寫了五本人工智能（Artificial Intelligence，簡(jiǎn)稱AI）方面的書，有一本是紐約時(shí)報(bào)的暢銷書《How to Create a Mind》。

兩位偉大的思想家看到了AI的危險(xiǎn)。下面談?wù)勗鯓幼孉I安全。

著名物理學(xué)家史蒂芬·霍金【注1】最近發(fā)出了警告，如果人工智能超過了人類智能，就對(duì)人類文明的存在造成了威脅。數(shù)字貨幣、私人太空飛行和電子汽車的先驅(qū)Elon Musk，也表示了類似的擔(dān)憂。

如果AI成為了存在的威脅，那么它不會(huì)是***個(gè)。在我孩提時(shí)代的、1950年人防演習(xí)期間，我坐在桌子底下。從那以后，我們就遇到了可比較的恐懼，比如生物恐怖主義者創(chuàng)造了一種人類無法抵抗的新病毒?；鹉軌驕嘏覀儭⒁材軣粑覀兊拇迩f，技術(shù)總是一把雙刃劍。

典型的反烏托邦未來主義的電影，總是有一到兩個(gè)主人公或團(tuán)體在為了控制人工智能而戰(zhàn)。AI正被集成到當(dāng)今世界。AI不是一只手或兩只手；它是10億或20億只手。持有智能手機(jī)的非洲孩子，比起20年前的美國(guó)總統(tǒng)，已經(jīng)能夠更加智能地訪問知識(shí)了。隨著AI更加聰明，它的用途仍然在增長(zhǎng)。實(shí)際上，每個(gè)人的智力在近10年內(nèi)已經(jīng)被AI放大了不少。

我們?cè)谌巳褐腥匀挥袥_突，每個(gè)群體都被AI放大了，這已有先例。但是，暴力呈現(xiàn)著深遠(yuǎn)的、指數(shù)級(jí)的減少，我們可以從中感到安慰，正如Steven Pinker的2011年的書《The Better Angels of Our Nature》中提到的：為什么暴力減少了。根據(jù)Steven Pinker的觀點(diǎn)，雖然地點(diǎn)不同導(dǎo)致統(tǒng)計(jì)數(shù)據(jù)不同，但是戰(zhàn)爭(zhēng)的死亡率與六個(gè)世紀(jì)以前相比，已經(jīng)下降了數(shù)百倍。從那以后，謀殺降低了十倍。人們對(duì)此感到吃驚。暴力在上升的印象，起源于另一種趨勢(shì)：關(guān)于世界上負(fù)面的信息，有著指數(shù)級(jí)的詳實(shí)程度——它是被AI支持的另一種發(fā)展。

我們能夠部署一些策略來保持新興的、像AI安全之類的技術(shù)。考慮到生物技術(shù)，或許已經(jīng)領(lǐng)先AI數(shù)十年了。在1975年召開的關(guān)于重組DNA的阿希洛馬會(huì)議評(píng)估了其潛在危險(xiǎn)，并規(guī)劃了戰(zhàn)略以確保該領(lǐng)域的安全。從那以后，***的方針已經(jīng)被行業(yè)做了改進(jìn)，運(yùn)轉(zhuǎn)非常好：在過去的39年，已經(jīng)沒有重大問題了，偶然的或故意的。我們現(xiàn)在看到了達(dá)到臨床實(shí)踐的藥物治療取得的巨大進(jìn)步，遠(yuǎn)遠(yuǎn)沒有出現(xiàn)預(yù)期的問題。

對(duì)于AI的道德規(guī)范的考慮，可以退回到艾薩克·阿西莫夫（Isaac Asimov）1942年的短篇小說《環(huán)舞》（Runaround）【注2】的機(jī)器人三大定律【注3】，8年后，艾倫·圖靈在1950年發(fā)表的論文“計(jì)算機(jī)器與智能”中的AI領(lǐng)域。今天AI從業(yè)者的普通看法就是，我們要完成人類級(jí)別的AI仍然需要數(shù)十年。我更加樂觀地把時(shí)間壓在了2029年，但是不管怎么說，我們還有時(shí)間來規(guī)劃道德標(biāo)準(zhǔn)。

已經(jīng)有大學(xué)和企業(yè)在努力推動(dòng)AI安全策略和方針了，有的已經(jīng)步入正軌。與阿希洛馬會(huì)議的方針類似，一個(gè)想法就是，清晰地定義每個(gè)AI程序的使命，建立加密的安全保護(hù)以阻止未授權(quán)用戶。

末了，我們能夠確保AI安全的最重要方法就是致力于人類管理和社會(huì)制定。我們已經(jīng)到了 人-機(jī)文明 的時(shí)代。未來避免消極沖突的***方式，就是繼續(xù)發(fā)展我們社會(huì)理想，它極大地減少了暴力。

如今，AI正在推進(jìn)疾病診斷、尋找治療方法、開發(fā)可再生清潔能源、幫助清潔環(huán)境、向全世界的人們提供高質(zhì)量的教育、幫助殘疾人（包括史蒂芬·霍金的聲音）以及在無數(shù)種其它方式上貢獻(xiàn)著力量。未來數(shù)十年，我們有機(jī)會(huì)在處理人類的巨大挑戰(zhàn)上邁開一大步。在控制這種危險(xiǎn)時(shí)，我們?cè)诘懒x上有責(zé)任去實(shí)現(xiàn)這個(gè)諾言。這將不會(huì)是我們***次在這方面取得成功。

• 注1：史蒂芬·霍金;，OCH，CBE，F(xiàn)RS，F(xiàn)RSA（英語(yǔ)：Stephen Hawking，1942年1月8日－），英國(guó)著名物理學(xué)家，是劍橋大學(xué)理論宇宙學(xué)中心研究主任。霍金做出很多重要貢獻(xiàn)：他與羅杰·彭羅斯共同合作提出在廣義相對(duì)論框架里的彭羅斯–霍金定理，他理論預(yù)測(cè)黑洞會(huì)發(fā)射輻射，現(xiàn)稱為霍金輻射。http://zh.wikipedia.org/wiki/%E5%8F%B2%E8%92%82%E8%8A%AC%C2%B7%E9%9C%8D%E9%87%91
• 注2：《環(huán)舞》（Runaround）是美國(guó)作家艾薩克·阿西莫夫創(chuàng)作的一篇短篇科幻小說，里面有在其之后的多部小說中多次出現(xiàn)的人物鮑威爾（Powell）和杜魯門（Donovan）。這篇小說寫于1941年10月，初次出版在1942年三月的《超級(jí)科學(xué)故事》（Super Science Stories）雜志上。http://zh.wikipedia.org/wiki/%E7%8E%AF%E8%88%9E_(%E7%9F%AD%E7%AF%87%E5%B0%8F%E8%AF%B4)
• 注3：機(jī)器人三定律（Three Laws of Robotics）是科幻小說家艾薩克·阿西莫夫（Isaac Asimov）在他的機(jī)器人相關(guān)作品和其他機(jī)器人相關(guān)小說中為機(jī)器人設(shè)定的行為準(zhǔn)則，是阿西莫夫除“心理史學(xué)”（Psychohistory）外另一個(gè)著名的虛構(gòu)學(xué)說。http://zh.wikipedia.org/wiki/%E6%9C%BA%E5%99%A8%E4%BA%BA%E4%B8%89%E5%AE%9A%E5%BE%8B

英文原文：http://time.com/3641921/dont-fear-artificial-intelligence/

譯文出自：http://www.labazhou.net/2014/12/dont-fear-artificial-intelligence/