最近，圖靈三巨頭之一的Yoshua Bengio接受了BBC的采訪。

Bengio在訪談中透出了一股濃濃的「憂郁風(fēng)」，表示他對(duì)自己一生所追求的事業(yè)感到某種程度上的迷失。

往具體了說(shuō)，他覺(jué)得如果自己能早點(diǎn)認(rèn)識(shí)到AI可能的發(fā)展速度，那他可能就會(huì)傾向于AI的安全性優(yōu)先，而非實(shí)用性優(yōu)先。

要知道，Bengio剛剛簽署了前幾天公布的「AI可能滅絕人類」的公開(kāi)信。

迷失的Bengio

公開(kāi)信的簽署立場(chǎng)鮮明地表明了Bengio的態(tài)度。

這封只有22個(gè)字的公開(kāi)信，將AI可能滅絕人類的風(fēng)險(xiǎn)和核戰(zhàn)爭(zhēng)、傳染病等社會(huì)危機(jī)做對(duì)比。

在BBC的訪談中，Bengio詳細(xì)地闡述了自己的觀點(diǎn)。

他呼吁，我們應(yīng)該對(duì)AI進(jìn)行更嚴(yán)格地規(guī)范，舉例來(lái)說(shuō)，軍方就絕對(duì)不應(yīng)該被賦予使用AI的權(quán)力。

當(dāng)然，政治機(jī)構(gòu)也并不是對(duì)AI的發(fā)展熟視無(wú)睹。

歐盟可能就會(huì)是最早針對(duì)AI進(jìn)行立法的組織。也是在最近，歐盟表示，AI相關(guān)的行為準(zhǔn)則可能會(huì)在未來(lái)幾周內(nèi)創(chuàng)建。

這種擔(dān)心不無(wú)道理。畢竟，AI的高性能可能被使用在對(duì)人類有害的目標(biāo)上，比如開(kāi)發(fā)新型化學(xué)武器。

Bengio表示，自己很擔(dān)心那些「有惡意」的人掌握AI，尤其是在AI發(fā)展速度如此之快的情況下。

「可能是軍方，可能是恐怖分子，也可能是精神情緒并不穩(wěn)定的人?？傊?，如果這些人掌握了AI，讓AI執(zhí)行一些極度危險(xiǎn)的事情，那么后果是不可預(yù)料的?！?/span>

另外，他表示，如果AI繼續(xù)發(fā)展，我們可能無(wú)法中斷進(jìn)程中的AI。

接下來(lái)，Bengio又聊到了自己。

這些擔(dān)憂無(wú)疑增加了他的內(nèi)耗，對(duì)他的個(gè)人生活和工作產(chǎn)生了影響。

從前的Bengio是榮譽(yù)傍身的AI大牛（當(dāng)然現(xiàn)在也是），當(dāng)時(shí)的他，愿意為自己所熱愛(ài)和擅長(zhǎng)的事業(yè)奮斗終生。

AI事業(yè)曾經(jīng)給他帶來(lái)了身份感、認(rèn)同感和人生方向。但現(xiàn)在，因?yàn)檫@些擔(dān)憂的存在，這些東西對(duì)他來(lái)說(shuō)已經(jīng)不再清晰。

「對(duì)于那些身在AI行業(yè)的人來(lái)說(shuō)，這在情感上是具有挑戰(zhàn)性的?！?/span>

不過(guò)，憂郁的背后仍然是積極的態(tài)度。

「你可以說(shuō)我感到迷失。但你必須堅(jiān)持下去，你必須參與討論，鼓勵(lì)別人和你一起思考?！?/span>

馬斯克也表達(dá)過(guò)類似的擔(dān)憂。

雖然他并不認(rèn)為AI一定會(huì)滅絕人類，但他認(rèn)為AI可能會(huì)限制并控制人類。

Bengio認(rèn)為，所有和AI產(chǎn)品相關(guān)的科技巨頭公司都需要受管控，登記在冊(cè)。

「政府需要追蹤他們?cè)谧鍪裁?，他們需要能夠?qū)徲?jì)他們。而這只是我們對(duì)其他任何行業(yè)（如建造飛機(jī)、汽車或制藥）所做的最基本的事情?！?/span>

「我們還需要引入一種道德訓(xùn)練，而這通常來(lái)說(shuō)都是計(jì)算機(jī)科學(xué)及不會(huì)接受到的?！?/span>

Huggingface的科學(xué)家Sasha Luccioni博士表示，社會(huì)應(yīng)該關(guān)注諸如AI偏見(jiàn)，信息的錯(cuò)誤傳播等問(wèn)題，她認(rèn)為這些問(wèn)題是具體的。

她的理念是，具體的問(wèn)題應(yīng)該被我們更多關(guān)注。滅絕人類什么的，有點(diǎn)虛，還聊不到。

而實(shí)際上，也有許多實(shí)例顯示了AI為社會(huì)帶來(lái)的諸多好處。

就在上周，憑借AI的力量，一個(gè)癱瘓的人只需靠意念控制就能再次嘗試行走，這得益于使用AI開(kāi)發(fā)的微芯片。

而在科技影響以外，AI對(duì)國(guó)家經(jīng)濟(jì)產(chǎn)生的深遠(yuǎn)影響也不能忽視。

很多公司已經(jīng)開(kāi)始用AI工具取代人工，這也正是好萊塢劇作家發(fā)動(dòng)罷工的一個(gè)重要原因。

毅然離職的Hinton

無(wú)獨(dú)有偶，前一陣子，同為圖靈三巨頭的Hinton也因?yàn)橥瑯拥脑蛏线^(guò)一次熱搜。

當(dāng)時(shí)，各大媒體充斥著這個(gè)標(biāo)題：深度學(xué)習(xí)泰斗、神經(jīng)網(wǎng)絡(luò)之父Geoffrey Hinton突然宣布離職谷歌。

為了能夠自由談?wù)撊斯ぶ悄茱L(fēng)險(xiǎn)，而不考慮這對(duì)谷歌的影響。

在紐約時(shí)報(bào)的報(bào)道中，Hinton直接警示世人：注意，前方有危險(xiǎn)，前方有危險(xiǎn)，前方有危險(xiǎn)！

而這正是他對(duì)人工智能風(fēng)險(xiǎn)深深地?fù)?dān)憂。Hinton直言：「我對(duì)自己的畢生工作，感到非常后悔?！?/span>

從人工智能的開(kāi)創(chuàng)者到末日預(yù)言者，Hinton的轉(zhuǎn)變，也標(biāo)志著科技行業(yè)正處于幾十年來(lái)最重要的一個(gè)拐點(diǎn)。

這一點(diǎn)同樣讓許多業(yè)內(nèi)人士感到不安，他們擔(dān)心自己所做的研究，正在向外釋放某種危險(xiǎn)。

因?yàn)樯墒饺斯ぶ悄芸赡芤呀?jīng)成為產(chǎn)生錯(cuò)誤信息的工具。并在未來(lái)的某個(gè)時(shí)候，可能會(huì)對(duì)人類構(gòu)成威脅。

在Hinton看來(lái)，如何防止壞人利用它做壞事，我們還未能找到方法。

而在Hinton辭職錢(qián)，在喧囂的反對(duì)浪潮中，人工智能教父Hinton卻并未在限制AI發(fā)展的兩封公開(kāi)信上簽名。

他表示，自己在辭去工作之前，并不想公開(kāi)批評(píng)谷歌，或其他公司。

忍到上個(gè)月，Hinton終于下定決心，通知谷歌自己即將辭職。

選擇離職谷歌后，Hinton終于可以暢所欲言地談?wù)揂I的風(fēng)險(xiǎn)了。

我對(duì)我的畢生工作，感到十分后悔。

我只能這樣安慰自己：即使沒(méi)有我，也會(huì)有別人。