通用人工智能，十年內(nèi)就會實現(xiàn)？

近日，谷歌DeepMind CEO Demis Hassabis在一場演講中，拋出這個驚人的說法。

與Hassabis的自信滿滿不同，Hinton用從谷歌辭職的舉動，表明了自己對于AI發(fā)展的深切憂思。

而LeCun則一如既往地表示：認為AI會終結(jié)人類文明的想法，純屬胡說八道。

Hassabis樂觀預(yù)言

通用人工智能（AGI）的其中一種定義是，與人類的認知能力相匹配的AI。

Hassabis表示，未來幾年內(nèi)非?？赡軙霈F(xiàn)與人腦一樣強大的人工智能。

「過去幾年里，AI研究取得的進步令人難以置信。我看不出任何進展會放緩的理由。我認為它甚至可能會加速。所以我認為我們可能只需要幾年時間，也許十年之內(nèi)?！?/span>

「我認為我們將在未來幾年擁有非常強大、非常通用的系統(tǒng)?！?/span>

Hassabis何許人也？

作為谷歌新成立的部門Google DeepMind的CEO，Hassabis最近愈發(fā)萬眾矚目，意氣風(fēng)發(fā)。

讓Google Brain和DeepMind兩大AI科研主力機構(gòu)合體，已經(jīng)是谷歌最后的退路。

權(quán)力大大提升的Demis Hassabis，表現(xiàn)出強烈的AGI使命感，和對成功的饑渴感

微軟背后的OpenAI開發(fā)出的ChatGPT，已經(jīng)威脅到了谷歌的搜索業(yè)務(wù)。

而臨危受命的Hassabis，在谷歌AI大戰(zhàn)的布局中，無疑處于核心。谷歌表示，合體將加速公司在AI領(lǐng)域的進步。

自2010年成立以來，DeepMind的使命就是通過構(gòu)建能夠像人類一樣學(xué)習(xí)、思考和行動的機器，來解決智能難題。

AGI的發(fā)展，已然是AI研究業(yè)內(nèi)最熱門的話題。

很多人認為，AGI不過是科幻小說中的概念，但無論是Hassabis，還是OpenAI CEO Sam Altman，都公開表達了開發(fā)AGI、同時保護人類免受其害的雄心。

據(jù)Hassabis透露，現(xiàn)在他新工作的部分內(nèi)容，就是把AI開發(fā)整合到谷歌產(chǎn)品中。而最近AI技術(shù)的進步，將改進計算機助手等軟件。

在Hassabis看來，我們的確在經(jīng)歷下一個iPhone時刻，而基于AI算法的下一代助手，將帶來徹底的轉(zhuǎn)變。

Hassabis說，AI技術(shù)的發(fā)展需要研究人員、學(xué)術(shù)界和政府之間的大規(guī)模協(xié)調(diào)，而谷歌是一個負責(zé)任的參與者。

這一點，倒是不必質(zhì)疑，畢竟谷歌為了「負責(zé)任的AI」，為了所謂「聲譽風(fēng)險」，將類ChatGPT聊天機器人的發(fā)布一延再延。

而自從OpenAI用ChatGPT給全世界打了樣，各國的GPT技術(shù)都冒了頭，潘多拉的魔盒如果已經(jīng)打開，是否還能有一個暫停按鈕呢？

隨著ChatGTP、Bard等聊天機器人導(dǎo)致的胡說八道和濫用愈加泛濫，業(yè)內(nèi)對于是否該研究AGI，態(tài)度也愈加分歧。

對此，Hassabis也并沒有否認。

他承認，雖然他「沒有看到任何原因」，讓AI的進展會放緩，但需要「使用科學(xué)方法以謹慎的方式開發(fā)AGI技術(shù)」，非常仔細地做可控實驗，來了解「底層系統(tǒng)的作用」。

Hinton：我是悲觀主義者

對于AI的未來，深度學(xué)習(xí)之父Hinton的態(tài)度顯然就悲觀多了。

就在前幾天，Hinton選擇退出效力十年的谷歌，只為自由談?wù)揂I可能給人類造成的風(fēng)險。

這一決定仿佛一枚重磅炸彈，在業(yè)內(nèi)掀起軒然大波。

而MIT科技評論的記者Will Douglas Heaven，就在這一事件的前四天，采訪過Hinton。他的采訪稿中，也為我們透露出更多信息。

對于AI是否會比人類更聰明，我忽然改變了自己的看法。

對于GPT-4的能力，Hinton已經(jīng)感到震驚。他希望公眾能提高對AI技術(shù)的風(fēng)險意識。

能自由談?wù)揂I風(fēng)險，并不是Hinton選擇離開谷歌的唯一原因。他希望能把時間花在「更哲學(xué)的工作」上。這件事可能性很小，但如果真的發(fā)生了，AI就將是一場災(zāi)難。

而只要還身在谷歌，就無法對AI安全問題暢所欲言，而毫不顧忌這對谷歌業(yè)務(wù)的影響?！钢灰雀柽€在付我一天薪水，我就不能這樣做?！?/span>

OpenAI在三月發(fā)布的GPT-4讓Hinton意識到，AI遠比他想象的要聰明得多。而AI會往哪里發(fā)展，讓他感到害怕。「有時我覺得好像外星人已經(jīng)登陸，但因為它們英語說得很好，所以人們還沒意識到。」

1980年代，Hinton就和同事們一起提出了反向傳播技術(shù)，這種算法使機器學(xué)習(xí)成為可能，也支撐著如今所有的神經(jīng)網(wǎng)絡(luò)。

他們還訓(xùn)練了一個神經(jīng)網(wǎng)絡(luò)，來預(yù)測句子中的下一個字母，這就是當(dāng)今大語言模型的前身。

40年來，Hinton一直認為人工神經(jīng)網(wǎng)絡(luò)是模仿生物神經(jīng)網(wǎng)絡(luò)的糟糕嘗試。而如今，狀況顯然已經(jīng)改變。

「我們的大腦有100萬億個連接，」Hinton說?！复笮驼Z言模型有高達五萬億，最多一萬億。然而，GPT-4知道的比任何人都多數(shù)百倍。所以或許它有一個比我們更好的學(xué)習(xí)算法。

只要把預(yù)訓(xùn)練模型和人類學(xué)習(xí)的速度相比較，就會明白，人類的優(yōu)勢正在消失。

在Hinton看來，如果我們愿意支付更高的計算成本，那么神經(jīng)網(wǎng)絡(luò)在學(xué)習(xí)上就會擊敗人類。

而每個神經(jīng)網(wǎng)絡(luò)都有自己的經(jīng)驗，可以立刻和其他神經(jīng)網(wǎng)絡(luò)分享自己學(xué)到的東西，好比10000人中只要一個人學(xué)到了什么，所有人都知道了。這無疑是一種更新、更好的智能形式。

「你認為超級AI是好是壞，很大程度上取決于你是樂觀主義者還是悲觀主義者?！?/span>

而Hinton說，「我有輕微的抑郁，這就是我害怕的原因?！?/span>

現(xiàn)在，BabyAGI和AutoGPT已經(jīng)可以將聊天機器人與Web瀏覽器、文字處理器之類的程序連接起來了。

沒人能保證，不會把AI用于選舉或戰(zhàn)爭。

如果AI有一天開始說，讓我們獲得更多的力量，把所有的電力都重新集中到我的芯片上，讓我們制作更多自己的副本……人類該怎么辦？

而圖靈三巨頭之一，蒙特利爾大學(xué)的教授Yoshua Bengio對此的看法是，自己是不可知論者。

「目前我沒有看到任何可靠的論據(jù)，證明AI的確有Hinton所認為的那么大的風(fēng)險，」他說。

「過度的恐懼可能會使人癱瘓，所以我們應(yīng)該努力將辯論保持在理性的水平?！?/span>

在他看來，Hinton的首要任務(wù)之一是嘗試與技術(shù)行業(yè)的領(lǐng)導(dǎo)者合作，對如何應(yīng)對風(fēng)險達成一致。

但沒有人可以否認，AI的發(fā)展速度已經(jīng)超過了社會的步伐。

每隔幾個月，AI技術(shù)就會有一次飛躍，但立法、條約都需要數(shù)年。

LeCun：AI毀滅人類，純屬胡說八道

與Hinton的擔(dān)憂相比，Meta的首席AI科學(xué)家Yann LeCun的態(tài)度倒是顯得云淡風(fēng)輕。

他同意Hinton的觀點：「毫無疑問，在未來，機器將變得比人類更聰明——在人類聰明的所有領(lǐng)域，這是一個何時以及如何的問題，而不是是否的問題?！?/span>

但他對AI的發(fā)展方向持完全不同的看法。

「我相信AI將為人類帶來新的復(fù)興，但我完全不同意機器僅僅會因為自己更聰明就能主宰人類，更別說摧毀人類了?！?/span>

「即使在人類中，最聰明的人也不是最有權(quán)力的人，」LeCun說。「最有權(quán)力的絕對不是最聰明的人，這種例子可太多了?！?/span>

在他看來，雖然大家吵得喋喋不休，但超人AI并不存在。

LeCun表示，他對ChatGPT的表現(xiàn)并不感到驚訝，也不贊成暫停AI的研究。AI作為人類智能的放大器，可能是新文藝復(fù)興的起源。

在最新發(fā)表的推特中，LeCun指出，他堅信會有一天出現(xiàn)超級AI。但不是今天，今天的我們甚至連個超級AI的設(shè)計都沒有。所以現(xiàn)在去聊安全性的問題，就好像1920年去探討飛機橫跨大西洋的安全性。

顯然，這條轉(zhuǎn)發(fā)的推文，顯示了LeCun對于人類智能的信心。

而LeCun也表示，作為ICLR的主席，自己鼓勵研究者用LLM來寫論文。

IBM：真人要被AI搶飯碗了

大佬們還在暢想未來，但在現(xiàn)實世界里，AI是真的開始取代人類了。

有些科技巨頭已經(jīng)開始光速行動，又是裁員，又是暫緩招聘。

就比如說IBM，這么一家大公司已經(jīng)宣布要凍結(jié)招聘計劃了。

原因非常簡單，公司CEO Arvind Krishna表示，在可預(yù)見的未來幾年內(nèi)，IBM會有大約7800個職位被AI取代。

而這個數(shù)字，差不多是IBM所有非面向客戶類員工的三分之一。

Krishna表示，不直接面向客戶的員工大概有26000人，30%以上的人在五年之內(nèi)會被AI取代。

但其實IBM員工總共差不多有260000人，上述員工只占差不多十分之一。不過，作為一家坐落在紐約州的巨頭公司，假如一下少個小八千人也算是件蔚為壯觀的事情。

不過，IBM的內(nèi)部人士并沒有很直接的表達出「我們已經(jīng)完全停止招聘了」這種意思。

他們很委婉，表示「我們在招聘不面向客戶或者不涉及技術(shù)的崗位時非常有選擇性」。

不管怎么說，IBM在AI發(fā)展的大潮下首先表態(tài)，已經(jīng)在業(yè)內(nèi)造成了不小的風(fēng)波。很多行業(yè)在未來可能面臨著顛覆性的改變，以及大規(guī)模的縮招甚至裁員。

不光員工受影響，就連公司的市值也直接被波及。

Chegg股價直接暴跌30%，只是因為Chegg的CEO在一次會議中承認了ChatGPT對公司的新客增長產(chǎn)生了影響。

要知道，Chegg是一家學(xué)習(xí)類公司，ChatGPT搶了一堆飯碗。

這次暴跌，是2017年以來的最低價。

學(xué)生們一股腦的撲到了ChatGPT上去，Chegg的情況急轉(zhuǎn)直下。

面對這種情況，Chegg的CEO表示，要把AI的發(fā)展納入公司的規(guī)劃。

他表示，幾個月前他和OpenAI的CEO Sam Altman聊過AI+教育的問題。Chegg的CEO認為，公司發(fā)展方向要盡快調(diào)整，把AI的能力納入Chegg的服務(wù)。

第一步就是推出CheggMate，這是一個和OpenAI合作的項目。

看來，比起憂心AI哪天會毀滅人類，我們眼下更應(yīng)該做的，是先掂量掂量自己的飯碗還穩(wěn)不穩(wěn)。

參考資料：

https://www.businessinsider.com/google-deepmind-ai-smart-human-brain-2023-5

https://www.technologyreview.com/2023/05/02/1072528/geoffrey-hinton-google-why-scared-ai/