圖靈三巨頭之一的LeCun昨日又爆金句。

「論聰明程度，ChatGPT可能連條狗都不如。」

這句話來自本周四LeCun在Vivatech上和Jacques Attalie的一場(chǎng)辯論，可謂精彩紛呈。

CNBC甚至直接把這句話放到了標(biāo)題里，而LeCun也在之后火速轉(zhuǎn)推。

“ChatGPT和狗：比不了一點(diǎn)”

LeCun表示，當(dāng)前的AI系統(tǒng)，哪怕是ChatGPT，根本就不具備人類的智能水平，甚至還沒有狗聰明。

要知道，在AI爆炸發(fā)展的今天，無數(shù)人已經(jīng)為ChatGPT的強(qiáng)大性能所折服。在這種情況下，LeCun的這句話可謂驚世駭俗。

不過，LeCun一貫的觀點(diǎn)都是——不必太過緊張，如今的AI智能水平遠(yuǎn)遠(yuǎn)沒到我們?cè)摀?dān)憂的地步。

而其他的科技巨頭則基本和LeCun持截然相反的意見。

比如同為圖靈三巨頭的Hinton和Bengio，以及AI屆人士由Sam Altman挑頭簽的公開信，馬斯克的危機(jī)言論等等。

在這種大環(huán)境下，LeCun一直「不忘初心」，堅(jiān)定認(rèn)為現(xiàn)在真沒啥可擔(dān)心的。

LeCun表示，目前的生成式AI模型都是在LLM上訓(xùn)練的，而這種只接受語(yǔ)言訓(xùn)練的模型聰明不到哪去。

「這些模型的性能非常有限，他們對(duì)現(xiàn)實(shí)世界沒有任何理解。因?yàn)樗麄兗兇馐窃诖罅课谋旧嫌?xùn)練的?！?/span>

而又因?yàn)榇蟛糠秩祟愃鶕碛械闹R(shí)其實(shí)和語(yǔ)言無關(guān)，所以這部分內(nèi)容AI是捕捉不到的。

LeCun打了個(gè)比方，AI現(xiàn)在可以通過律師考試，因?yàn)榭荚噧?nèi)容都停留在文字上。但AI絕對(duì)沒可能安裝一個(gè)洗碗機(jī)，而一個(gè)10歲的小孩兒10分鐘就能學(xué)會(huì)怎么裝。

這就是為什么LeCun強(qiáng)調(diào)，Meta正嘗試用視頻訓(xùn)練AI。視頻可不僅僅是語(yǔ)言了，因此用視頻來訓(xùn)練在實(shí)現(xiàn)上會(huì)更加艱巨。

LeCun又舉了個(gè)例子，試圖說明什么叫智能上的差別。

一個(gè)五個(gè)月大的嬰兒看到一個(gè)漂浮的東西，并不會(huì)想太多。但是一個(gè)九個(gè)月大的嬰兒再看到一個(gè)漂浮的物體就會(huì)感到非常驚訝。

因?yàn)樵诰艂€(gè)月大的嬰兒的認(rèn)知里，一個(gè)物體不該是漂浮著的。

LeCun表示，如今我們是不知道如何讓AI實(shí)現(xiàn)這種認(rèn)知能力的。在能做到這一點(diǎn)之前，AI根本就不可能擁有人類智能，連貓貓狗狗的都不可能。

Attali：我也要簽公開信

在這場(chǎng)討論中，法國(guó)經(jīng)濟(jì)和社會(huì)理論家Jaques Attali表示，AI的好壞取決于人們?nèi)绾芜M(jìn)行利用。

然而他卻對(duì)未來持悲觀態(tài)度。他和那些簽公開信的AI大牛一樣，認(rèn)為人類會(huì)在未來三四十年內(nèi)面臨很多危險(xiǎn)。

他指出，氣候?yàn)?zāi)難和戰(zhàn)爭(zhēng)是他最為關(guān)注的問題，同時(shí)擔(dān)心AI機(jī)器人會(huì)「阻撓」我們。

Attali認(rèn)為，需要為AI技術(shù)的發(fā)展設(shè)置邊界，但由誰(shuí)來設(shè)定、設(shè)定怎么樣的邊界仍是未知的。

這和前一陣子簽的兩封公開信所主張的內(nèi)容相同。

當(dāng)然，公開信LeCun也是壓根沒搭理，發(fā)推高調(diào)表示哥們兒沒簽。

LeCun炮轟ChatGPT——沒停過

而在此之前，LeCun針對(duì)ChatGPT不止講過過一次類似的話。

就在今年的1月27日，Zoom的媒體和高管小型聚會(huì)上，LeCun對(duì)ChatGPT給出了一段令人驚訝的評(píng)價(jià)——

「就底層技術(shù)而言，ChatGPT并不是多么了不得的創(chuàng)新。雖然在公眾眼中，它是革命性的，但是我們知道，它就是一個(gè)組合得很好的產(chǎn)品，僅此而已?！?/span>

「除了谷歌和Meta之外，還有六家初創(chuàng)公司，基本上都擁有非常相似的技術(shù)?！?/span>

此外，他還表示，ChatGPT用的Transformer架構(gòu)是谷歌提出的，而它用的自監(jiān)督方式，正是他自己提倡的，那時(shí)OpenAI還沒誕生呢。

當(dāng)時(shí)鬧得更大，Sam Altman直接在推上給LeCun取關(guān)了。

1月28日，LeCun梅開二度，繼續(xù)炮轟ChatGPT。

他表示，「大型語(yǔ)言模型并沒有物理直覺，它們是基于文本訓(xùn)練的。如果它們能從龐大的聯(lián)想記憶中檢索到類似問題的答案，他們可能會(huì)答對(duì)物理直覺問題。但它們的回答，也可能是完全錯(cuò)誤的。」

而LeCun對(duì)LLM的看法一以貫之，從未改變。從昨天的辯論就可以看出，他覺得語(yǔ)言訓(xùn)練出來的東西毫無智能可言。

今年2月4日，LeCun直白地表示，「在通往人類級(jí)別AI的道路上，大型語(yǔ)言模型就是一條歪路」。

「依靠自動(dòng)回歸和響應(yīng)預(yù)測(cè)下一個(gè)單詞的LLM是條歪路，因?yàn)樗鼈兗炔荒苡?jì)劃也不能推理。」

當(dāng)然，LeCun是有充分的理由相信這一點(diǎn)的。

ChatGPT這種大語(yǔ)言模型是「自回歸」。AI接受訓(xùn)練，從一個(gè)包含多達(dá)14000億個(gè)單詞的語(yǔ)料庫(kù)中提取單詞，預(yù)測(cè)給定句子序列中的最后一個(gè)單詞，也就是下一個(gè)必須出現(xiàn)的單詞。

Claude Shannon在上個(gè)世紀(jì)50年代開展的相關(guān)研究就是基于這一原則。

原則沒變，變得是語(yǔ)料庫(kù)的規(guī)模，以及模型本身的計(jì)算能力。

LeCun表示，「目前，我們無法靠這類模型生成長(zhǎng)而連貫的文本，這些系統(tǒng)不是可控的。比如說，我們不能直接要求ChatGPT生成一段目標(biāo)人群是13歲兒童的文本。

其次，ChatGPT生成的文本作為信息來源并不是100%可靠的。GPT的功能更像是一種輔助工具。就好比現(xiàn)有的駕駛輔助系統(tǒng)一樣，開著自動(dòng)駕駛功能，也得把著方向盤。

而且，我們今天所熟知的自回歸語(yǔ)言模型的壽命都非常短，五年算是一個(gè)周期，五年以后，過去的模型就沒有人再會(huì)用了。

而我們的研究重點(diǎn)，就應(yīng)該集中在找到一種是這些模型可控的辦法上。換句話說，我們要研究的AI，是能根據(jù)給定目標(biāo)進(jìn)行推理和計(jì)劃的AI，并且得能保證其安全性和可靠性的標(biāo)準(zhǔn)是一致的。這種AI能感受到情緒?！?/span>

要知道，人類情緒的很大一部分和目標(biāo)的實(shí)現(xiàn)與否有關(guān)，也就是和某種形式的預(yù)期有關(guān)。

而有了這樣的可控模型，我們就能生成出長(zhǎng)而連貫的文本。

LeCun的想法是，未來設(shè)計(jì)出能混合來自不同工具的數(shù)據(jù)的增強(qiáng)版模型，比如計(jì)算器或者搜索引擎。

像ChatGPT這樣的模型只接受文本訓(xùn)練，因此ChatGPT對(duì)現(xiàn)實(shí)世界的認(rèn)識(shí)并不完整。而想要在此基礎(chǔ)上進(jìn)一步發(fā)展，就需要學(xué)習(xí)一些和整個(gè)世界的感官知覺、世界結(jié)構(gòu)有關(guān)的內(nèi)容。

然而好玩兒的是，Meta自己的模型galactica.ai上線三天就被網(wǎng)友噴的查無此人了。

原因是胡話連篇。