在7月6日舉辦的昇騰人工智能產(chǎn)業(yè)高峰論壇 2023 上，中國(guó)科學(xué)院院士、清華大學(xué)計(jì)算機(jī)系教授、清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)張鈸院士被聘請(qǐng)為昇騰榮譽(yù)顧問(wèn)?，F(xiàn)場(chǎng)華為輪值董事長(zhǎng)胡厚崑先生為張鈸院士頒發(fā)昇騰榮譽(yù)顧問(wèn)聘請(qǐng)證書(shū)及獎(jiǎng)杯。張鈸院士可以說(shuō)是中國(guó)人工智能領(lǐng)域的奠基人，分享了他對(duì)人工智能發(fā)展的深度思考。他認(rèn)為Chat GPT的出現(xiàn)，讓人工智能通用理論形成成為可能，只有理論的支撐，AI才能實(shí)現(xiàn)革命性發(fā)展;同時(shí)他認(rèn)為通用人工智能的三要素?cái)?shù)據(jù)、算力和算法，應(yīng)該升級(jí)為四個(gè)要素，分別是知識(shí)、數(shù)據(jù)、算法和算力。

張鈸院士：人工智能通用理論即將形成，AI革命發(fā)展勢(shì)不可擋

以下是演講內(nèi)容：

張鈸：各位專家、各位嘉賓、大家好!非常高興被聘請(qǐng)為昇騰 AI 的榮譽(yù)顧問(wèn)，這可能是對(duì)人工智能工作者的一種鼓勵(lì)，我覺(jué)得人工智能工作者需要鼓勵(lì)， 因?yàn)槿斯ぶ悄苁顷J無(wú)人區(qū)非常艱難，大家不要認(rèn)為人工智能取得的每一個(gè)進(jìn)步都是那么容易的，都是非常困難的。

首先，我想談一個(gè)問(wèn)題，怎么樣估計(jì) Chat GPT 有兩種說(shuō)法，首先一種說(shuō)法是 Chat GPT 是通用人工智能，還有一種說(shuō)法它不是通用人工智能，哪個(gè)對(duì)呢? 我的觀點(diǎn)是哪個(gè)都不對(duì)，哪個(gè)都不對(duì)。怎么樣估計(jì) Chat GPT 的成果呢?我認(rèn)為最恰當(dāng)?shù)墓烙?jì)是向通用人工智能邁出一步。按照微軟的說(shuō)法是通用人工智能的火花，我贊成這種觀點(diǎn)。

為什么呢?首先先看一下 Chat GPT 具有通用人工智能的兩個(gè)特征，頭一個(gè) 特征是在對(duì)話和聊天這個(gè)領(lǐng)域，它達(dá)到了人工智能的目標(biāo)，或者是達(dá)到了行為主 義主張的人工智能的目標(biāo)。行為主義人工智能是人工智能的主流，背后的哲學(xué)是 唯物主義、實(shí)用主義。它追求的人工智能目標(biāo)是什么?使得機(jī)器的行為跟人類的 行為相似，所以為什么說(shuō) Chat GPT 達(dá)到了這個(gè)指標(biāo)呢?因?yàn)槲覀兏?Chat GPT 對(duì) 話的時(shí)候，和人類的對(duì)話很相近，因此它達(dá)到了頭一個(gè)通用人工智能的特征。

第二個(gè)特征，Chat GPT 是開(kāi)領(lǐng)域、多任務(wù)的，在對(duì)話這個(gè)問(wèn)題里跟領(lǐng)域無(wú) 關(guān)，這是一個(gè)重大的突破。大家知道人工智能經(jīng)歷過(guò)第一代知識(shí)驅(qū)動(dòng)，第二代數(shù)據(jù)驅(qū)動(dòng)，都只能在限定領(lǐng)域里面完成單個(gè)任務(wù)。所以 Chat GPT 就變成開(kāi)領(lǐng)域， 走向通用。作這兩個(gè)特征之上，通用人工智能這個(gè)最重要的兩個(gè)特征之上，一個(gè) 達(dá)到人類水平，一個(gè)跟領(lǐng)域無(wú)關(guān)。所以，我們可以說(shuō)它是通用人工智能。但是因 為它只是在對(duì)話，或者講得寬一點(diǎn)，是在語(yǔ)言處理這個(gè)領(lǐng)域里面達(dá)到這個(gè)目標(biāo)， 所以我們還不能把它稱作通用人工智能，因?yàn)樵趧e的智能領(lǐng)域里面，它是不是能 通用呢?現(xiàn)在還說(shuō)不清楚，所以我覺(jué)得這樣的估計(jì)是非常恰當(dāng)?shù)?。我們只有在這樣的估計(jì)情況之下，才能討論下面的問(wèn)題。

首先一個(gè)問(wèn)題，Chat GPT 為什么能夠達(dá)到現(xiàn)在這樣的水平?甚至很多地方 使大家感到非常驚奇，主要由于人工智能經(jīng)過(guò)六七十年的努力，在三個(gè)問(wèn)題上實(shí) 現(xiàn)了突破，或者是三個(gè)關(guān)鍵技術(shù)的突破。

第一個(gè)技術(shù)，基于詞嵌入的文本語(yǔ)意表示。

第二個(gè)技術(shù)，是大家非常熟悉的轉(zhuǎn)換器，就是基于注意機(jī)制的轉(zhuǎn)換器，就是 剛剛高院士談的大模型，我們現(xiàn)在說(shuō)的大模型就是大轉(zhuǎn)換器。

第三個(gè)技術(shù)，最后一個(gè)就是基于預(yù)測(cè)下一個(gè)詞的自監(jiān)督學(xué)習(xí)，我們應(yīng)該說(shuō) Chat GPT 是經(jīng)過(guò)人工智能領(lǐng)域里頭或者是其他領(lǐng)域里頭大量的科學(xué)家和工程師， 經(jīng)過(guò)六七十年共同努力的結(jié)果，因?yàn)榻?jīng)過(guò)六七十年這三個(gè)問(wèn)題才得到突破。這三 個(gè)問(wèn)題的突破，使得機(jī)器在處理文本上起到了本質(zhì)的變化，過(guò)去我們?cè)谔幚砦谋? 的時(shí)候，我們往往把它稱作處理數(shù)據(jù)，到現(xiàn)在為止，大家還是用的這個(gè)詞，但是 這個(gè)詞在 Chat GPT 里頭不成立。

因?yàn)?Chat GPT 是在我們找到了文本語(yǔ)意表示這個(gè)條件下再處理文本，所以 它處理的不是文本的形式，不是把文本當(dāng)成數(shù)據(jù)來(lái)處理，而是把文本當(dāng)成知識(shí)來(lái) 處理。 所以，Chat GPT 成功并不是僅僅歸功于三個(gè)要素，也就是數(shù)據(jù)、算力和算 法，我覺(jué)得應(yīng)該強(qiáng)調(diào)四個(gè)要素，分別是知識(shí)、數(shù)據(jù)、算法和算力。也就是說(shuō)，我 們有三個(gè)關(guān)鍵技術(shù)的突破，就使得我們能夠從大量的文本這里我們叫做數(shù)據(jù)，從大量的數(shù)據(jù)中間可以獲取到知識(shí)，只有出現(xiàn)這個(gè)轉(zhuǎn)變才有現(xiàn)在的 Chat GPT，不 然我們還是停留在那個(gè)認(rèn)識(shí)上肯定是錯(cuò)的。

這個(gè)突破可能帶來(lái)三件事情是不可阻擋的： 第一件事就是必然帶來(lái)科技的革命，首先會(huì)帶來(lái)人工智能本身的革命。大家知道人工智能發(fā)展到 Chat GPT 以前，我們不能說(shuō)它是一個(gè)科學(xué)，為什么呢?它沒(méi)有理論，人工智能為什么理論建立不起來(lái)?非常重要的原因我們?cè)诘谝淮斯ぶ悄茏龅闹R(shí)驅(qū)動(dòng)也好，第二代人工智能做的數(shù)據(jù)驅(qū)動(dòng)也好，我們都是在限定領(lǐng) 域中完成單個(gè)任務(wù)。你在單領(lǐng)域單任務(wù)里面不可能建立一個(gè)通用理論。Chat GPT 掃除了這個(gè)障礙，至少在自然語(yǔ)言處理上掃除了這個(gè)障礙，因?yàn)樗I(lǐng)域無(wú)關(guān)。 一旦跟領(lǐng)域脫鉤了，你才有可能建立起來(lái)它的通用理論。

所以，現(xiàn)在去建立人工智能理論是有可能的，在 Chat GPT 沒(méi)出現(xiàn)以前，這種可能性不存在。所以，這個(gè)問(wèn)題對(duì)我們來(lái)講是一個(gè)激勵(lì)。什么是突破口呢?突破口就是 Chat GPT，如果我們沒(méi)把 Chat GPT 內(nèi)部的工作原理搞清楚，我們就找不到進(jìn)入人工智能理論的鑰匙。 大家想一想 Chat GPT 里面很多現(xiàn)象，我們說(shuō)不清楚，但是一方面它能夠生 成一個(gè)非常出人意料非常好的結(jié)果，它同時(shí)又會(huì)出現(xiàn)幻覺(jué)，什么是幻覺(jué)呢?就是 胡說(shuō)八道。所以，為什么會(huì)出現(xiàn)這個(gè)現(xiàn)象呢?這個(gè)根本不清楚，所以頭一個(gè)必然會(huì)迎來(lái)的科技的革命，首先這個(gè)革命會(huì)從 AI 本身開(kāi)始。

第二個(gè)事情，大家討論得非常多，就是產(chǎn)業(yè)的變革。首先是人工智能產(chǎn)業(yè)本 身的產(chǎn)業(yè)變革，大家知道人工智能產(chǎn)業(yè)的發(fā)展跟信息技術(shù)的產(chǎn)業(yè)發(fā)展是非常不一 樣的，信息科技的發(fā)展，我們可以用 4 個(gè)字來(lái)形容“高速持續(xù)”但是人工智能產(chǎn)業(yè)的發(fā)展是“緩慢曲折”，什么原因呢?一個(gè)最重要的原因就是信息科技從一開(kāi) 始理論就建立起來(lái)了，計(jì)算機(jī)的理論是 1936 年建立的，通訊理論是 1948 年建立 的，所以它在理論指導(dǎo)下，它的技術(shù)和它的產(chǎn)業(yè)發(fā)展都非常順利。

人工智能只有算法和模型，而且這些算法和模型都是領(lǐng)域限定和任務(wù)限定的， 所以你開(kāi)發(fā)出來(lái)的所有人工智能的硬件或軟件全是專用的，跟信息產(chǎn)業(yè)完全不同， 信息產(chǎn)業(yè)的所有硬件和軟件全是通用的，市場(chǎng)非常之大，而信息產(chǎn)業(yè)的硬件或軟 件通常是專用的，都是跟領(lǐng)域緊密結(jié)合的，信息產(chǎn)業(yè)不跟領(lǐng)域結(jié)合根本不可能有 這個(gè)產(chǎn)業(yè)，但是拿計(jì)算機(jī)來(lái)講，完全不跟應(yīng)用結(jié)合，它生產(chǎn)出來(lái)的計(jì)算機(jī)什么地方都能用。

但是有了 Chat GPT 之后，告訴大家人工智能有可能建立一個(gè)跟領(lǐng)域無(wú)關(guān)的模型和算法，只有這個(gè)算法和模型擺脫了領(lǐng)域的限制，你將來(lái)生產(chǎn)出來(lái)的硬件和 軟件才會(huì)是通用的，或者是一定范圍里頭通用的，你才有很大的市場(chǎng)。這就是今后信息產(chǎn)業(yè)革命的一個(gè)方向。

第三個(gè)事情，人工智能治理。Chat GPT 大家看正面得比較多，其實(shí)反面的東西也很成問(wèn)題，因?yàn)槲覀冇玫姆椒ㄊ墙蓄A(yù)測(cè)下一個(gè)詞，這種模式的學(xué)習(xí)，必然帶來(lái)兩個(gè)大問(wèn)題： 首先，它的結(jié)果不確定，受提示詞的影響極大，這就影響 Chat GPT 輸出有三個(gè)不可避免的缺點(diǎn)：

第一個(gè)缺點(diǎn)，錯(cuò)誤是必然的。所以我們說(shuō)的那個(gè)胡說(shuō)八道是必然的。

第二個(gè)缺點(diǎn)，它的輸出非常受輸入的影響，受提示詞的影響，所以它的輸出不主觀的，問(wèn)同樣的問(wèn)題改變輸入就會(huì)得到一個(gè)完全不同的結(jié)果。

第三個(gè)缺點(diǎn)，它不知道自己錯(cuò)了，錯(cuò)了也改不了，必須依靠后面剛剛高院士也提到了 AI 對(duì)齊等等。我到現(xiàn)在問(wèn) Chat GPT，我問(wèn)它清華大學(xué)校歌的歌詞是什么?它自己編了一套，我一年多我以前就這么問(wèn)它，它到現(xiàn)在還這樣，我說(shuō)不對(duì)，清華大學(xué)校歌不是你這樣的，應(yīng)該是“西山蒼蒼東海茫?！保野堰@個(gè)歌詞唱給它，它馬上回復(fù)說(shuō)對(duì)不起我說(shuō)錯(cuò)了，清華大學(xué)歌詞應(yīng)該是這個(gè)，我退出來(lái)再進(jìn)去， 問(wèn)它清華大學(xué)的校歌是什么?它又自己編了一套，說(shuō)明它不知道自己錯(cuò)了，告訴了它錯(cuò)誤它也改不過(guò)來(lái)。

想一想，這些情況說(shuō)明 Chat GPT 的輸出往往不會(huì)符合我們的要求，我們的 道德、倫理、政治的要求。所以 Chat GPT 出現(xiàn)以后，人工智能的治理是不可避 免的，我認(rèn)為這三個(gè)趨勢(shì)一定是這樣的。

我們?cè)趺崔k呢?我覺(jué)得我們是主張要發(fā)展第三代人工智能，這個(gè)第三代人工 智能包含了三個(gè)內(nèi)容，一個(gè)內(nèi)容就是要建立可解釋魯棒的人工智能理論。Chat GPT 出現(xiàn)以后建立這個(gè)理論才成為可能，過(guò)去實(shí)際上是不可能建立的。 第二個(gè)內(nèi)容，發(fā)展安全、可信、可控、可靠、可拓展的人工智能技術(shù)，只有 建立了這個(gè)理論之后，我們才有可能得到一個(gè)安全的人工智能技術(shù)。換句話說(shuō)， 現(xiàn)在的人工智能技術(shù)是不安全的，不可靠的，也是不可信的。特別是利用大數(shù)據(jù) 的機(jī)器學(xué)習(xí)，結(jié)果一定是這樣的。最后才能推動(dòng)產(chǎn)業(yè)化的創(chuàng)新應(yīng)用和產(chǎn)業(yè)發(fā)展。 我相信通過(guò)國(guó)家全國(guó)的規(guī)劃，通過(guò)產(chǎn)學(xué)研的結(jié)合，我覺(jué)得我們這個(gè)目標(biāo)一定會(huì)達(dá) 到的。 謝謝大家