和梁朝偉同獲港科榮譽(yù)博士,黃仁勛與沈向洋對(duì)談Scaling Law、后訓(xùn)練、機(jī)器人和愛(ài)情
11 月 23 日,香港科技大學(xué)舉行了今年度的學(xué)位頒授典禮。英偉達(dá)創(chuàng)始人和 CEO 黃仁勛又新增一個(gè)榮譽(yù)工程學(xué)博士頭銜,與他一同獲得榮譽(yù)博士學(xué)位的還有著名影星梁朝偉、2013 年諾貝爾化學(xué)獎(jiǎng)得主 Michael Levitt、菲爾茲獎(jiǎng)得主 David Mumford。
典禮現(xiàn)場(chǎng)照片,圖源:X 用戶 @biogerontology
行程中,黃仁勛與著名計(jì)算機(jī)科學(xué)家、香港科技大學(xué)校董會(huì)主席沈向洋身穿同款皮衣,進(jìn)行了主題為「技術(shù)、領(lǐng)導(dǎo)力和企業(yè)家精神」的爐邊談話,內(nèi)容涉及 AI 的發(fā)展和對(duì)社會(huì)的影響、AI 在科學(xué)領(lǐng)域的應(yīng)用、大灣區(qū)的硬件生態(tài)系統(tǒng)、領(lǐng)導(dǎo)力和企業(yè)管理甚至愛(ài)情等主題。
黃仁勛與沈向洋展示同款皮衣
黃仁勛觀點(diǎn)的太長(zhǎng)不讀版:
- AI 的關(guān)鍵變革意義是可作為理解一切的「通用翻譯器」,而 AI 還將創(chuàng)造一個(gè)全新的行業(yè)。
- Scaling Law 仍在持續(xù)有效。英偉達(dá)最偉大的貢獻(xiàn)之一是讓機(jī)器能輕松地學(xué)習(xí)大量數(shù)據(jù)。
- AI 還沒(méi)有掌握從第一性原理中得出答案的能力,但模擬對(duì)科學(xué)也很有價(jià)值。
- 作為領(lǐng)導(dǎo)者,要持續(xù)學(xué)習(xí)、保持強(qiáng)大、考慮他人的利益。
- 大學(xué)生談戀愛(ài)不會(huì)耽誤學(xué)習(xí)。
- AI 的目標(biāo)是推理,而不是訓(xùn)練。AI 訓(xùn)練雖然耗能多,但最終也能幫助節(jié)省能源。
- 未來(lái)只有三種機(jī)器人可以大規(guī)模生產(chǎn):汽車(chē)、無(wú)人機(jī)和人形機(jī)器人。
- 大灣區(qū)是世界上唯一一個(gè)機(jī)電技術(shù)和 AI 技術(shù)能夠同時(shí)蓬勃發(fā)展的地區(qū)。
機(jī)器之心整理了這場(chǎng)爐邊談話的主要內(nèi)容。
AI 的社會(huì)影響
沈向洋:我昨晚睡不著,一個(gè)重要原因是我將把你當(dāng)成宇宙第一 CEO 來(lái)介紹給大家。我很擔(dān)心,因?yàn)樽蛱焯O(píng)果公司的股票在漲,而你的公司沒(méi)有。早上起來(lái),我問(wèn)了我的妻子,確認(rèn)你們還是第一。所以我會(huì)給你提些難題。首先,你認(rèn)為 AI(尤其是 AGI)對(duì)行業(yè)和整個(gè)社會(huì)來(lái)說(shuō)有什么影響?
黃仁勛:首先,很感謝有機(jī)會(huì)與您共度時(shí)光。Harry(沈向洋)是我們這個(gè)時(shí)代最重要的計(jì)算機(jī)科學(xué)家之一。他是我和許多人的英雄。Harry,正如你所知,當(dāng) AI 有能力學(xué)習(xí)和理解語(yǔ)言、圖像、蛋白質(zhì)序列、氨基酸序列和化學(xué)序列等各種數(shù)據(jù)時(shí),就能獲得變革性的、開(kāi)創(chuàng)性的能力。突然之間,我們有了可以理解字詞含義的電腦。生成式 AI 讓我們將一種信息模式轉(zhuǎn)換為另一種信息模式,比如從文本到圖像、從文本到文本、從蛋白質(zhì)到文本、從文本到蛋白質(zhì)、從文本到化學(xué)物質(zhì)。
最初,這是一個(gè)通用的函數(shù)逼近器,現(xiàn)在演變成了適用于各種情況的通用語(yǔ)言翻譯器。那么問(wèn)題是,我們可以用它做什么?世界上有很多公司和團(tuán)隊(duì)在組合這些不同的模態(tài)和能力。我認(rèn)為真正驚人的突破是 AI 現(xiàn)在可以理解各種信息的含義,成了可以理解任何東西的通用翻譯器。
沈向洋:你曾說(shuō)過(guò),農(nóng)業(yè)革命實(shí)際上是制造了更多食物,工業(yè)革命實(shí)際上制造了更多的科學(xué)技能,然后是信息技術(shù)帶來(lái)了更多信息?,F(xiàn)在是人工智能時(shí)代,你認(rèn)為現(xiàn)在 AI 實(shí)際上是在制造更多智能嗎?
黃仁勛:從計(jì)算機(jī)科學(xué)的角度看,我們已經(jīng)重新發(fā)明了整個(gè)堆棧,也就是我們開(kāi)發(fā)軟件的方式。過(guò)去我們自己動(dòng)手寫(xiě)代碼。我一開(kāi)始學(xué)習(xí)了 Fortran,后來(lái)學(xué)習(xí)了 Pascal、C 和 C++。每種語(yǔ)言都可以將我們的想法變成代碼,然后在 CPU 上運(yùn)行。
現(xiàn)在我們則是使用觀察數(shù)據(jù)。我們將其提供給計(jì)算機(jī),看它能從中發(fā)現(xiàn)什么模式和關(guān)系?,F(xiàn)在不再是編程,而是機(jī)器學(xué)習(xí)。機(jī)器生成的不是軟件,而是在 GPU 上處理的神經(jīng)網(wǎng)絡(luò)。從編程到機(jī)器學(xué)習(xí),從 CPU 到 GPU。由于 GPU 能力強(qiáng)大得多,所以我們現(xiàn)在可以開(kāi)發(fā)出異乎往常的軟件類(lèi)型。而它之上是人工智能。這就是涌現(xiàn)。所以計(jì)算機(jī)科學(xué)已經(jīng)發(fā)生了很大的變化。
現(xiàn)在的問(wèn)題是,我們的行業(yè)會(huì)發(fā)生什么?當(dāng)然,我們都在競(jìng)相使用機(jī)器學(xué)習(xí)來(lái)發(fā)現(xiàn)新的人工智能和 AI。AI 做的事情之一是「認(rèn)知自動(dòng)化」,或者說(shuō)解決問(wèn)題的自動(dòng)化。
解決問(wèn)題的整個(gè)過(guò)程可以被總結(jié)成三個(gè)基本步驟:感知、推理和規(guī)劃。比如,對(duì)于自動(dòng)駕駛,需要汽車(chē)感知其周?chē)h(huán)境,然后推理自己的位置以及其它汽車(chē)的位置,再規(guī)劃駕駛過(guò)程。我們可以將自動(dòng)駕駛比作是數(shù)字駕駛員。類(lèi)似于,我們可以有數(shù)字放射科醫(yī)生等等。實(shí)際上,對(duì)于我們所做的任何事情,都可以想出對(duì)應(yīng)的 AI 表達(dá)。我們可以稱之為數(shù)字智能體。這些數(shù)字智能體互相交互,產(chǎn)生 token,但實(shí)際上就是數(shù)字智能。
就像三百年前發(fā)電機(jī)的發(fā)明造就了各種電器,它們消耗發(fā)電機(jī)生產(chǎn)的電力。Copilot 和 ChatGPT 等應(yīng)用就像是各種電器,而發(fā)電機(jī)就對(duì)應(yīng)于數(shù)字智能工廠。所以,我們其實(shí)正在創(chuàng)造一個(gè)新的行業(yè)。這個(gè)新行業(yè)需要能源并產(chǎn)生數(shù)字智能。這些數(shù)字智能將被用于各種不同的應(yīng)用。我們相信,它的消耗量會(huì)相當(dāng)大。而這整個(gè)行業(yè)在以前是不存在的,就像發(fā)電機(jī)出現(xiàn)之前不存在電器行業(yè)一樣。
按黃氏定律,英偉達(dá)股票還能再漲嗎?
沈向洋:Nvidia 在算力領(lǐng)域,尤其是在過(guò)去十幾年里的貢獻(xiàn),有一個(gè)數(shù)字不斷被提及,就是以你的名字命名的「黃氏定律」,對(duì)標(biāo)摩爾定律。
「黃氏定律」:在過(guò)去十年中,英偉達(dá) GPU 的人工智能處理能力增長(zhǎng)了 1000 倍,這一增長(zhǎng)表明在單芯片推理性能中看到的增速不會(huì)逐漸消失,而是會(huì)繼續(xù)存在。
在計(jì)算機(jī)行業(yè)的早期發(fā)展中,英特爾提出了著名的摩爾定律 —— 大約每 18 個(gè)月,計(jì)算能力將實(shí)現(xiàn)翻倍。
如果我們回看過(guò)去 10 到 12 年,在你的領(lǐng)導(dǎo)下,甚至不是每年翻一番,而是更多。
從消費(fèi)的角度來(lái)看,在最近 12 年中,算上所有的大語(yǔ)言模型,每年的計(jì)算需求實(shí)際上是增長(zhǎng)了四倍。如果每年增長(zhǎng)四倍,那么在十年的時(shí)間里,這個(gè)數(shù)字將變成驚人的一百萬(wàn)倍。
這就是為什么 Jensen 的股票能在十年內(nèi)增長(zhǎng) 300 倍的原因之一:需求增長(zhǎng)了一百萬(wàn)倍。這也解釋了為什么英偉達(dá)的股票貴得合理。
現(xiàn)在,我想問(wèn)問(wèn)您,用您的水晶球展望未來(lái),我們是否在未來(lái)十年還會(huì)見(jiàn)證這種百萬(wàn)倍的需求增長(zhǎng)?
黃仁勛:摩爾定律基于兩個(gè)概念,其一是 VLSI 縮放。這一概念源自 Carver Mead 和 Lynn Conway 的著作,確實(shí)極大地啟發(fā)了我們這一代人。其二是 Dennard 縮放,即保持晶體管的電流密度恒定的同時(shí),通過(guò)縮小晶體管尺寸,使我們能夠每隔幾年將半導(dǎo)體的性能提升一倍。
具體來(lái)說(shuō),大約每一年半,性能就會(huì)翻一番。這意味著 5 年后,性能能提升至 10 倍,10 年后,能達(dá)到 100 倍。
當(dāng)前,我們所見(jiàn)證的是,神經(jīng)網(wǎng)絡(luò)的規(guī)模越大,訓(xùn)練這些網(wǎng)絡(luò)的數(shù)據(jù)越多,AI 的性能似乎就越強(qiáng)大。這已成為一個(gè)經(jīng)驗(yàn)法則,類(lèi)似于摩爾定律,我們稱之為 Scaling Law,而 Scaling Law 似乎仍在持續(xù)發(fā)揮作用。
但我們也知道,僅僅通過(guò)預(yù)訓(xùn)練從全球數(shù)據(jù)中自動(dòng)發(fā)現(xiàn)知識(shí)是不夠的。這就好比上大學(xué)、完成學(xué)業(yè)是一個(gè)重要的里程碑,但這還遠(yuǎn)遠(yuǎn)不夠。
我們需要后訓(xùn)練,也就是深入學(xué)習(xí)特定技能的過(guò)程。后訓(xùn)練涉及強(qiáng)化學(xué)習(xí)、人類(lèi)反饋、人工智能反饋、合成數(shù)據(jù)生成、多路徑學(xué)習(xí)等多種技術(shù)。
核心在于,你開(kāi)始進(jìn)入一個(gè)特定領(lǐng)域的深度學(xué)習(xí),試圖深入理解其中的某些內(nèi)容。這就是后訓(xùn)練的過(guò)程。一旦你選擇了一份職業(yè),你會(huì)再次進(jìn)行大量的學(xué)習(xí)。
然后,在后續(xù)階段,就到了我們所說(shuō)的「思考」。這可以被稱為 test time scaling。在這個(gè)階段,有些問(wèn)題的答案可以直截了當(dāng)?shù)刂?,而有些?wèn)題則需要你將其分解,逐步追溯到第一性原理,再?gòu)脑c(diǎn)出發(fā),為每個(gè)問(wèn)題找到解決方案。這可能需要你進(jìn)行迭代,可能需要你分情況討論,模擬不同的結(jié)果。
因此,我們稱之為「思考」,而且往往思考的時(shí)間越長(zhǎng),得到的答案質(zhì)量可能就越高。
請(qǐng)注意,在人工智能發(fā)展的三個(gè)關(guān)鍵領(lǐng)域中,大量的計(jì)算能夠帶來(lái)更高質(zhì)量的答案?,F(xiàn)在 AI 能提供的回答已經(jīng)是能力范圍的最好了,但我們需要保持頭腦清醒,判斷 AI 的回答有沒(méi)有幻覺(jué)?合不合理?
我們必須努力達(dá)到一個(gè)境界,那時(shí)我們可以充分信任人工智能提供的答案。我認(rèn)為我們距離這一目標(biāo)還有幾年的時(shí)間。在此期間,我們不得不持續(xù)增強(qiáng)計(jì)算能力。
很感激你剛剛談到,在過(guò)去的十年中,Nvidia 實(shí)現(xiàn)了計(jì)算性能的百萬(wàn)倍提升。Nvidia 實(shí)際上做了什么呢?我們將計(jì)算的邊際成本降低了百萬(wàn)倍。
試想一下,如果世界上有人把剛需物品的成本降低了百萬(wàn)倍,比如電力,那么你的習(xí)慣將會(huì)發(fā)生根本性的變化。
對(duì)計(jì)算的看法也由此發(fā)生了質(zhì)變。這是 Nvidia 所做出的最偉大貢獻(xiàn)之一 —— 我們使得讓機(jī)器全面學(xué)習(xí)大量數(shù)據(jù)變得如此簡(jiǎn)單,以至于研究人員幾乎不需要猶豫就可以進(jìn)行。這就是機(jī)器學(xué)習(xí)之所以能夠迅速發(fā)展的原因。
2024 年,AI for Science 為什么走得通了?
沈向洋:Jensen,有一件事我真的想請(qǐng)教你,關(guān)于我們應(yīng)該在港科大做些什么。我們其實(shí)有很多選擇,其中有一個(gè)特別令人興奮的事情,我們稱之為 AI for Science。例如,我們一直在我們的大學(xué)投資大量的計(jì)算基礎(chǔ)設(shè)施 GPU,校長(zhǎng)和我特別鼓勵(lì)我們的教師在物理和計(jì)算機(jī)科學(xué)、材料科學(xué)和計(jì)算機(jī)科學(xué)、生物學(xué)和計(jì)算機(jī)科學(xué)之間進(jìn)行合作。你一直在談?wù)撋飳W(xué)的未來(lái)?,F(xiàn)在在香港發(fā)生的一件非常令人興奮的事情是,我們的政府決定建設(shè)第三所醫(yī)學(xué)院。事實(shí)上,港科大是第一個(gè)提交提案的大學(xué)。你對(duì)此有什么建議?我們應(yīng)該投資在什么地方?
黃仁勛:首先,我在 2018 年的世界科學(xué)計(jì)算會(huì)議上介紹了人工智能,當(dāng)時(shí)飽受質(zhì)疑。因?yàn)楫?dāng)時(shí)的人工智能在某種程度上是一個(gè)黑箱。事實(shí)上,它今天不那么像黑箱了,因?yàn)槟憧梢韵蛩釂?wèn),問(wèn)它為什么給出某個(gè)建議,讓它向你解釋它是如何一步一步得到答案的,就像教授啟發(fā)他的學(xué)生一樣。所以說(shuō)今天的人工智能變得更加透明,更加可解釋。而在 2018 年我們還做不到這一點(diǎn)。所以它遭到了很大的質(zhì)疑,這是第一點(diǎn)。
第二,人工智能還沒(méi)有掌握從第一性原理中產(chǎn)生答案的能力。它通過(guò)學(xué)習(xí)觀察到的數(shù)據(jù)產(chǎn)生答案。因此,它并不是在模擬第一性原理求解器,而是模擬智能,模擬物理?,F(xiàn)在的問(wèn)題是,模擬對(duì)科學(xué)有價(jià)值嗎?我想說(shuō),模擬對(duì)科學(xué)并非沒(méi)有價(jià)值。原因在于,在許多科學(xué)領(lǐng)域,我們理解第一性原理,比如薛定諤方程、麥克斯韋方程等,但我們無(wú)法模擬這些方程并理解龐大的系統(tǒng)。所以,與其從第一性原理出發(fā)去解決這些問(wèn)題,并讓它在計(jì)算上受到限制,我們不如使用人工智能。
我們可以訓(xùn)練理解物理的人工智能,并用它來(lái)模擬非常大的系統(tǒng),以便我們能夠理解大系統(tǒng)和大尺度。那么,這對(duì)哪些領(lǐng)域有用呢?首先,人類(lèi)生物學(xué)有一個(gè)從納米開(kāi)始的尺度,從納秒到年,用第一性原理求解器去求解這樣的系統(tǒng)幾乎是不可能的。所以現(xiàn)在的問(wèn)題是,我們能否使用人工智能來(lái)模擬人類(lèi)生物學(xué),以便我們能夠更好地理解這些非常復(fù)雜的多尺度系統(tǒng),甚至創(chuàng)建一個(gè)人類(lèi)生物學(xué)的數(shù)字孿生。這是一個(gè)偉大的希望。
現(xiàn)在說(shuō)到你們的醫(yī)院,港科大有一個(gè)非常重要的機(jī)會(huì),那就是在這里建立一所醫(yī)院,其最初的核心領(lǐng)域是技術(shù)、計(jì)算機(jī)科學(xué)和人工智能。這與世界上幾乎所有醫(yī)院的運(yùn)作方式完全相反。傳統(tǒng)醫(yī)院通常是以醫(yī)療為起點(diǎn),然后嘗試將人工智能和技術(shù)融入其中,而這種方式通常會(huì)遇到懷疑和對(duì)技術(shù)的不信任。
而你們現(xiàn)在有機(jī)會(huì)第一次從零開(kāi)始打造一個(gè)完全不同的體系 —— 一個(gè)從一開(kāi)始就擁抱技術(shù)并推動(dòng)技術(shù)進(jìn)步的醫(yī)院。在這里的所有人,包括你們自己,都是推動(dòng)基礎(chǔ)技術(shù)發(fā)展的專家。你們了解技術(shù)的局限性,同時(shí)也了解它的潛力。我認(rèn)為這是一個(gè)非凡的機(jī)會(huì),我希望你們能好好利用它。
作為 CEO,應(yīng)該持續(xù)學(xué)習(xí)、保持強(qiáng)大、考慮他人的利益
沈向洋:你是硅谷歷史上當(dāng) CEO 時(shí)間最長(zhǎng)的人,到現(xiàn)在有 30 或 31 年了?你不累嗎?
黃仁勛:接近 32 年了。我超級(jí)累(super tired)。
沈向洋:哈哈,你超級(jí)累,但仍在繼續(xù)前進(jìn)。我們想知道,你是如何領(lǐng)導(dǎo)英偉達(dá)這樣龐大的企業(yè)的,并且還讓它以驚人的速度進(jìn)步?
黃仁勛:我很驚訝今天(在頒授典禮上)看見(jiàn)了「計(jì)算生物學(xué)和商業(yè)」專業(yè)。我認(rèn)為這很棒。我創(chuàng)立英偉達(dá)前沒(méi)有上過(guò)商業(yè)課程,到今天我也沒(méi)有上過(guò)商業(yè)課程。我也沒(méi)寫(xiě)過(guò)商業(yè)計(jì)劃書(shū),從來(lái)也不知道怎么寫(xiě)。我指望你們幫我寫(xiě)商業(yè)計(jì)劃書(shū)。我想說(shuō)的是,我認(rèn)為你們應(yīng)該盡可能多地學(xué)習(xí)。我一直在學(xué)習(xí)。
對(duì)于我的工作,我想的是這不僅僅是一份工作,而是我一生的事業(yè)。不管是做什么,工作與人生事業(yè)的不同想法會(huì)給你的頭腦帶來(lái)非常巨大的差異。如果你認(rèn)為你的工作就是你要奉獻(xiàn)一生的事業(yè),那你就會(huì)想要去完善它。英偉達(dá)就是我一生的事業(yè)。
一路上我學(xué)到了很多。這里說(shuō)一個(gè)。如果你想成為一家公司的 CEO,你有很多東西要學(xué)。你必須不斷地重塑自己。世界一直在變化,你的公司一直在變化,技術(shù)一直在變化。所以我基本上每一天都在學(xué)習(xí),當(dāng)我飛到這里的時(shí)候,我在看 YouTube 或者我在和我的 AI 說(shuō)話。順便說(shuō)一下,我找了個(gè) AI 當(dāng)家教。我會(huì)問(wèn)很多問(wèn)題。比如,如果它告訴我一個(gè)答案,我會(huì)問(wèn)你為什么給我那個(gè)答案?一步一步告訴我答案。執(zhí)行推理或類(lèi)比等等。我通過(guò)折磨我的 AI 來(lái)學(xué)習(xí)。所以學(xué)習(xí)的方法有很多。
關(guān)于 CEO 和領(lǐng)導(dǎo)力方面,我學(xué)到了什么?首先,你是 CEO,是領(lǐng)導(dǎo)者,但你不必知道一切。你必須對(duì)自己想要做的事情充滿信心,但你不必確定。信心和確定性不是同一個(gè)概念。你有可能完全自信地追求一個(gè)方向,同時(shí)又給不確定性留出空間,而這種不確定性的空間能給你提供你繼續(xù)學(xué)習(xí)的機(jī)會(huì)。不確定性是你的朋友,而不是敵人。
第二點(diǎn),作為領(lǐng)導(dǎo)者要強(qiáng)大(strong),因?yàn)楹芏嗳酥竿愕牧α?,他們以你的力量為食。然而,?qiáng)大并不意味著你不能脆弱。也就是說(shuō),如果你需要幫助,就尋求幫助。所以我不斷地尋求幫助。
所以,脆弱不等于缺乏力量,不確定不等于缺乏信心。
最后,做事情的時(shí)候,不要想著自己,要想著其他人。只有當(dāng)每一個(gè)決策都符合使命和他人的利益時(shí),領(lǐng)導(dǎo)者才是值得信任的。要符合他人成功的利益。無(wú)論是公司內(nèi)部的人、我的同事、我的合作伙伴、我們服務(wù)的生態(tài)系統(tǒng)、我們的供應(yīng)鏈,我都在不斷思考其他人的成功。我一直在思考什么對(duì)他們最有利。昨晚,我飛過(guò)來(lái)的時(shí)候,有人問(wèn)我,我們應(yīng)該和一個(gè)非常重要的伙伴討論什么?我說(shuō),給出符合他們最大利益的建議 —— 從他們的最大利益出發(fā),考慮我們?cè)撛趺醋觥N艺J(rèn)為這些想法可能會(huì)有所幫助。
沈向洋:你有 60 個(gè)直接下屬,非常多。你是怎么做到的,這似乎是你的獨(dú)特領(lǐng)導(dǎo)風(fēng)格。
黃仁勛:透明度。我會(huì)在大家面前推理我們需要做什么。我們共同努力制定戰(zhàn)略。無(wú)論是什么策略,每個(gè)人都會(huì)同時(shí)聽(tīng)到。因此,當(dāng)公司有了方向、戰(zhàn)略和決策時(shí),每個(gè)人都在一起思考。而不是每個(gè)人都在等著我告訴他該怎么做。所以我唯一要做的就是:確保我們都知曉同樣的事情。
我通常是最后一個(gè),會(huì)根據(jù)我們所做的一切來(lái)進(jìn)行總結(jié),比如哪些是大方向和優(yōu)先事項(xiàng)。
一旦我們都對(duì)齊了,也就是我們都明白了采用什么策略,我相信每個(gè)人都是成年人,會(huì)自行完成自己的事情。
我之前提到了我的行為 —— 不斷學(xué)習(xí),自信但不確定。如果他們也不知道什么事情,我需要他們表達(dá)出來(lái)。如果他們需要幫助,我需要他們向我們尋求幫助。沒(méi)有人會(huì)獨(dú)自失敗。
此外,我這 60 個(gè)人都是世界上最優(yōu)秀的。
沈向洋:我們也有些學(xué)生會(huì)去創(chuàng)業(yè),他們會(huì)成為新的企業(yè)家。作為這方面的大師,你很年輕時(shí)就創(chuàng)立了企業(yè),并取得了如此驚人的成功。那么對(duì)于想要?jiǎng)?chuàng)業(yè)的學(xué)生和教職人員,你有什么建議嗎?我們知道你確認(rèn)曾承諾你的妻子,在 30 歲之前創(chuàng)立一家公司。
黃仁勛:我 16 歲上大學(xué)。我遇見(jiàn)我的妻子時(shí) 17 歲,她 19 歲。我是班上最小的孩子。我們有 250 名同學(xué),只有 3 個(gè)女生。我是唯一一個(gè)看起來(lái)像孩子的學(xué)生。所以我必須要有一個(gè)很好的搭訕話。所以我走向她,我對(duì)她說(shuō),我知道我看起來(lái)像個(gè)孩子。(我確信她對(duì)我的第一印象是我很聰明,否則就沒(méi)戲了。)所以我走到她面前說(shuō):你想看看我的作業(yè)嗎?
然后我向她保證,我說(shuō)如果你每個(gè)星期天和我一起做作業(yè),我保證你會(huì)得到全 A。結(jié)果,我每個(gè)星期天都能和她約會(huì),而我讓她整天做作業(yè)。
然后為了確保她最終和我結(jié)婚,我告訴她,到我 30 歲的時(shí)候,那時(shí)候我只有 20 歲,但是到我 30 歲的時(shí)候,我會(huì)成為一名 CEO。我都不知道我在說(shuō)什么。
然后我們結(jié)婚了。所以,這就是我給企業(yè)家的所有建議。
大學(xué)生談戀愛(ài)耽誤好好學(xué)習(xí)嗎?
沈向洋:好吧,我這里有一個(gè)學(xué)生的提問(wèn),他說(shuō)自己在學(xué)校各方面表現(xiàn)都不錯(cuò),但他需要專注學(xué)業(yè)。不過(guò),他讀到了您和您妻子的愛(ài)情故事。他想問(wèn)的是,如果他浪費(fèi)時(shí)間去談戀愛(ài),會(huì)不會(huì)影響學(xué)業(yè)?
你的答案顯然是否定的,對(duì)嗎?
黃仁勛:那是當(dāng)然。只要你保持好成績(jī),其他方面就水到渠成了。
我老婆從來(lái)沒(méi)看到我寫(xiě)作業(yè)的過(guò)程,但我就想展示出我很聰明的樣子。所以我總是在她到來(lái)之前就把作業(yè)寫(xiě)完了。這樣當(dāng)她來(lái)了之后,我已經(jīng)知道了所有的答案。結(jié)果,她可能整個(gè)四年都在想,「黃仁勛真是個(gè)天才」。
沈向洋:沒(méi)錯(cuò),你真是個(gè)天才。
學(xué)校的算力難題
沈向洋:剛才你給了學(xué)生們一些很好的建議。順便說(shuō)一下,我這里實(shí)際上有 9 頁(yè)的問(wèn)題,抱歉不能挑選每個(gè)人的問(wèn)題,我代表我們的學(xué)生提一個(gè)問(wèn)題。
黃仁勛:念吧。
沈向洋:我沒(méi)有使用 GPT,否則能簡(jiǎn)單些。所以,問(wèn)題實(shí)際上是,作為一名大學(xué)助理教授,現(xiàn)在做人工智能需要大量的力量。我們之前提到的那點(diǎn)很有意思,華盛頓大學(xué)一位教授幾年前在推特上寫(xiě)道,在深度學(xué)習(xí)革命中麻省理工學(xué)院明顯缺席了。但他的意思并不僅僅是麻省理工學(xué)院,實(shí)際上,即使是美國(guó)的頂尖大學(xué)也沒(méi)有做出貢獻(xiàn)。過(guò)去十年里有太多開(kāi)創(chuàng)性的論文了,而是一些頂尖公司,包括英偉達(dá)、微軟、OpenAI、谷歌,完成了令人驚嘆的工作,部分原因是他們實(shí)際上擁有足夠的計(jì)算能力。
所以,我的問(wèn)題是,我們應(yīng)該怎么做?我們應(yīng)該加入英偉達(dá)嗎?這倒是一個(gè)辦法?;蛘呶覀兡芎陀ミ_(dá)合作嗎?能請(qǐng)你幫忙嗎?
黃仁勛:這個(gè)問(wèn)題的核心實(shí)際上是一個(gè)非常嚴(yán)重的結(jié)構(gòu)性問(wèn)題,即大學(xué)的結(jié)構(gòu)性問(wèn)題。如你所知,未來(lái)如果沒(méi)有機(jī)器學(xué)習(xí),就不可能以我們所說(shuō)的規(guī)模推動(dòng)科學(xué)發(fā)展。沒(méi)有機(jī)器,就不可能有機(jī)器學(xué)習(xí)。科研工作需要科學(xué)儀器,而超級(jí)計(jì)算機(jī)就是當(dāng)今人工智能領(lǐng)域的科學(xué)儀器。
大學(xué)的結(jié)構(gòu)性問(wèn)題在于,每個(gè)研究人員都有自己的資金來(lái)源。因此,一旦籌集到資金,他們就不想與其他人分享。然而,機(jī)器學(xué)習(xí)的工作方式是,你需要機(jī)器的一部分時(shí)間,但需要的是全部機(jī)器的一小部分時(shí)間,沒(méi)有人永遠(yuǎn)需要它的全部,只是在一小段時(shí)間內(nèi)需要巨大的資源。事實(shí)證明,大學(xué)要想推進(jìn)研究,就必須把所有人的資金都集中起來(lái),而這在斯坦福或哈佛這樣的大學(xué)是非常困難的,因?yàn)樵谶@樣的大學(xué)里,雖然計(jì)算機(jī)科學(xué)方面的研究人員可以籌集到大量資金,獲得非常大量的資助,但對(duì)于從事氣候科學(xué)或海洋標(biāo)志研究的人來(lái)說(shuō),就非常困難了。
因此,現(xiàn)在的問(wèn)題是該怎么辦。我認(rèn)為,這正是那些能夠通過(guò)建設(shè)供全校使用的基礎(chǔ)設(shè)施來(lái)發(fā)揮領(lǐng)導(dǎo)作用的大學(xué)能夠真正發(fā)揮作用的地方。但這也是大學(xué)面臨的結(jié)構(gòu)性挑戰(zhàn)。這也是為什么這么多研究人員來(lái)英偉達(dá)、谷歌和微軟這樣的公司實(shí)習(xí)、做研究的原因,正如你們所知,因?yàn)槲覀冇谢A(chǔ)設(shè)施。然后這些人回到學(xué)校一段時(shí)間,要求我們將自己的研究成果保存在我們的系統(tǒng)中,這樣他們回來(lái)后就可以繼續(xù)研究。很多教授會(huì)這樣做,客座教授也會(huì)兼職做研究,但同時(shí)仍在教書(shū)。我們就有好幾位這樣的教授。因此,有很多方法可以解決這個(gè)問(wèn)題。當(dāng)然,最好的辦法是大學(xué)重新考慮如何提供資金。
GPU 的能耗問(wèn)題
沈向洋:但我想問(wèn)你一個(gè)具有挑戰(zhàn)性的問(wèn)題,一方面,我們很高興算力在不斷大幅提升,價(jià)格也在不斷下降。但與此同時(shí),英偉達(dá)的 GPU 將消耗大量能源。據(jù)預(yù)測(cè),到 2030 年,全球能耗將增加 30%。你是否擔(dān)心因?yàn)?GPU,世界實(shí)際上正在消耗更多的能源?
黃仁勛:逆向思維的話,我要倒推的第一件事是,如果世界使用更多的能耗來(lái)為人工智能工廠提供動(dòng)力,那么我們的世界就會(huì)變得更美好?,F(xiàn)在,讓我進(jìn)行幾個(gè)層面的推導(dǎo)。
第一,人工智能的目標(biāo)不是訓(xùn)練模型,而是使用模型。就像是,有些人上學(xué)的目的只是為了上學(xué),這沒(méi)有錯(cuò)。為了學(xué)習(xí)而學(xué)習(xí)。這是一件高尚的事情,也是一件非常明智的事情。但是,大多數(shù)學(xué)生來(lái)到這里,投入了大量的金錢(qián),投入了大量的時(shí)間,目標(biāo)是日后學(xué)有所成,學(xué)以致用。因此,人工智能的目標(biāo)不是訓(xùn)練。
人工智能的目標(biāo)是推理。推理的價(jià)值令人難以置信,它可以發(fā)現(xiàn)儲(chǔ)存二氧化碳的新方法,也許能發(fā)現(xiàn)新的風(fēng)力渦輪機(jī)設(shè)計(jì),也許能發(fā)現(xiàn)新的蓄電材料,也許能發(fā)現(xiàn)更有效的太陽(yáng)能電池板材料,等等。因此,我們的目標(biāo)是最終創(chuàng)造出人工智能,而不是訓(xùn)練人工智能。
第二,人工智能并不在乎在哪里「上學(xué)」。我們不必把超級(jí)計(jì)算機(jī)放在靠近電網(wǎng)的校園里。我們應(yīng)該做的是,開(kāi)始考慮把人工智能超級(jí)計(jì)算機(jī)放在電網(wǎng)之外,稍微遠(yuǎn)離電網(wǎng),讓它使用可持續(xù)能源,而不是人口所在的地方。請(qǐng)記住,我們所有的發(fā)電廠都是為了我們需要的電器而創(chuàng)建的,這些電器離我們的房子很近,燈泡離我們的房子很近,洗碗機(jī)離我們的房子很近。現(xiàn)在,因?yàn)橛辛穗姡妱?dòng)汽車(chē)也離我們家很近。但超級(jí)計(jì)算機(jī)不一定要在人們的家附近。它可以在其他地方運(yùn)行。
最后,我希望人工智能在發(fā)現(xiàn)新科學(xué)方面能夠如此高效和聰明,電網(wǎng)需要變得更加智能。要知道,電網(wǎng)的供應(yīng)是過(guò)度配置的,只有部分時(shí)間供電剛好合適,大部分時(shí)間供電過(guò)剩。因此,我們應(yīng)該在許多不同的領(lǐng)域使用人工智能來(lái)節(jié)約能源,減少資源浪費(fèi)。希望最終我們可以將這種節(jié)省下來(lái)的能源用作替代能源,比如達(dá)到節(jié)約 20% 到 30% 的目標(biāo)。
最終,我們都會(huì)看到,使用人工智能、使用能源來(lái)實(shí)現(xiàn)智能化,是我們所能想象到的對(duì)能源的最佳利用。
未來(lái)只有三種機(jī)器人可以大規(guī)模生產(chǎn)
沈向洋:你知道,大灣區(qū)(括香港、深圳、廣州和東莞等地)近年來(lái)已經(jīng)發(fā)展成為一個(gè)龐大的硬件生態(tài)系統(tǒng)。如果我們今天想要制造一些有趣的設(shè)備,而沒(méi)有利用大灣區(qū)的生態(tài)系統(tǒng),效率將大打折扣,因?yàn)槟銕缀鯚o(wú)法在其他地方找到所需的全部組件。一個(gè)很好的例子就是在大灣區(qū)成長(zhǎng)起來(lái)的大疆(DJI),它是一家商業(yè)無(wú)人機(jī)公司,技術(shù)非常出色。
那么,我的問(wèn)題是,隨著智能的物理化趨勢(shì)越來(lái)越重要,比如機(jī)器人領(lǐng)域的快速發(fā)展,我們將會(huì)看到更多的機(jī)器人應(yīng)用。我假設(shè)其中一個(gè)特殊類(lèi)型的機(jī)器人是自動(dòng)駕駛汽車(chē)。您怎么看待這些物理智能實(shí)體?這些機(jī)器人或自動(dòng)駕駛技術(shù)會(huì)在工作和生活中多快地普及?我們又該如何利用大灣區(qū)這個(gè)卓越的硬件生態(tài)系統(tǒng)?
黃仁勛:這是中國(guó)以及這個(gè)地區(qū)的一個(gè)非凡機(jī)遇。原因在于,大灣區(qū)已經(jīng)在機(jī)電一體化方面非常出色,機(jī)械與電子技術(shù)的結(jié)合能力很強(qiáng)。然而,機(jī)器人領(lǐng)域真正缺少的是能夠理解物理世界的人工智能。
目前的聊天機(jī)器人(如 ChatGPT)或大語(yǔ)言模型,擅長(zhǎng)處理認(rèn)知智能和知識(shí)層面的任務(wù),但它們并不了解物理智能。比如,當(dāng)我把一個(gè)杯子放到桌子上,它們無(wú)法理解杯子不會(huì)穿過(guò)桌子。因此,我們需要教會(huì)人工智能理解物理智能。
實(shí)際上,我們?cè)谶@方面已經(jīng)取得了一些進(jìn)展。例如,你可以用生成式 AI 將文本轉(zhuǎn)化為視頻。如果我輸入指令,讓 AI 生成一段視頻,展示「黃仁勛拿起咖啡杯喝了一口」,AI 可以完成這個(gè)任務(wù)。如果 AI 能夠生成這樣的場(chǎng)景,那為什么不能進(jìn)一步生成操作指令,讓機(jī)械臂真正去拿起咖啡杯?從生成式 AI 到通用機(jī)器人的跨越已經(jīng)非常接近了。所以,我對(duì)這個(gè)領(lǐng)域感到非常興奮。
我們現(xiàn)在有三種類(lèi)型的機(jī)器人可以實(shí)現(xiàn)大規(guī)模生產(chǎn),幾乎只有這三種。歷史上出現(xiàn)過(guò)的其他機(jī)器人種類(lèi),規(guī)?;a(chǎn)非常困難。規(guī)?;慨a(chǎn)非常重要,因?yàn)橹挥写笠?guī)模生產(chǎn)才能形成技術(shù)飛輪,帶來(lái)高額的研發(fā)投入,從而帶來(lái)更大的技術(shù)突破,進(jìn)一步擴(kuò)大生產(chǎn)規(guī)模。這個(gè)研發(fā)飛輪對(duì)任何行業(yè)都是至關(guān)重要的。
實(shí)際上,只有三種類(lèi)型的機(jī)器人可以實(shí)現(xiàn)真正的大規(guī)模生產(chǎn),但其中兩種的產(chǎn)量會(huì)是最高的。原因在于,這三種機(jī)器人都可以直接部署到現(xiàn)有的世界中,我們稱之為棕色場(chǎng)部署(在現(xiàn)有的系統(tǒng)、設(shè)施或結(jié)構(gòu)的基礎(chǔ)上進(jìn)行升級(jí)或改造,而不是從頭開(kāi)始或在全新的環(huán)境中進(jìn)行)。
第一種是汽車(chē)。因?yàn)樵谶^(guò)去的 250 年里,我們創(chuàng)造了汽車(chē)的世界。第二個(gè)是無(wú)人機(jī),因?yàn)樘炜帐窍喈?dāng)無(wú)限的。但是體量最大的當(dāng)然是類(lèi)人機(jī)器人,這是因?yàn)槲覀冞@個(gè)世界是為自己創(chuàng)造的。有了這三種類(lèi)型的機(jī)器人,我們幾乎可以將機(jī)器人擴(kuò)展到極大的體量。這是像大灣區(qū)這樣的制造業(yè)生態(tài)系統(tǒng)真正擁有的優(yōu)勢(shì)之一。
大灣區(qū)是世界上唯一一個(gè)機(jī)電技術(shù)和人工智能技術(shù)能夠同時(shí)蓬勃發(fā)展的地區(qū)。這樣的情況在其他地方并不存在。你可以看看其他兩個(gè)主要的機(jī)電技術(shù)產(chǎn)業(yè)中心 —— 日本和德國(guó),但遺憾的是,它們?cè)谌斯ぶ悄茴I(lǐng)域落后了不少,確實(shí)需要努力追趕。而大灣區(qū)在這方面不存在這個(gè)問(wèn)題。因此,這是一個(gè)非常獨(dú)特的機(jī)會(huì),我會(huì)強(qiáng)烈建議大家抓住這個(gè)機(jī)會(huì)并充分利用它。