黃仁勛和印度首富安巴尼對話:CPU摩爾定律已停滯,發(fā)現(xiàn)第二個縮放定律,不外包數(shù)據(jù)做AI 原創(chuàng)
10月24號,英偉達創(chuàng)始人兼CEO黃仁勛現(xiàn)身印度孟買。在印度舉辦的NVidia AI Summit 2024峰會上,黃教主一如既往的小跑登臺,開場就是一聲中氣十足“hello,孟買”,不過很快他就發(fā)現(xiàn)自己高興地甚至忘記了拿遙控筆,并解釋道:這是我第一次遇到這種狀況,不過小編看來,有可能是黃仁勛當天僅僅休息了3個半小時的原因。
當然這些只是小插曲,因為接下來老黃的演講內(nèi)容以及與印度首富信實工業(yè)集團董事長穆克什·安巴尼之間的對話,更加讓人一飽耳福,這場對話可以說是既透露了英偉達對于接下來生成式AI的走向的判斷,也讓我們得以窺見同樣深處亞洲的印度目前有哪些AI布局。
話不多說,全程90分鐘的內(nèi)容,這里先梳理幾個要點:
黃仁勛——
- CPU的摩爾定律已經(jīng)結束。
- 構建Blackwell系統(tǒng)需要Blackwell GPU,也需要另外七個芯片。
- 建設AI生態(tài)系統(tǒng)的第一步是AI基礎設施,類似于互聯(lián)網(wǎng)生態(tài)系統(tǒng)建設中的網(wǎng)絡基礎設施,包括個人電腦、云和內(nèi)聯(lián)網(wǎng)。
- 我們本質(zhì)上是在設計一個通用函數(shù)逼近器,通過機器學習產(chǎn)生這種函數(shù)的預期輸出。
- 從人類使用編碼的軟件1.0轉(zhuǎn)變到到使用機器學習的軟件2.0。
- 我們現(xiàn)在發(fā)現(xiàn)了第二個縮放定律,即推理時的縮放定律。你思考的時間越長,得到的答案質(zhì)量就越高,這是一個非常直觀的理解。
- 我們設想了兩種最通用的人工智能:一個是幫助我們提高工作效率的智能體,另一個是代理的物理版本——機器人。
- 印度總理莫迪說,印度應該制造自己的人工智能,不能外包,也不應出口數(shù)據(jù)以獲得智能。
- 每個人都說,NVIDIA,這個名字不太好,但我堅持了下來。
穆克什——
- 除了美國和中國,印度擁有世界上最好的數(shù)字連接基礎設施,包括4G、5G和寬帶。
- 今天,我們是世界上唯一一個擁有14億人口且平均年齡低于35歲的國家。
- 我非常尊重我的朋友馬克·扎克伯格,他通過開源為每個人參與這場革命創(chuàng)造了機會。
- 我相信在座的年輕人,未來將創(chuàng)造出一個印度模式,可能比 Llama 強大十倍。
- 印度不僅會繼續(xù)向全球輸出首席執(zhí)行官,還會出口數(shù)億人的人工智能服務,幫助世界變得更美好。
以下是黃仁勛在印度AI峰會上的全部演講內(nèi)容:
黃仁勛:
你好,孟買?。ㄈ缓蟀l(fā)現(xiàn)忘帶了遙控筆~)
孟買,發(fā)生了許多事情。大家都知道,印度對于全球計算機和IT行業(yè)至關重要,幾乎是世界上每家公司的IT核心。我們的行業(yè),你們的行業(yè),以及過去幾十年我們建立的行業(yè),都在經(jīng)歷根本性的變化、巨大的變化和結構性轉(zhuǎn)變。今天,我們會討論這個話題。但首先,我要感謝我們的合作伙伴,你們中的很多人一直在合作。感謝你們。
在印度,我們與這些優(yōu)秀的合作伙伴一起努力,共同推動IT行業(yè)的變革。我很高興今天你們能與我們在一起。目前,同時發(fā)生著兩個根本性的轉(zhuǎn)變。這種情況自1964年以來從未發(fā)生過(那是我出生的第二年)。這與我的出生無關。1964年,IBM System 360向世界介紹了IT的概念。我們所了解的IT行業(yè)便是從那時起引入了通用計算的概念。
他們定義了中央處理單元、CPU、IOS子系統(tǒng)和多任務處理,并通過操作系統(tǒng)這一層將硬件與應用軟件分離。IBM強調(diào)了應用程序的系列兼容性,使您可以長期利用硬件的基礎來運行軟件。他們還談到跨代架構帶來的優(yōu)勢,確保您在軟件上的投資不會因為每次購買新硬件而浪費。1964年,他們認識到了安裝基礎的重要性、軟件投資的重要性、以及構建運行軟件的計算機的重要性。這些架構學科當時就已被提及。
我剛描述的是今天的計算機行業(yè)。印度IT行業(yè)的基礎——也就是我們所知道的通用計算,已經(jīng)存在了60年。在過去30年中,我們受益于摩爾定律,這是一個令人驚嘆的現(xiàn)象。硬件可以在不改變軟件的情況下繼續(xù)改進,與架構兼容,并使軟件的性能每年翻倍。具體取決于您的應用程序,這意味著每年成本降低一半。這是世界上任何技術中最令人驚嘆的折舊力量。
隨著折舊和成本降低,社會得以使用越來越多的IT。我們繼續(xù)消費IT并處理更多數(shù)據(jù),而摩爾定律幫助我們持續(xù)降低成本,實現(xiàn)了我們今日所知的計算大眾化。360系統(tǒng)的發(fā)明和Windows PC的摩爾定律推動了世界上最重要行業(yè)之一的發(fā)展,隨后所有行業(yè)都在此基礎上建立起來。但是我們現(xiàn)在知道,CPU的擴展已經(jīng)達到極限。我們不能再沿用這種模式,摩爾定律的紅利已結束。我們現(xiàn)在必須做出改變,否則折舊效應會終止,而我們將面臨計算通脹。
這就是全球正在經(jīng)歷的變化。我們再不能對軟件無所作為,期望計算性能和體驗繼續(xù)改善、成本繼續(xù)降低,并繼續(xù)從IT的好處中獲益,以及解決越來越多的挑戰(zhàn)。我們創(chuàng)辦公司是為了加速軟件。我們的愿景是,增強通用計算后,某些應用程序?qū)闹蝎@益。我們將計算密集型工作負載卸載,并使用我們發(fā)明的CUDA模型進行加速,CUDA是一種編程模型,使我們能顯著加速應用程序。這種加速優(yōu)勢類似于摩爾定律的特性。
對于通用計算無法或不切實際的應用程序,我們利用加速計算的優(yōu)勢來實現(xiàn),例如計算機圖形學。實時計算機圖形因視頻的出現(xiàn)和GPU這一新處理器的出現(xiàn)而成為可能。GPU實際上是第一個運行CUDA的加速計算架構,用于計算機圖形,這是一個經(jīng)典的例子。我們使計算機圖形學大眾化,如今3D圖形無處不在,它幾乎可用于所有應用程序的媒介。我們認為,長期來看,加速計算可能會產(chǎn)生更大的影響。因此,在過去30年里,我們一直在為各個應用領域加速計算。這花費了這么長時間的原因很簡單,世界上沒有一種神奇的處理器可以加速所有事物,如果能做到這一點,就會被稱為CPU。我們需要重新構建計算堆棧,從算法到底層架構,再到頂層應用程序。
在各個領域,計算機圖形學雖然剛剛起步,但我們已經(jīng)在多個行業(yè)中借鑒了這種架構,即Cuda架構。今天,我們已經(jīng)為許多重要行業(yè)實現(xiàn)了加速。例如,cuLitho在半導體制造、計算光刻、模擬、計算機輔助工程以及5G無線電中發(fā)揮基礎作用。我們最近宣布與5G無線電合作伙伴關系,以加速5G軟件堆棧和量子計算,創(chuàng)造計算的未來。
Parabricks是基因測序軟件堆棧,cuVS是每家公司都在研究的重要項目之一,它正在從數(shù)據(jù)庫轉(zhuǎn)向知識基礎,以便創(chuàng)建AI數(shù)據(jù)庫。cuVS可以創(chuàng)建和矢量化所有數(shù)據(jù)。cuDF,即數(shù)據(jù)幀,本質(zhì)上是結構化數(shù)據(jù)的另一種形式,能夠?qū)崿F(xiàn)SQL加速。
在各種不同的庫中,我們都能夠?qū)贸绦蚣铀?0、30、甚至50倍。當然,這需要重新編寫軟件,這就是為何花費這么長時間的原因。我們在每個領域都需與行業(yè)、生態(tài)系統(tǒng)、軟件開發(fā)者和客戶合作,以加速這些應用程序在其領域的應用。
cuOPT是我最喜歡的組合計算應用程序之一,它是一種計算密集型應用程序,可以加速比如旅行銷售員和人員安排等問題。每個供應鏈、司機和乘客組合都可以通過cuOPT加速,速度之快令人難以置信。Modulus教授和AI物理定律,不僅可以預測下一個詞,還能夠預測流體動力學和粒子物理的下一個時刻。
我們最著名的應用程序庫之一是QDNN,它民主化了我們所知的人工智能。這些加速庫已涵蓋了眾多不同領域,使得加速計算似乎無處不在。這是因為我們采用這種架構覆蓋了幾乎每一個行業(yè)?,F(xiàn)在,CUDA加速計算已達到臨界點。
幾年前,大約十年前,發(fā)生了一件非常重要的事情。很多人都見證了這一點,即AlexNet在計算機視覺性能上的巨大飛躍。計算機視覺是人工智能的一個重要領域,AlexNet的進步令世界驚訝,我們也有幸受益。
退一步問自己,我們見證了什么?AlexNet為何如此有效?它的擴展范圍有多大?我們還能用這種深度學習的方法做些什么?如果我們要將深度學習應用于其他領域,它會如何影響計算機行業(yè)?如果我們想做到這一點,對未來充滿信心,并對深度學習能力感到興奮,我們將如何改變計算堆棧的每一層,以徹底改造計算?
12年前,我們決定讓整個公司致力于這一愿景。現(xiàn)在已經(jīng)12年過去了。每次我來印度,都有機會和大家談論深度學習和機器學習,現(xiàn)在非常明顯,世界已經(jīng)徹底改變。
考慮一下發(fā)生了什么,首先是我們?nèi)绾伍_發(fā)軟件。我們的行業(yè)建立在軟件開發(fā)的方法之上,這種方式稱為軟件1.0。程序員編寫在計算機上運行的算法,通過輸入信息預測輸出。這是經(jīng)典的計算機模型,已創(chuàng)造了世界上最大的產(chǎn)業(yè)之一。在印度,軟件生產(chǎn)、編碼和編程成為了一個完整的行業(yè),這一切都在我們這一代發(fā)生。然而,這種開發(fā)軟件的方法已經(jīng)被顛覆?,F(xiàn)在,不再是編碼,而是機器學習。機器學習利用計算機研究大量觀測到的數(shù)據(jù)的模式和關系,從中學習預測函數(shù)。因此,我們本質(zhì)上是在設計一個通用函數(shù)逼近器,通過機器學習產(chǎn)生這種函數(shù)的預期輸出。如此反復,從人類使用編碼的軟件1.0轉(zhuǎn)變到到使用機器學習的軟件2.0。注意誰在編寫軟件?,F(xiàn)在,軟件由計算機編寫。完成模型訓練后,可以對模型進行推斷。然后,你把函數(shù)作為輸入,這個大型語言模型、深度學習模型、計算機視覺模型、語音理解模型,作為輸入神經(jīng)網(wǎng)絡,進入GPU,可以根據(jù)新輸入做出預測。
圖片
請注意,這種軟件開發(fā)方式是基于機器學習的革新。我們已經(jīng)從編碼發(fā)展到機器學習,從開發(fā)軟件發(fā)展到創(chuàng)造人工智能,從喜歡在CPU上運行的軟件發(fā)展到現(xiàn)在在GPU上運行的最佳神經(jīng)網(wǎng)絡。這本質(zhì)上反映了過去十年我們行業(yè)經(jīng)歷的變化。
我們已經(jīng)看到了計算堆棧的徹底改造。整個技術堆棧,包括硬件、軟件開發(fā)方式以及軟件功能,已經(jīng)發(fā)生了根本性的變化。我們致力于推動這一領域的發(fā)展,這就是我們現(xiàn)在所構建的。
你們所有人最初都有什么?當我第一次來到印度時,我們正在為PCI Express卡構建GPU,可以插入PC中。今天的GPU就是這樣,Blackwell系統(tǒng)令人難以置信,旨在研究大規(guī)模數(shù)據(jù),以便發(fā)現(xiàn)模式和關系,理解數(shù)據(jù)的含義。這是重大的突破。
在過去幾年中,我們已經(jīng)了解了許多不同類型數(shù)據(jù)的含義:單詞的表示或含義、數(shù)字、圖像和像素、視頻、化學物質(zhì)、蛋白質(zhì)、氨基酸、流體模式、粒子、物理學。我們學會了用多種方式表示信息,不僅懂得其意義,還能將其翻譯成其他形式。例如,將英語翻譯成印地語,將大量英文文本翻譯、摘要,將像素轉(zhuǎn)化為圖像、圖像識別,將文字生成像素、圖像生成,從圖像、視頻生成文字、字幕,從文字轉(zhuǎn)化為用于藥物發(fā)現(xiàn)的蛋白質(zhì)、化學物質(zhì),發(fā)現(xiàn)新的化合物,從氨基酸推斷蛋白質(zhì)結構。
這些基本思想是將信息從一種模態(tài)轉(zhuǎn)換為另一模態(tài)的通用Transformer,導致初創(chuàng)企業(yè)數(shù)量激增。他們正在應用這些基本方法。如果能做到這個和那個,還能做什么?如果能做到那個和這個,應用程序數(shù)量顯然呈爆炸式增長。在過去兩三年里,全世界生成式人工智能公司的數(shù)量激增,數(shù)萬、數(shù)百億美元投入這一領域,這一切都是因為設備讓我們能研究數(shù)據(jù)和巨大的規(guī)模。
構建Blackwell系統(tǒng)需要Blackwell GPU,也需要另外七個芯片。這些芯片由TSMC生產(chǎn),他們在提升Blackwell系統(tǒng)方面做出了出色的工作。整個系統(tǒng)已全面投入生產(chǎn),我們希望能在第四季度實現(xiàn)量產(chǎn)。這基本上就是Blackwell,其中一個令人難以置信的方面。今天早上沒有什么是容易的。
這是NVLink,跨越整個GPU機架的背部脊柱,所有GPU都通過NVLink連接在一起,形成令人難以置信的系統(tǒng),這是世界上最長的銅驅(qū)動結構,將72個Blackwallers雙GPU包或144個GPU連接在一起。所以如果展開所有芯片,你會看到一個巨大的GPU。顯然不可能制造如此大的GPU,因此我們將其分解成盡可能小的模塊,這是技術的根本極限和最先進的技術。
我們使用NVLink將這些模塊連接在一起,這是NVLink的背部脊柱。你正在查看所有連接的GPU,還有一個量子交換機連接所有GPU。如果你需要以太網(wǎng),Spectrum X及其連接,每個交換機有50磅重。我只是展示自己的力量。它連接到這個交換機,這是世界上最先進的交換機之一。
現(xiàn)在這些部件加在一起構成了Blackwell,然后運行上面的軟件:cuda軟件、cuDNN軟件、用于訓練大型語言模型的Megatron、用于推理的TensorFlowRT、用于對大型語言模型進行分布式多GPU推理的TensorFlowRT、LLM。在此基礎上,我們有兩個軟件堆棧,一個是 Nvidia AI Enterprise,另一個是 Omniverse。我稍后會討論這兩個。這項工作非常嚴格,這就是 Blackwell 系統(tǒng),也是 NVIDIA 今天構建的。對于那些長期了解我們公司的人來說,這種變化確實令人驚訝。但事實上,我們是從基本原則出發(fā)來推理未來的計算將如何實現(xiàn),這就是 Blackwell 系統(tǒng)的由來。
Blackwell 系統(tǒng)非同尋常,其計算能力的確令人難以置信。每個機架重達 3,000 磅,功率 120 千瓦,每個機架 120,000 瓦,是全球計算密度最高的。我們正在努力學習更大、更智能的模型,這被稱為縮放定律。它基于經(jīng)驗觀察和測量,指出訓練大型語言模型的數(shù)據(jù)越多,相應的模型尺寸就越大,從中學習的信息量也就越多。因此,模型需要更多數(shù)據(jù)來滿足這些要求。每年我們都在雙倍增加數(shù)據(jù)量和模型大小,這意味著每年的計算量要增加四倍。
需要記住的是,以前摩爾定律是每一年半增加兩倍,現(xiàn)在我們正以每年四倍的速度推進技術發(fā)展,這在十年內(nèi)達成了驚人的擴展。我們發(fā)現(xiàn),隨著訓練規(guī)模的擴大,人工智能變得越來越智能。最近我們意識到的第二件重要的事情是,在完成模型訓練后,即使是使用如 ChatGPT 的工具中,也涉及到推理過程。
在使用 ChatGPT 時,你只是給出一個提示,而不是編寫程序來與計算機溝通。你與計算機對話,就像與人交談一樣,通過描述上下文和查詢內(nèi)容來得到所需的答案。人工智能通過一個大型神經(jīng)網(wǎng)絡處理信息,并逐字生成一系列答案。然而,從 Strawberry 開始,我們意識到智能不僅僅是一錘定音的事情,智能需要思考。思考涉及推理、路徑規(guī)劃和自我反思,以便產(chǎn)生更高質(zhì)量的答案。
我們現(xiàn)在發(fā)現(xiàn)了第二個縮放定律,即推理時的縮放定律。你思考的時間越長,得到的答案質(zhì)量就越高,這是一個非常直觀的理解。然而,也有例外。例如,如果你問我喜歡的印度食物,我會毫不猶豫地回答“雞肉布里亞尼”。這類問題不需要復雜的思考或推理。然而,有許多事情需要推理。
圖片
例如,從孟買到加利福尼亞的旅行計劃,如果需要欣賞沿途的四個城市,則需要復雜的考慮。在這次行程中,我清晨三點到達這里,途經(jīng)丹麥,再之前在佛羅里達的奧蘭多,而再往前是在加利福尼亞。這是兩天前的事,盡管我現(xiàn)在還在適應日期變化??傮w來說,旅程和住宿的各項選擇組合很多,需要慎重規(guī)劃,以獲得最佳行程。這就是思考、推理和規(guī)劃的作用所在,越是計算,提供的答案質(zhì)量越高。
因此,我們現(xiàn)在有兩條基本的擴展定律來推動技術發(fā)展:訓練和推理。在今年第四季度之前,我們將交付并發(fā)貨 Blackwell,需求極為高漲。自從 Hopper 成立以來,基礎模型制造商的數(shù)量已經(jīng)增加了一倍多。越來越多的公司意識到基礎智能對他們至關重要,因此必須構建基礎模型技術。此外,模型的規(guī)模增加了20、30、40倍,訓練這些模型所需的計算量也隨之增加。然而,多模態(tài)能力、強化學習能力和合成數(shù)據(jù)生成能力中使用的數(shù)據(jù)量確實增長了很多。這是一個原因,另一個原因是Blackwell用于快速生成Token。所有這些因素導致對Blackwell的需求非常高。
接下來,我們來討論如何利用這項技術。NVIDIA在印度的AI發(fā)展讓我想到一個有趣的標題:NVIDIA是印度的AI。除了字母V,我們可以用NVIDIA來構建這句話的其他部分,這真的很酷。謝謝。
關于1993年的故事,你們可能不知道。當時我們需要為公司起一個名字,最終選擇了Nvidia,因為我覺得它聽起來像一個神秘的地方。所以,如果真是這樣,印度和Nvidia都是聽起來很棒的地方。即使計算機圖形和加速計算不成功,我們幾乎可以做任何事。我很高興最后它成功了。
圖片
印度的Nvidia有一個非常豐富的生態(tài)系統(tǒng)。要在任何行業(yè)或國家建立人工智能生態(tài)系統(tǒng),首先需要建立基礎設施生態(tài)系統(tǒng)。我們宣布Yoda、E-2-E、Tata Communications和其他合作伙伴將與我們一起構建印度的基礎設施。今年年底,印度的計算能力將比一年前增長近20倍。建設AI生態(tài)系統(tǒng)的第一步是AI基礎設施,類似于互聯(lián)網(wǎng)生態(tài)系統(tǒng)建設中的網(wǎng)絡基礎設施,包括個人電腦、云和內(nèi)聯(lián)網(wǎng)。
在AI領域,建設始于AI計算基礎設施,然后是AI的操作系統(tǒng),即大型語言模型。我們與印度的合作伙伴一起建立了印地語大型語言模型。印度有25種正式語言,每1500公里就會有新的方言。因此,你不需要走太遠就可以訓練另一個模型。印度是世界上語言模型最難建立的地區(qū)之一。如果他們能做到,你也能做到。一旦印度成功創(chuàng)建印地語大型語言模型,其他國家也可以效仿。
接下來是應用層,與我們合作的AI本土公司正在創(chuàng)建只能通過AI實現(xiàn)的新應用。我們的服務伙伴,如WIPRO、InfoSys和TCS,正在與我們合作將AI模型和基礎設施推廣到全球企業(yè)?,F(xiàn)在,這是印度的Nvidia。我邀請Vishal與我一起上臺,因為我希望他能談談我們在印度合作的一些公司。
此外,我要介紹其他一些概念。之前提到過我們有Blackwell和各種庫,其中兩個非常重要的平臺是Nvidia AI Enterprise和Nvidia Omniverse。
Nvidia AI Enterprise是一個關于大型語言模型和基本AI功能的平臺。它們已經(jīng)發(fā)展到我們可以創(chuàng)建所謂的智能體的水平。大型語言模型可以理解和處理各種形式的數(shù)據(jù)。第一階段是感知,接著是推理:根據(jù)觀察,確定其任務并執(zhí)行。智能體將任務分解為不同步驟,連接其他AI模型以完成任務。這些模型有些擅長理解PDF,有些生成圖像,有些從專有數(shù)據(jù)庫中檢索信息。所有大型語言模型與中央推理大型語言模型(即智能體)相連。因此,這些代理能夠執(zhí)行各種任務。其中一些可能是營銷智能體,一些是客戶服務智能體,還有一些是芯片設計智能體。在我們公司,NVIDIA 的芯片設計智能體幫助我們設計芯片。也許他們是軟件工程智能體,可以進行營銷活動或供應鏈管理。因此,我們將有代理幫助員工成為超級員工。Agent 或 Agent AI 模型會增強員工的能力,使他們更為高效。
現(xiàn)在,當你想到這些智能體時,你會發(fā)現(xiàn),你將這些智能體引入公司的方式與新員工入職并沒有什么不同。你必須為他們提供訓練,進行微調(diào),教他們?nèi)绾问褂煤蛨?zhí)行技能,并理解公司的詞匯。你需要評估他們,確保他們是評估系統(tǒng)的一部分,并可能對他們進行保護措施。如果你是會計智能體,不要做營銷;如果你是營銷智能體,不要在季度末報告收益等。所以這些智能體中的每一個都是有保護的。
我們將整個過程放入智能體生命周期套件庫中,稱之為 Nemo。我們的合作伙伴正在與我們合作,并將這些庫集成到他們的平臺中,以便他們可以創(chuàng)建、加入、部署智能體,并將其改進為代理的生命周期。這就是我們所說的 Nvidia Nemo。一方面,我們有庫,另一方面,它的輸出是 API 推理微服務,我們稱之為 NIMS。本質(zhì)上,這是一個構建 AI 的工廠。Nemo 是一套庫,可以加入并幫助你操作 AI。最終,你的目標是創(chuàng)建大量智能體。
我們在印度有合作伙伴。米歇爾,請您向大家介紹一下我們這里的生態(tài)系統(tǒng)。
米歇爾:
當然,Jensen。當我站在后面時,讓我印象深刻的是一個詞,叫做神秘。這就是印度的神秘。Jensen恰好在 12 個月前來到這里,他問了我一個非常深刻的問題:印度豐富多彩,你將如何對其進行編碼?這一切都始于基礎設施。我們在短短 12 個月內(nèi)擁有了 Yota 的計算能力,它已經(jīng)建立了最先進的基礎設施,端到端的計算已經(jīng)存在,為我們提供了長期加速的計算基礎設施。所有這些計算幫助我們跨越式解決了印度最大的問題之一:溝通。
就像 Jensen 所提到的,我們說著很多語言。每 50 公里,我們就會改變方言。如果你來自南方,還會加入一點馬拉亞拉姆語。那么我們?nèi)绾尾拍苷嬲龅竭@一點?這是我們一些合作伙伴的工作。Servum 就是一個典型的例子。Servum 開始努力幫助印度交流,他們決定進行語音對語音。在進行語音對語音時,他們必須了解多模態(tài)語言是如何工作的,以及如何確保其發(fā)揮作用。這些工作很快就進行起來,因為我們有可用的基礎設施。
同樣,我們看到了 Bharat-GPT 的項目,這項工作主要在學術界完成。印度的學院一直有豐富的創(chuàng)意,每當他們想將一個想法轉(zhuǎn)化為研究,他們就需要基礎設施。今天,我們在 IIT 和其他組織所做的工作都是共同解決印度面臨的關鍵問題。我們不僅解決了語言問題,還很快意識到印度面臨著許多重大挑戰(zhàn),其中之一就是健康。這就是為什么我們有致力于健康的公司。sick tuple 和 cure.a.I 的診斷方法在幫助我們應對健康挑戰(zhàn)。
黃仁勛:
沒有人比米歇爾更愛印度。一個能言善辯且健康的印度人總是會帶來不同,
在這里,最重要的是需要整個合作伙伴生態(tài)系統(tǒng)來幫助世界應用人工智能,提高員工生產(chǎn)力。印度則專注于 IT、后臺、軟件運營、軟件交付和軟件生產(chǎn)。下一代 IT 將涉及人工智能的生產(chǎn)和交付。正如你所知,軟件交付、編碼和人工智能交付有著根本的不同,但更為重要和令人興奮。對于印度來說,這個行業(yè)能夠幫助全世界的每一家公司享受代理的好處,享受人工智能在不同功能中的好處,并能夠大規(guī)模部署它。我不知道還有誰能做到這一點。這是一個非凡的機會。我們的工作是幫助您構建和部署 AI,您的任務是利用這些庫和我們提供的功能,將其與您強大的 IT 軟件功能結合起來,以創(chuàng)建代理并幫助每家公司受益。這是第一部分。第二部分是代理之后的事情。記住,每家公司都有員工,但大多數(shù)公司的目標是要建造、生產(chǎn)或制造某樣東西。
人們制造的東西可能是工廠、倉庫、汽車、飛機、火車或輪船等各種東西。無論是計算機和服務器,可能是Nvidia制造的服務器,也可能是手機,大多數(shù)大型行業(yè)中的公司最終都會生產(chǎn)一些東西。有時是提供IT行業(yè)的服務,但您的許多客戶也是生產(chǎn)某些產(chǎn)品。下一代人工智能需要了解物理世界,我們稱之為物理人工智能。為了創(chuàng)建物理AI,我們需要三臺計算機,我們專門為此創(chuàng)建了三臺計算機。
例如,DGX計算機,如同這個AI Blackwell,是一種參考設計和架構,用于創(chuàng)建類似DGX的計算機以訓練模型。該模型需要一個地方改進、學習并應用其物理和機器人能力。我們稱這個地方為全宇宙,這是一個遵循物理定律的虛擬世界,機器人可以在這里學習成為機器人。完成訓練后,該AI模型可以在實際機器人系統(tǒng)中運行。這些機器人系統(tǒng)可以是汽車、機器人、自動移動機器人、采摘臂、整個工廠或整個倉庫的機器人。我們將該計算機稱為AGX。
Jetson、AGX、DGX用于訓練,而Omniverse用于數(shù)字孿生。在印度,我們擁有一個非常好的生態(tài)系統(tǒng)正在與我們合作,利用這種基礎設施和能力幫助全球構建物理AI系統(tǒng)。
米歇爾:
這是其中一個最大的機器人公司。他們不僅制造機器人,還將機器人放入數(shù)字孿生中進行優(yōu)化,并教授機器人所有來自物理世界的輸入。系統(tǒng)集成商不僅在將這些知識帶入印度,還將其帶出印度。做到從印度為全球做,從本地開始,發(fā)展全球。
黃仁勛:
謝謝米歇爾,我們制作了一個簡短的視頻來幫助您整理我剛才說的所有內(nèi)容。請播放它。
(視頻內(nèi)容):
60年來,軟件1.0是程序員編寫的代碼,在通用CPU上運行。然后,軟件2.0到來,即在GPU上運行的機器學習神經(jīng)網(wǎng)絡。這導致了生成式人工智能的爆炸,能夠?qū)W習和生成任何模型。如今,生成式人工智能正在徹底改變價值數(shù)萬億美元的行業(yè)。知識型企業(yè)使用生成式人工智能來實現(xiàn)數(shù)字化工作的自動化。大家好,我是數(shù)字人James。工業(yè)企業(yè)使用物理人工智能來自動化物理工作。物理人工智能包括像我這樣的機器人,安全行駛在現(xiàn)實世界中的自動駕駛汽車,執(zhí)行復雜工業(yè)任務的機械手以及與我們協(xié)同工作的人形機器人。
工廠將由能夠監(jiān)控和調(diào)整運營或與我們對話的物理AI來實現(xiàn)。NVIDIA制造了三臺計算機,使開發(fā)人員能夠創(chuàng)建物理人工智能。這些模型首先在DGX上進行訓練,然后在Omniverse中使用強化學習和物理反饋來微調(diào)和測試AI。訓練完成后,AI在Nvidia Jetson和AGX機器人計算機上運行。Nvidia Omniverse是一個基于物理的操作系統(tǒng),用于物理AI模擬。機器人在Isaac Lab(一個基于Omniverse構建的機器人健身房)中學習和微調(diào)技能。這僅僅是機器人。未來的工廠將協(xié)調(diào)機器人團隊,并通過數(shù)千個傳感器監(jiān)控整個操作。
對于工廠數(shù)字孿生,他們使用名為Mega的Omniverse藍圖。憑借Mega,工廠數(shù)字孿生充滿了虛擬機器人及其AI模型,即機器人的大腦。機器人通過感知周圍環(huán)境、推理、規(guī)劃下一步動作并最終將其轉(zhuǎn)化為動作來執(zhí)行任務。這些動作由Omniverse中的世界模擬器在環(huán)境中模擬,結果通過Omniverse傳感器模擬被機器人大腦感知?;趥鞲衅髂M,機器人大腦能夠決定下一步動作,并不斷循環(huán)。同時,Mega精確跟蹤工廠數(shù)字孿生中所有事物的狀態(tài)和位置。這個軟件在環(huán)測試將軟件定義的流程帶入物理空間和實施,讓工業(yè)企業(yè)在部署到物理世界之前,在全球數(shù)字孿生中模擬和驗證變化,從而節(jié)省大量風險和成本。物理人工智能時代已經(jīng)到來,正在改變世界的重工業(yè)和機器人技術。
黃仁勛:
在我講完之前,我想向大家介紹今天遇到的一個人,他在觀眾中是一位超級明星。我想大家都對他和他的技術及人工智能興趣滿滿。阿克謝·庫瑪爾!
阿克謝和我有很多共同點。例如,我們倆都在各自的領域工作了超過三十年。不過,我們中的一個是武術家,而另一個有8000萬粉絲。
阿克謝:
大家好,我曾請求不要稱呼我為第一名。我記得我認識一位超級巨星,他就是我的岳父Rajeshkenna先生。他總是堅決要求我不這樣稱呼自己。
黃仁勛:
這并不是因為他謙虛,但我們都能同意他確實是個超級明星。
我們大概在同一時間開始了我們的職業(yè)生涯,你已經(jīng)取得了成就,達到了我仍在努力的藝術水平 。我們兩個都是從29歲開始的,我們的共同點不止于此。
阿克謝:
我在泰國的曼谷長大,會說泰語。那是對我而言比較便宜且我父母能負擔得起的地方。我希望學習,而今天的武術也幫助了我。
我開始時是一名特技演員,后來成為了一名演員。
黃仁勛:
你能告訴我,我們兩個人都做了大約30年的同一份工作。我們在不斷努力提高我們藝技。回顧你的職業(yè)生涯,你認為哪些事情是對你當今成就的關鍵?
阿克謝:
我認為最重要的一點就是自律。自律在我這個行業(yè)的34年中始終幫助著我。這份工作給了我很多,而自律是我取得今天成就的關鍵所在。因此,自律是最重要的。當然,我一直相信并告訴大家做出自己的選擇。比如,小孩子們開始練習武術,這是約束他們的最佳方式之一,同時也非常重要。
黃仁勛:
你知道的,我的兩個孩子都是二級黑帶。這是一件太棒的事情,因為它能讓他們有擅長的事情,他們可以為之自豪。武術不僅教會你紀律,還能讓你培養(yǎng)謙遜的品質(zhì)。
我想說,我們都是武術家...當你看到一個61歲的人保持得如此出色,你是不是很驚訝?而人工智能也顯示出我們對這份工作的熱愛與投入。很多時候,他七歲就開始拍電影,而我29歲才開始。
阿克謝:
雖然印度電影業(yè)很少有關于人工智能的電影...
黃仁勛:
但阿克謝告訴我,他最近的一部電影是關于超級警察的,現(xiàn)在就要發(fā)布了,這件事暫時保密。他告訴我的事情是秘密的,但我承認自己非常擅長保守秘密(笑)。
阿克謝:
我想知道,人工智能無法從人類那里復制的能力是什么?有哪些事情是人類可以做到的,而人工智能卻無法做到的?
黃仁勛:
這是一個非常好的問題,其實可能是當前最重要的問題。人工智能可以執(zhí)行哪些任務呢?
實際上,人工智能并不能完成我們所有的工作。但在某些情況下,它可以完成我們20%的工作,并且在某些方面比我們做得好一千倍。對于某些任務,它甚至可能完成50%的工作,仍然遠勝于人類。然而,在任何職業(yè)領域,人工智能都不能全面取代人類的所有工作。
因此,每個人都應該利用人工智能來自動化一部分工作,將其作為助手來完成20%、40%或50%的任務。有時有人問我,人工智能會搶走我們的工作嗎?我告訴他們,不是人工智能本身,而是那些使用人工智能來自動化工作的人會搶走工作的機會。
因此,我們現(xiàn)在最重要的任務是開發(fā)出安全可靠的人工智能。通過良好的工程學科、工程流程和技術,我們可以構建出這樣的人工智能,就像建造安全飛機一樣,具備多樣性和冗余性,以確保其安全性。這種理念同樣適用于人工智能。
我希望從長遠來看,每個人都能擁有屬于自己的人工智能助手,它們能夠提醒我們事情、幫助我們。這樣會讓世界更安全,更美好。
阿克謝:
它不會像好萊塢電影中那樣人工智能接管人類。
黃仁勛:
我們的目標是讓人工智能造福社會,并確保其安全使用。
雖然總會有人嘗試以不好的方式使用技術,但我們有責任推進技術的發(fā)展,以便更好地保障社會的安全和福祉。技術既可以被善用,也可以被濫用,而我們必須用技術來保護社會的安全。
阿克謝:
最后,你昨晚睡了多久?
黃仁勛:
我3點入睡,大概6點半就起床了,所以今天只睡了3.5個小時,但我完全沒問題。非常感謝你,庫馬爾,現(xiàn)在讓我總結一下人工智能的話題。
我之前提到過,通過重新發(fā)明整個計算堆棧,從編碼到機器學習,從在CPU上運行代碼到在GPU上運行神經(jīng)網(wǎng)絡,我們正在開發(fā)人工智能。我們設想了兩種最通用的人工智能:一個是幫助我們提高工作效率的智能體,另一個是代理的物理版本——機器人。這些技術已經(jīng)可以實現(xiàn)。NVIDIA的工作是開發(fā)技術來幫助你構建和部署AI。
當我們大規(guī)模應用這些技術時,會如何影響未來?記住,印度曾是一個主要生產(chǎn)軟件的國家,未來將出口人工智能。為了創(chuàng)造和生產(chǎn)人工智能,你需要一臺機器,這些機器會消耗能量并轉(zhuǎn)化為稱為Token的浮點數(shù),這些數(shù)值構成人工智能形式,成為我們所知的最有價值的商品之一。因此,未來將會出現(xiàn)一個新的行業(yè),這個行業(yè)就是智能生產(chǎn),是大規(guī)模的智能生產(chǎn)。這也是我說有一場新工業(yè)革命的原因。一個單一的工廠概念,可以運行所有不同的流程和數(shù)據(jù),創(chuàng)建模型,為各種行業(yè)大規(guī)模生成和生產(chǎn)智能和Token。這就是我們現(xiàn)在看到的正在發(fā)生的事情。因此,我希望與大家合作,使印度成為這場新工業(yè)革命的中心。
現(xiàn)在,為了與你們進一步討論這個問題以及它如何適用于印度,我邀請到了另一位特別嘉賓,一位業(yè)界的先驅(qū)??梢哉f,他幫助印度實現(xiàn)了數(shù)字化,并構建了現(xiàn)代印度互聯(lián)網(wǎng)的結構。女士們,先生們,請歡迎穆克什·安巴尼。
圖片
我的朋友,穆克什,你好嗎?
穆克什:
非常好,很高興見到你。請坐。我們今天早上一直在談論人工智能。上次你和我在一起時,我們談論的也是人工智能,再之前一次也是如此?,F(xiàn)在你可以看到,除了人工智能,我們真的沒有什么可談論的。穆克什,沒有人比他為幫助印度成為高科技和深科技國家做出更大貢獻的了。
黃仁勛:
現(xiàn)在,你正處于這段旅程的開始階段,有遠大的抱負。我知道你有強烈的愿望幫助印度成為深度科技產(chǎn)業(yè)。那么是什么讓你有這樣的信念?為什么人工智能是印度的重要時刻?
穆克什:
所以,Jensen,首先請允許我歡迎你來到我們的城市孟買。我們現(xiàn)在所在的地方是地理世界中心,這個地方是我妻子建造的,所以如果我不提的話,我可是會有麻煩的。
黃仁勛:
我在她家,她的房子比你的還大。從穆克什的房子里,我甚至可以看到我在加利福尼亞的房子。
穆克什:
在聽你說話的時候,你提到NVIDIA是一個充滿異國情調(diào)的地方。在印度,我必須告訴你NVDA對我意味著什么,這是一個非常重要的詞匯鏈接,即Vidya。在印地語中,Vidya的意思是知識。
黃仁勛:
我知道我給公司取了個好名字!每個人都說,NVIDIA,這個名字不太好,但我堅持了下來。
穆克什:
所以你可以為這個翻譯承擔責任。情況還在好轉(zhuǎn),Jensen。Vidya是薩拉斯瓦蒂,知識女神。在我們的傳統(tǒng)中,當你真誠地追求知識女神時,繁榮女神拉克希米就會隨之而來。
黃仁旭:
32年前,我就知道了這一點!所以NVIDIA的故事也向你們揭曉了。
穆克什:
我們的第一原則就是推動知識革命轉(zhuǎn)變?yōu)閲H智能革命,這將促進全球80億人的繁榮。我認為我們即將迎來新的智能時代。我為能成為你的朋友而感到自豪,歡迎來到印度,感謝你為世界帶來智能時代做出的貢獻。
在我們的有生之年,希望與大家一起,這可以為全世界80億人,特別是印度15億人帶來更多的繁榮。
黃仁勛:
能夠以這種方式做出貢獻,我感到非常榮幸和高興。正如你所知,印度的IT行業(yè)以其規(guī)模和在計算機科學方面的深厚專業(yè)知識而聞名。世界上很少有國家擁有這種自然資源,即IT和計算機科學的專長。在過去的幾年里,我們一直致力于技能提升,現(xiàn)在我們已經(jīng)將約20萬名IT專業(yè)人員的技能提升到人工智能領域。
我們必須一起尋找方法,以幫助印度以光速轉(zhuǎn)型。因為發(fā)展如此迅速,印度正在變成一個不僅僅是IT中心,更是AI中心。
穆克什:
從我的角度來看,Jensen,讓我告訴你我在印度的經(jīng)歷。首先,正如我們的總理所說,這是一個新的、有抱負的印度。今天,我們是世界上唯一一個擁有14億人口且平均年齡低于35歲的國家。因此,推動我們經(jīng)濟發(fā)展的不僅是人工智能等新技術,還有我們的雄心。我相信你認識總理,我認為他在將印度轉(zhuǎn)變?yōu)橐涣鲾?shù)字社會方面的領導作用至關重要,他繼續(xù)推動基層的發(fā)展。因此,這是人口紅利和領導力的結合。
第三個因素是我們印度人擁有的原始人才。你提到將20萬人轉(zhuǎn)變?yōu)檫@個行業(yè),但我相信有數(shù)百萬人。如果我們放眼現(xiàn)在,印度已經(jīng)成了全球各大公司的增長最快的領域,是全球的能力中心。我們在印度進行空間研究和藥物研究,我相信量子技術和芯片制造也正在印度開展。我們在自己的能源行業(yè),以及生物能源行業(yè),所有能源巨頭如shell、BP實際上都在印度進行創(chuàng)新。因此,就我們所處的位置而言,印度正迅速成為世界的創(chuàng)新中心,而不僅僅是制造業(yè)中心。
黃仁勛:
在印度,我們有超過10,000名工程師。
穆克什:
這就是我們的挑戰(zhàn)。同時,我們擁有必要的基礎設施。我們很幸運,擁有相當于道路的連接基礎設施。沒有道路,就無法到達目的地。因此,我相信今天,除了美國和中國,印度擁有世界上最好的數(shù)字連接基礎設施,包括4G、5G和寬帶。
當人們談論Geo時,我們說Geo讓印度在八年內(nèi)從世界第158位躍升至第一。作為一家公司,我們曾對這個領域一無所知,但今天我們是世界上最大的數(shù)據(jù)公司,數(shù)據(jù)總量相當于AT&T、NTT、Mobile和Verizon的總和。本地市場的規(guī)模是一個巨大的優(yōu)勢。擁有15億客戶是非常令人滿意的。作為Geo,我們今年交付了大約16艾字節(jié)的數(shù)據(jù)。在美國,平均每GB收費5美元,全球數(shù)據(jù)的平均價格約為每GB 3.5美元。而在印度,Geo以每GB 15美分的價格提供數(shù)據(jù)。我們鼓勵客戶更多使用手機。
這項技術每年為印度人帶來5000億至7000億美元的用戶價值,年復一年。這是科技給印度人民的禮物。通過這項技術,我們能夠為所有人帶來繁榮和公平的機會。我相信印度將成為最大智能市場之一,這不僅源于我們的愿望,也因為印度獨有的原始基因庫和年輕力量。這將在推動智能發(fā)展的進程中起到關鍵作用。一旦我們推動了國內(nèi)市場的智能化,就可以通過軟件向世界其他地區(qū)提供智能服務。
印度不僅會繼續(xù)向全球輸出首席執(zhí)行官,還會出口數(shù)億人的人工智能服務,幫助世界變得更美好。這就是你來這里的原因,感謝你們對這個國家的承諾,共同努力對于迎接智能時代至關重要。沒有任何一家公司或個人可以獨自完成,我們必須共同努力,創(chuàng)建一個更加平等和繁榮的世界,讓全球南方趕上其他地區(qū)。
黃仁勛:
你們強調(diào)了印度擁有的海量數(shù)字數(shù)據(jù),Geo在這一方面做得特別出色。這引出了我想宣布的一件事。為了在人工智能領域領先,你必須擁有印度現(xiàn)有的人工智能模型技術,需要大量的數(shù)據(jù)以及人工智能基礎設施。我們宣布,Reliance和NVIDIA正在合作在印度建設人工智能基礎設施。
印度的一大優(yōu)勢是其龐大的用戶群體,這為打造人工智能飛輪提供了基礎。因此,現(xiàn)在我們擁有人工智能數(shù)據(jù)、人工智能基礎設施和龐大的用戶群體,可以最終形成自己的人工智能飛輪。我真正喜歡的是,當我見到莫迪時,他第一次邀請我與他的內(nèi)閣會面。這大概是六年前的事了,他請我向他的內(nèi)閣發(fā)表關于人工智能的演講。這是我第一次應國家領導人的邀請,就這個特定話題發(fā)表演講。那時人們還沒有廣泛討論人工智能。
我最后一次拜訪他時,他對我說了一句非常深刻的話。我向他解釋了人工智能基礎設施的重要性,強調(diào)每個國家都應該像擁有自己的通信、互聯(lián)網(wǎng)、道路和能源基礎設施一樣,擁有自己的人工智能基礎設施,包括智能制造。他說,印度應該制造自己的人工智能,不能外包,也不應出口數(shù)據(jù)以獲得智能。他比喻道,這就像印度不應該只出口面粉再進口面包,我們應該自己為數(shù)據(jù)增值。我們的合作正是為了開始構建這些基礎設施,使印度能夠擁有自己的技術體系。印度有足夠的計算機科學專業(yè)知識和龐大的用戶群來驅(qū)動這一飛輪。
莫迪當時受到了啟發(fā),并指出人工智能有能力提升整個印度的人口。他提到,全球懂得編程的人非常少,而編程并不簡單。盡管印度是全球程序員最多的國家,但大多數(shù)人并不會編寫常見編程語言的程序。然而,智能程序的編寫是每個人都可以嘗試的。如果人工智能能普及到每個公民,將賦予他們巨大的能力。這種技術能夠造福社會的每一個人。
穆克什:
我認為我們非常幸運能有這樣一位有遠見又有執(zhí)行力的領導者。我期待著與Jensen的合作,就像你從第一原則開始一樣,我也希望采用最好的技術?,F(xiàn)在,你們的 GB 200 無疑是最好的技術,我期待著印度能夠借此實現(xiàn)技術飛躍。我們在賈姆訥格爾已經(jīng)準備好大規(guī)模擴張,建設基礎設施,目標是一千兆瓦的綠色能源設施,不依賴他人供電,以擴大規(guī)模和技術能力。
對印度和印度人來說,重復一個地理位置,讓智能真正物美價廉,讓普通人能夠享用非常重要。我們必須設計和構建基礎設施,使客戶無需更換手機或電腦就能獲得高質(zhì)量的人工智能,由我們來整合這些基礎設施。我認為,我們與您的合作會實現(xiàn)這一目標。
最重要的是,我非常尊重我的朋友馬克·扎克伯格,他通過開源為每個人參與這場革命創(chuàng)造了機會。Llama 3 激活了全球每家公司和行業(yè),讓我們得以在這一基礎上繼續(xù)發(fā)展。馬克的這一舉動將被載入史冊,因為開源推動了許多偉大的事物。Linux 是開源的,我們可以將 Llama 作為基礎模型進行開發(fā),再進行微調(diào)、訓練等。我相信在座的年輕人,未來將創(chuàng)造出一個印度模式,可能比 Llama 強大十倍。希望我們的年輕人能夠?qū)崿F(xiàn)這一目標,開源是一個很好的起點。最重要的是,所有的工具都在我們的手中。我們擁有的代工廠工具,期待著建立一個開發(fā)中心,利用你們的四種工具,訓練印度數(shù)十萬名開發(fā)人員熟練掌握所有企業(yè)工具和全能工具。這樣,我們可以以實際應用的方式運用智能。對我而言,這只是智能時代的開始,一個歷時數(shù)十年的進程。
黃仁勛:
(對觀眾)你們可以聽他說,他聽上去就像一位28歲的工程師。你們覺得呢?
穆克什:
我喜歡。這就是它精彩的原因,也是我們要一起實現(xiàn)的目標。這是真的。我可以向你們保證,就像我們在數(shù)據(jù)領域所取得的成就一樣,幾年后,我們會讓世界驚嘆于印度及印度人在智能市場上的成就。謝謝。
黃仁勛:
Mikesh,它會實現(xiàn)的,我們當然同意,這是一個非凡的時代,也是印度的非凡機遇。印度擁有龐大的人口和計算機科學家資源。在計算行業(yè)即將成為智能行業(yè)的時刻,要充分利用你們所擁有和所知的一切,以及龐大的數(shù)據(jù)資源和大量消費者,實現(xiàn)智能到數(shù)據(jù)、數(shù)據(jù)到智能的循環(huán),并借助國家獲取數(shù)據(jù)的意愿,去實現(xiàn)一些目標。
這是一個非常特殊的時期,我很榮幸與你們合作完成這項工作。讓我們今天承諾,共同努力,使印度能夠充分利用這場智能革命。非常感謝各位女士們、先生們。
穆克什:
謝謝。此外,Jensen,我的朋友,你來這里的時候,距離排燈節(jié)只有幾天了。排燈節(jié)是我們的新年,是我們崇拜繁榮女神的日子。因此,我代表我們大家向你表示感謝,祝大家新年快樂,排燈節(jié)快樂。
黃仁勛:
祝大家排燈節(jié)快樂!
本文轉(zhuǎn)載自??51CTO技術棧??
