ChatGPT在手，有問必答。

你可知，與它每次對(duì)話的計(jì)算成本簡(jiǎn)直讓人淚目。

此前，分析師稱ChatGPT回復(fù)一次，需要2美分。

要知道，人工智能聊天機(jī)器人所需的算力背后燒的可是GPU。

這恰恰讓像英偉達(dá)這樣的芯片公司豪賺了一把。

2月23日，英偉達(dá)股價(jià)飆升，使其市值增加了700多億美元，總市值超5800億美元，大約是英特爾的5倍。

在英偉達(dá)之外，AMD可以稱得上是圖形處理器行業(yè)的第二大廠商，市場(chǎng)份額約為20%。

而英特爾持有不到1%的市場(chǎng)份額。

ChatGPT在跑，英偉達(dá)在賺

隨著ChatGPT解鎖潛在的應(yīng)用案例，這可能迎來人工智能應(yīng)用的另一個(gè)拐點(diǎn)。

為什么這么說？

谷歌母公司Alphabet董事長(zhǎng)John Hennessy在接受路透的采訪時(shí)表示，大型語言模型等人工智能的對(duì)話成本可能是傳統(tǒng)搜索引擎的10倍以上。

Morgan Stanley分析表示，谷歌去年共計(jì)3.3萬億次搜索，每次搜索的成本僅為0.2美分。

據(jù)估計(jì)，若將谷歌旗下聊天機(jī)器人Bard引入搜索引擎，并用其處理谷歌一半的搜索和提問，按照每次答案50詞計(jì)算，公司在2024年的成本可能會(huì)增加60億美元。

同樣，專注于芯片技術(shù)的咨詢公司SemiAnalysis稱，受到谷歌內(nèi)部芯片Tensor Processing Units等的影響，將聊天機(jī)器人添加至搜索引擎中，可能會(huì)讓谷歌額外花費(fèi)30億美元。

他認(rèn)為谷歌必須降低此類人工智能的運(yùn)營成本，但這一過程并不容易，最壞的情況也得需要幾年時(shí)間。

正是如此，通過AI語言模型進(jìn)行搜索比傳統(tǒng)搜索需要消耗更多的算力。

分析師表示，未來幾年的額外成本可能高達(dá)數(shù)十億美元。

Gartner預(yù)計(jì)，到2026年，用于數(shù)據(jù)中心的GPU等專業(yè)芯片的份額預(yù)計(jì)將從2020年的不到3%上升15%以上。

雖然很難確切地指出如今人工智能在英偉達(dá)收入中所占的比例有多大，但隨著大型科技公司競(jìng)相開發(fā)類似的AI應(yīng)用程序，人工智能有成倍增長(zhǎng)的潛力。

周三，英偉達(dá)還宣布了人工智能云服務(wù)，并致力于甲骨文、微軟和谷歌合作，為其提供使用Nvidia GTX，通過簡(jiǎn)單的瀏覽器訪問進(jìn)行人工智能處理的能力。

這個(gè)新平臺(tái)將由其他云服務(wù)商提供，將幫助那些不具備構(gòu)建自己的基礎(chǔ)設(shè)施的技術(shù)公司。

黃仁勛稱，「人們對(duì)ChatGPT的熱情讓商界領(lǐng)袖們看到了人工智能的力量。但是現(xiàn)在，它主要是一個(gè)通用軟件。其真正價(jià)值的實(shí)現(xiàn)，還需要根據(jù)公司自身的需求量身定做，這樣就可以改進(jìn)自家的服務(wù)和產(chǎn)品?！?/span>

英偉達(dá)奪GPU市場(chǎng)霸主

New Street Research稱，英偉達(dá)占據(jù)了95%圖形處理器的市場(chǎng)份額。

在費(fèi)城證券交易所半導(dǎo)體指數(shù)中，英偉達(dá)股今年已經(jīng)上漲42%，表現(xiàn)最好。

投資者紛紛投向英偉達(dá)，押注在對(duì)ChatGPT等人工智能系統(tǒng)的需求將推高該公司產(chǎn)品的訂單，使其再次成為全球市值最高的芯片制造商。

一直以來，不管是成為頂流的ChatGPT，還是Bard、Stable Diffusion等模型，背后都是由一個(gè)大約價(jià)值1萬美元的芯片Nvidia A100提供算力。

英偉達(dá)A100能夠同時(shí)進(jìn)行許多簡(jiǎn)單的計(jì)算，對(duì)訓(xùn)練和使用神經(jīng)網(wǎng)絡(luò)模型非常重要。

A100背后的技術(shù)最初用在游戲中渲染復(fù)雜的3D圖形。而現(xiàn)在，其目標(biāo)是處理機(jī)器學(xué)習(xí)任務(wù)和在數(shù)據(jù)中心運(yùn)行。

投資者Nathan Benaich表示，A100目前已成為人工智能專業(yè)人士的「主力」。他的報(bào)告還列出了使用 A100超級(jí)計(jì)算機(jī)部分公司的名單。

機(jī)器學(xué)習(xí)任務(wù)可能會(huì)占用整臺(tái)計(jì)算機(jī)的處理能力，有時(shí)會(huì)持續(xù)數(shù)小時(shí)或數(shù)天。

這意味著，那些擁有一款暢銷AI產(chǎn)品的公司往往需要購買更多的GPU來應(yīng)對(duì)訪問高峰期，或改進(jìn)其模型。

除了卡上可以插入現(xiàn)有服務(wù)器的單個(gè)A100之外，許多數(shù)據(jù)中心還使用一個(gè)包含8個(gè)A100圖形處理器的系統(tǒng)。

這個(gè)系統(tǒng)，便是Nvidia DGX A100，單套系統(tǒng)售價(jià)高達(dá)20萬美元。

英偉達(dá)周三表示，將直接出售DGX系統(tǒng)的云訪問權(quán)限，這可能會(huì)降低研究人員的入門成本。

那么運(yùn)行新版必應(yīng)需要付出怎樣的成本？

New Street Research的一項(xiàng)評(píng)估發(fā)現(xiàn)，必應(yīng)搜索中基于OpenAI的ChatGPT模型可能需要8個(gè)GPU才能在不到一秒鐘的時(shí)間內(nèi)給出一個(gè)問題的答案。

按照這個(gè)速度，微軟需要超過2萬臺(tái)8個(gè)GPU服務(wù)器才能將這個(gè)模型部署到每個(gè)人手中。

那么微軟可能會(huì)花費(fèi)40億美元的基礎(chǔ)設(shè)施開支。

這僅是微軟，如果想要達(dá)到谷歌每日查詢規(guī)模，即每天提供80億-90億個(gè)查詢，就需要花費(fèi)800億美元。

再比如，最新版本的Stable Diffusion，在256個(gè)A100圖形處理器，或32臺(tái)DGX A100進(jìn)行計(jì)算200,000小時(shí)。

Stability AI的首席執(zhí)行官M(fèi)ostaque表示，按照市場(chǎng)價(jià)格計(jì)算，僅訓(xùn)練該模型就需要花費(fèi)60萬美元。與競(jìng)爭(zhēng)對(duì)手相比，這個(gè)價(jià)格非常便宜。這還不包括推斷或部署模型的成本。

黃仁勛在接受采訪時(shí)表示，

就這類模型所需的計(jì)算量而言，Stability AI的產(chǎn)品實(shí)際上并不昂貴。

我們采用了原本需要10億美元才能運(yùn)行CPU的數(shù)據(jù)中心，然后將其縮小為1億美元的數(shù)據(jù)中心?，F(xiàn)在，這1億美元數(shù)據(jù)中心放在云端由100家公司共同分擔(dān)，都不算什么。

英偉達(dá)GPU可以讓初創(chuàng)企業(yè)以較成本訓(xùn)練模型?，F(xiàn)在你可以構(gòu)建一個(gè)大型語言模型，比如GPT，大概需要1000萬到2000萬美元。這真的，真的很實(shí)惠。

2022人工智能現(xiàn)狀報(bào)告稱，截至2022年12月，超過2.1萬份開源AI論文使用了英偉達(dá)芯片。

國家人工智能計(jì)算指數(shù) (State of AI Compute Index) 中的大多數(shù)研究人員使用的是2017年推出的英偉達(dá)芯片V100，但A100在2022年快速增長(zhǎng)，成為使用頻率排在第三的芯片。

A100最激烈的競(jìng)爭(zhēng)可能是它的繼任者H100，2022年推出并已開始量產(chǎn)。事實(shí)上，英偉達(dá)周三表示，在截至1月份的季度，H100的收入超過了A100。

目前來看，英偉達(dá)正在乘坐著AI的快車向「錢」沖刺了。