馬斯克跟甲骨文談崩了,百億大訂單泡湯!馬斯克欲買30萬臺B200,嫌棄甲骨文速度太慢!對方:根本沒那么多電 原創(chuàng)
編輯 | 伊風(fēng)
馬斯克和甲骨文公司(Oracle)有個百億的大訂單談崩了!雙方互相甩鍋了一波。
馬斯克嫌棄甲骨文速度太慢,認(rèn)為對方?jīng)]有以可行的速度構(gòu)建計算集群。
而甲骨文則覺得 xAI 選的建超級計算機(jī)的地方跟本供不上這么多電!
隨著百億訂單的談判破裂, xAI 和甲骨文停止了討論擴(kuò)大現(xiàn)有合作的可能性,只保留了當(dāng)前合約的安排——xAI 將繼續(xù)租用從甲骨文提供的約 16,000 顆 Nvidia 芯片。
xAI目前正在田納西州孟菲斯市建設(shè)自己的人工智能數(shù)據(jù)中心。而與甲骨文的合作破裂意味著xAI要自己動手單干,通過10w Nvidia 的 H100 圖形處理單元構(gòu)建獨立的算力中心,以擺脫甲骨文等云提供商能力的限制。
不過,以AI迅猛的發(fā)展勢頭來看,xAI的10萬臺H100只是打底。
回想上個月,X平臺網(wǎng)友發(fā)起的一條討論:哪家AI公司最快建成百萬臺H100的算力集群?
馬斯克旗下的xAI高票當(dāng)選。
他回復(fù)道,由于技術(shù)進(jìn)步飛速,不值得為H100浪費這么多電。
他已經(jīng)計劃在明年配置上30萬臺B200,同時使用先進(jìn)的CX8高速網(wǎng)絡(luò)互連技術(shù)。
圖片
Nvidia表示,訓(xùn)練一個1.8萬億個參數(shù)的人工智能模型大約需要2000個Blackwell GPU(據(jù)說,這是 OpenAI 的 GPT-4 的估計大?。O啾戎?,執(zhí)行同樣的任務(wù)需要8000個Hopper GPU。
根據(jù)Nvidia的數(shù)據(jù)推算,馬斯克對明年的算力規(guī)劃,相當(dāng)于配齊120萬臺H100。
1.甲骨文名副其實“AI軍火商”剛與微軟達(dá)成50億大單!10萬顆英偉達(dá)GB200
同樣愿意為算力豪擲千金的還有微軟。
根據(jù)The Information的報道,甲骨文與微軟的交易已經(jīng)簽署了協(xié)議,將為合作伙伴OpenAI 提供 Nvidia 驅(qū)動的服務(wù)器。
據(jù)兩位知情人士透露,甲骨文與微軟的交易涉及一個由10萬顆Nvidia即將推出的GB200芯片組成的集群。
這同樣是一筆天價訂單,據(jù)熟悉GPU云定價的人士稱,假設(shè)兩家公司簽署了一份多年期協(xié)議,租用這樣一個集群的成本可能會在兩年內(nèi)達(dá)到50億美元左右。
2.黃仁勛的遠(yuǎn)慮:云服務(wù)商追不上英偉達(dá)的腳步
不止是馬斯克一個人在憂慮云服務(wù)商的效率。更加焦慮的還有黃仁勛。
今年,英偉達(dá)的市值一路飆至登頂。
但老黃始終在擔(dān)心云服務(wù)提供商的速度掉隊問題。他懷疑,公司的主要客戶,尤其是亞馬遜、微軟等,是否在以足夠的速度擴(kuò)建數(shù)據(jù)中心和電力中心,以容納向英偉達(dá)訂購的人工智能服務(wù)器芯片。
去年圣誕節(jié)期間,黃仁勛特意召集高層管理人員開會討論這個問題,因為他擔(dān)心主要客戶的數(shù)據(jù)中心容量不足將影響英偉達(dá)的銷售額。
在討論之后,英偉達(dá)決定大力“雞”服務(wù)商——整個管理層加強(qiáng)了對云提供商的詢問,要求他們澄清處理訂購的 GPU 的能力和能源供應(yīng)情況。
3.有算力沒電力的尷尬
AI或許能做很多令我們驚嘆的事情。但一個不容忽視的事實是,目前為止碳基生命比硅基生命要節(jié)能得多。
據(jù)報道,谷歌自 2019 年以來,排放量增加了 48%。而碳排放的瘋狂上漲,很大程度上是因為人工智能的訓(xùn)練和使用。
人工智能對電力的需求已成為一個令人擔(dān)憂的問題。
今年 1 月,國際能源機(jī)構(gòu)估計,到 2026 年,全球數(shù)據(jù)中心的能耗將翻一番。同時,高盛公司 2024 年 4 月的一份分析報告預(yù)測,到本十年末,全球數(shù)據(jù)中心用電量將增加 1.8 倍至 3.4 倍。
不過,也有人對這種預(yù)測提出了質(zhì)疑。今年二月,美國智庫信息技術(shù)與創(chuàng)新基金會的數(shù)據(jù)創(chuàng)新中心(CDI),認(rèn)為人們過分夸大了人工智能的長期排放影響。該組織認(rèn)為,過去曾試圖準(zhǔn)確預(yù)測新興技術(shù)的能源需求,但都以失敗告終——許多預(yù)測都沒有考慮硬件和軟件在未來的改進(jìn)。
參考鏈接:
1.https://www.theinformation.com/articles/musks-xai-and-oracle-end-talks-on-a-server-deal?utm_campaign=article_email&utm_cnotallow=article-13188&utm_medium=email&utm_source=sg
2.https://www.theinformation.com/articles/nvidias-jensen-huang-is-on-top-of-the-world-so-why-is-he-worried
本文轉(zhuǎn)載自??51CTO技術(shù)棧??,作者:伊風(fēng)
