8分鐘,Grok 3破解美國本科生最難數(shù)賽題!馬斯克要用100萬GPU反超「星際之門」?
上周,馬斯克發(fā)布了其號稱「地表最強(qiáng)」的Grok 3模型。
一經(jīng)發(fā)布便引爆全網(wǎng),經(jīng)過網(wǎng)友實(shí)測,發(fā)現(xiàn)其性能果然強(qiáng)悍!
物理學(xué)家Luis Batalha在x上表示,2025年的普特南競賽上,即使是前500名的頂尖選手,也無人能完整攻克下面這道難題。而Grok 3(Think)僅用了約8分鐘就找到了答案。
不只是解數(shù)學(xué)題,計算機(jī)博士Alvaro Cintas稱Grok 3是一款令人難以置信的AI編碼助手。
他在只用了幾個小時,就用Grok 3寫了超過1000行代碼,做出了一個功能齊全的2D垂直跳躍游戲。
該游戲擁有不同的英雄、怪物、平臺、難度和生命。以下是他的提示和游戲畫面,可以看出游戲制作得非常精美!
的確,由于Grok 3性能過于強(qiáng)悍,大量用戶正在拋棄ChatGPT并轉(zhuǎn)投Grok 3。
網(wǎng)友調(diào)侃說,他妻子嫉妒Grok 3,因?yàn)樗鶪rok 3說的話比跟他妻子還多。
23號,知名AI投資人The AI Investor在x上預(yù)測,幾天后,馬斯克會發(fā)布一些關(guān)于Grok 3使用量的統(tǒng)計數(shù)據(jù)。
由于用戶的瘋狂涌入,馬斯克很可能得出結(jié)論,現(xiàn)在的20萬個GPU集群遠(yuǎn)遠(yuǎn)不能滿足需求。
也許xAI的百萬級GPU集群正在形成中。
在發(fā)布Grok 3時,馬斯克闡述了xAI在將其大規(guī)模GPU集群(包含20萬個英偉達(dá)GPU)進(jìn)行擴(kuò)容時所遇到的工程難題。并表示他們計劃將該集群擴(kuò)容至100萬個GPU的規(guī)模。
對此消息,網(wǎng)友紛紛表示「利好英偉達(dá)」。
甚至有網(wǎng)友認(rèn)為,xAI的數(shù)據(jù)中心規(guī)模將會大于Stargate項(xiàng)目所宣稱的。
超越「星際之門計劃」?
就在上個月,特朗普剛剛正式官宣「星際之門計劃」,號稱要在未來4年內(nèi)砸5000億美金,重塑美國在AI界領(lǐng)導(dǎo)地位。
這項(xiàng)計劃將由OpenAI、軟銀、甲骨文牽頭,首期先部署1000億美元。紐約時報稱,首批10座數(shù)據(jù)中心目前已在得克薩斯州開建,未來將擴(kuò)展到其他州。
此前,奧特曼提到的「已經(jīng)在建設(shè)中」的星際之門計劃園區(qū),即為Oracle/Crusoe阿比林園區(qū)。
該園區(qū)將容納供OpenAI使用的10萬臺GB200算力集群。這個開發(fā)項(xiàng)目以及計劃在第二季度和第三季度交付的GB200服務(wù)器,將部署在Oracle/Crusoe的數(shù)據(jù)中心內(nèi)。
下面是2024年12月29日,拍攝的園區(qū)高清照片。
4個約11,150平方米的「模塊」組成了一棟44,600平方米的建筑,目前僅有兩棟建筑在建,關(guān)鍵IT負(fù)載容量約為180兆瓦。為了讓大家理解這一規(guī)模,整個由20棟建筑組成的園區(qū)將包含80個這樣的「模塊」!
除了正在部署的10萬臺GB200算力集群外,分析師估計,他們還將在整個園區(qū)部署另外20萬臺GB300和約40萬臺VR200(英偉達(dá)計劃在2026年推出的超算,分別對應(yīng)Vera CPU和Rubin GPU)。
他們根據(jù)園區(qū)1,000億美元總擁有成本(TCO)投資,以及人工智能TCO模型中的單位成本,計算出了Vera Rubin處理器的隱含數(shù)量。
約70萬臺GPU的總IT功率為1.8GW,這與Oracle/Crusoe阿比林園區(qū)1,800兆瓦的容量相符。
OpenAI研究員稱「星際之門」將是有史以來最大的基礎(chǔ)設(shè)施投資之一,將為AGI創(chuàng)造計算和能源。其規(guī)模已經(jīng)可以與阿波羅計劃和曼哈頓計劃相媲美。
不過在這項(xiàng)目標(biāo)遠(yuǎn)大的規(guī)劃中,并沒有看到馬斯克的xAI參與其中。
也許老馬有他自己的小算盤。當(dāng)人們還在熱議xAI孟菲斯數(shù)據(jù)中心的「全球最大」稱號時,馬斯克已經(jīng)在亞特蘭大悄然布下另一顆棋子。
馬斯克低調(diào)開建xAI第二個超算中心
在亞特蘭大,xAI一直在悄悄地建立數(shù)據(jù)中心(與X共同運(yùn)營),將其業(yè)務(wù)版圖擴(kuò)展到其在孟菲斯的大型數(shù)據(jù)中心之外。
根據(jù)與亞特蘭大經(jīng)濟(jì)發(fā)展機(jī)構(gòu)之一Develop Fulton簽署的協(xié)議中列出的設(shè)備清單,兩家公司將共同部署約12,000個英偉達(dá)GPU,其中大部分將被用于AI計算。
對此,Develop Fulton制定了一個市政債券融資方案,為這個單一設(shè)施中價值7億美元的芯片、線纜和其他設(shè)備提供融資。
其中,4.42億美元分配給X,2.58億美元給xAI。
內(nèi)部詳情
知情的數(shù)據(jù)中心解決方案架構(gòu)師和AI硬件專家表示,亞特蘭大數(shù)據(jù)中心擁有相當(dāng)可觀的計算能力。其規(guī)模可與谷歌或亞馬遜等超大規(guī)??萍计髽I(yè)建立的數(shù)據(jù)中心相媲美。
X的代表將其描述為一個能夠計算「萬億參數(shù)AI」的百億億次級(exascale)數(shù)據(jù)中心。
但與xAI綽號為Colossus(巨人)的「世界最大超算」相比,這個設(shè)施的容量就顯得小了很多。
根據(jù)文件顯示,佐治亞州設(shè)施將安裝約12,448個英偉達(dá)GPU。其中絕大多數(shù)是Hopper架構(gòu)的H100 GPU,每個服務(wù)器機(jī)架(含8枚芯片)的價格在27.7萬至50萬美元之間。
約3%的芯片是英偉達(dá)性能較低的A100 GPU,同樣配置的8枚芯片價格為14.7萬美元。其中,X提供了所有的A100,以及11,000個H100。
這兩種芯片設(shè)計都不需要液冷系統(tǒng),而液冷一直是馬斯克公司在孟菲斯面臨的一個棘手問題。當(dāng)全負(fù)載運(yùn)行時,Colossus項(xiàng)目預(yù)計將成為該市最大的用水消費(fèi)者之一。
除了H100芯片外,xAI還提供了同樣購自英偉達(dá)的Mellanox交換機(jī)和光學(xué)器件——這些高帶寬網(wǎng)絡(luò)設(shè)備可以提升芯片間的協(xié)同運(yùn)算速度。
據(jù)估計,亞特蘭大設(shè)施將需要20兆瓦的總功率,這一用電量可以從現(xiàn)有電網(wǎng)獲得。
X和xAI的合作
亞特蘭大設(shè)施是馬斯克整合資源打造X和xAI的典型案例。其中,X為該數(shù)據(jù)中心貢獻(xiàn)了90%的硬件,而xAI貢獻(xiàn)了10%。
根據(jù)文件顯示,這些設(shè)備將用于訓(xùn)練X平臺的大語言模型和語義搜索產(chǎn)品。LinkedIn資料顯示,X在該地區(qū)擁有約16名員工。
根據(jù)公司內(nèi)部組織架構(gòu)圖,xAI在佐治亞州設(shè)施配備了1名員工,另有2名員工被列為「X Corp合作伙伴」。
與Develop Fulton達(dá)成的協(xié)議顯示,該設(shè)施將保持現(xiàn)有的24個工作崗位,暫不增加新崗位。
馬斯克正努力將xAI打造成能夠與OpenAI和谷歌等科技巨頭抗衡的主要競爭者,甚至從特斯拉挖來了一些人才。
據(jù)此前報道,在過去一年中,公司已招募了數(shù)百名數(shù)據(jù)標(biāo)注人員來訓(xùn)練其聊天機(jī)器人,并計劃在未來幾個月內(nèi)將招聘規(guī)模擴(kuò)大到數(shù)千人。