撰稿 | 云昭

微軟雄心勃勃，在Windows11全面AI化的同一天，再被曝出新動(dòng)作。

當(dāng)?shù)貢r(shí)間9月25日，微軟在官網(wǎng)上突然掛出了一則“核技術(shù)首席項(xiàng)目經(jīng)理”的招聘消息。不難看出，繼微軟云之后，納德拉在對(duì)待大模型這件事情，可謂火力全開(kāi)。

但令人意外的是，從“Office全家桶”接入GPT4、Azure提供云資源，再到最近的Windows11全面AI化，就在全新的微軟呼之欲出的時(shí)候，為什么微軟竟決定對(duì)能源這塊也要下手呢？

1、人工智能和和核能，微軟一個(gè)都不放過(guò)！

微軟正在招募的“核技術(shù)首席項(xiàng)目經(jīng)理”崗位，任務(wù)是領(lǐng)導(dǎo)全球小型模塊化反應(yīng)堆（ Small Modular Reactor, SMR）和微反應(yīng)器集成的技術(shù)評(píng)估，為微軟云和 AI所在的數(shù)據(jù)中心提供動(dòng)力?！斑@一崗位將為技術(shù)集成保持清晰且適應(yīng)性強(qiáng)的路線圖，認(rèn)真選擇和管理技術(shù)合作伙伴和解決方案，并不斷評(píng)估進(jìn)展和實(shí)施的業(yè)務(wù)影響?！闭衅柑又腥缡钦f(shuō)。

圖源：微軟

此外，微軟對(duì)于這一崗位的理想候選人也給出了要求：應(yīng)具有能源行業(yè)的經(jīng)驗(yàn)，并對(duì)核技術(shù)和監(jiān)管事務(wù)有深入的了解。該職位還將負(fù)責(zé)研究和開(kāi)發(fā)其他商業(yè)化前的能源技術(shù)。

2、大模型“跑廢”特斯拉！

知名業(yè)內(nèi)專(zhuān)家吳軍，曾對(duì)ChatGPT訓(xùn)練有一個(gè)比喻：每訓(xùn)練一次ChatGPT，相當(dāng)于讓3000輛特斯拉電動(dòng)汽車(chē)在一個(gè)月走完了21年的路，基本全跑廢掉。這一形容并不夸張。

根據(jù)斯坦福人工智能研究所（HAI）發(fā)布的《2023年人工智能指數(shù)報(bào)告》，訓(xùn)練GPT3所需的電量，足夠讓一個(gè)普通美國(guó)家庭用上數(shù)百年。而據(jù)國(guó)盛證券估算，GPT-3的單次訓(xùn)練成本就高達(dá)140萬(wàn)美元，對(duì)于一些更大的LLM（大型語(yǔ)言模型），訓(xùn)練成本介于200萬(wàn)美元至1200萬(wàn)美元之間。

數(shù)據(jù)來(lái)源：Luccioni et al.

“大模型訓(xùn)練成本中60%是電費(fèi)，”華為AI首席科學(xué)家田奇也曾對(duì)電力問(wèn)題表示擔(dān)憂，認(rèn)為電力的降本增效已迫在眉睫。如果大模型普及，全球飛速運(yùn)轉(zhuǎn)的服務(wù)器，怕不會(huì)把地球燒了。

也無(wú)怪乎，OpenAI創(chuàng)始人周一在一場(chǎng)活動(dòng)上表示現(xiàn)在對(duì)于GPT而言，重點(diǎn)在于“降低成本和提高可靠性”，而不是急于推出GPT-5。

3、為了省電，硅谷大佬們思路大開(kāi)

首先看微軟。目前看，微軟將目光鎖定在了核能。大家可能不知道，比爾·蓋茨還有另外一個(gè)身份，就是核創(chuàng)新公司TerraPower的董事長(zhǎng)，該公司正在開(kāi)發(fā)和推廣小型模塊化反應(yīng)堆設(shè)計(jì)。不過(guò)，TerraPower的一位發(fā)言人稱(chēng)，“目前沒(méi)有任何向微軟出售反應(yīng)堆的協(xié)議?！?/p>

美國(guó)能源情報(bào)署的數(shù)據(jù)顯示，美國(guó)現(xiàn)有的核反應(yīng)堆目前的發(fā)電量約占美國(guó)總發(fā)電量的18%。而下一代核反應(yīng)堆技術(shù)的希望很大程度上寄托在小型核反應(yīng)堆上。

 顧名思義，小型核反應(yīng)堆比傳統(tǒng)反應(yīng)堆更小，建造起來(lái)也更便宜、建設(shè)速度更快，因?yàn)樗鼈儾捎媚K化結(jié)構(gòu)設(shè)計(jì)，并不是反應(yīng)堆的每個(gè)部件都需要定制。

此外，微軟方面已經(jīng)公開(kāi)承諾將從核聚變領(lǐng)域創(chuàng)新者那里尋求核能。今年5月，微軟宣布與核聚變初創(chuàng)公司Helion簽署了一項(xiàng)電力購(gòu)買(mǎi)協(xié)議，將于2028年從Helion購(gòu)買(mǎi)電力。碰巧的是，OpenAI首席執(zhí)行官薩姆·奧特曼，也是Helion的早期重要投資者。

還有，大名鼎鼎的“硅谷鋼鐵俠”馬斯克對(duì)于能源這塊也有過(guò)考慮。4月就有傳聞，馬斯克和貝索斯準(zhǔn)備聯(lián)手訓(xùn)練一個(gè)超級(jí)大模型。為了節(jié)約制冷和耗能，兩位竟然提出了一個(gè)“太空數(shù)據(jù)中心”的計(jì)劃，把五萬(wàn)片H100英偉達(dá)卡由SpaceX送到太空，并攜帶巨量的太陽(yáng)能板，以期借由太空的力量解決電力的問(wèn)題。不過(guò)有專(zhuān)家分析這個(gè)方案不靠譜，目前衛(wèi)星太陽(yáng)能帆板的供電系統(tǒng)普遍功率只有1200W，無(wú)論是電力供應(yīng)還是成本，都不如地面的解決方案。

圖片

當(dāng)然，還有一種比較靠譜的方案，就是優(yōu)化芯片本身的耗能。這種能耗管理的邏輯是，數(shù)據(jù)中心有多塊芯片，每個(gè)芯片上有幾十億甚至上百億的晶體管，一個(gè)晶體管，相當(dāng)于一個(gè)用電單位，以此推斷，一顆指甲蓋大小的芯片，就是一個(gè)規(guī)模龐大的能源網(wǎng)絡(luò)。如果能夠?qū)⒚總€(gè)晶體管的能耗優(yōu)化，那么最后的節(jié)能就能輻射到整個(gè)數(shù)據(jù)中心。

這塊探索比較多的是全球EDA龍頭企業(yè)新思科技，早在7年前就啟動(dòng)了一項(xiàng)叫做“高能效設(shè)計(jì)”的項(xiàng)目，將芯片的能效最大化。

4、微軟，僅僅是想解決能耗問(wèn)題？

微軟此舉，不止是出于對(duì)AI的押注和數(shù)據(jù)中心動(dòng)力來(lái)源的考慮，還有著其他的原因。

據(jù)外媒theVerge稱(chēng)，比爾蓋茨一直以來(lái)都是核能的忠實(shí)粉絲，因?yàn)楹四懿粫?huì)產(chǎn)生溫室氣體的排放，對(duì)于應(yīng)對(duì)氣候變化方面或發(fā)揮著一定的作用。

此外，有關(guān)大模型能源消耗問(wèn)題，其實(shí)并沒(méi)有想象的那么嚴(yán)峻。一位資深分析師人士坦言，市場(chǎng)大可不必對(duì)大模型的能耗問(wèn)題過(guò)度擔(dān)憂?！昂芏嗳撕雎粤艘粋€(gè)事實(shí)，那就是大模型對(duì)算力的需求未來(lái)必然會(huì)逐漸下降，這意味著能耗也會(huì)相應(yīng)降低。”

比如，微軟在4月12日開(kāi)源的DeepSpeed-Chat就充分說(shuō)明了這一點(diǎn)，它可將訓(xùn)練速度提升15 倍以上，算力成本大大降低。僅憑單個(gè) GPU就能支持一個(gè)130億參數(shù)的類(lèi)ChatGPT模型，訓(xùn)練時(shí)間也只需要 1.25 小時(shí)。

最后，只能說(shuō)，變革的齒輪一旦啟動(dòng)，就很難逆轉(zhuǎn)。微軟此番對(duì)于AI的投入超乎了業(yè)界對(duì)它的想象。

參考鏈接：

https://www.theverge.com/2023/9/26/23889956/microsoft-next-generation-nuclear-energy-smr-job-hiring

https://www.bilibili.com/read/cv23092171/

https://baijiahao.baidu.com/s?id=1778038558952820880