AI工廠(chǎng)作為新興的數(shù)據(jù)中心概念，正引領(lǐng)著AI處理技術(shù)的革新，然而，其真正潛力如何?成本與挑戰(zhàn)又有哪些?本文將深入探討AI工廠(chǎng)的現(xiàn)狀與未來(lái)。

你可能聽(tīng)說(shuō)過(guò)“AI工廠(chǎng)”這個(gè)詞，但它到底意味著什么?到目前為止，這個(gè)概念更多地被炒作而非明確定義，主要是由英偉達(dá)在推動(dòng)。該公司的愿景是數(shù)據(jù)中心里裝滿(mǎn)高端AI加速器，但這個(gè)愿景是現(xiàn)實(shí)可行的，還是只是戰(zhàn)略營(yíng)銷(xiāo)手段?

簡(jiǎn)而言之，AI工廠(chǎng)是專(zhuān)為AI處理而設(shè)計(jì)的專(zhuān)業(yè)化數(shù)據(jù)中心，而非用于托管數(shù)據(jù)庫(kù)、文件存儲(chǔ)、業(yè)務(wù)應(yīng)用或網(wǎng)絡(luò)服務(wù)等傳統(tǒng)工作負(fù)載。AI工廠(chǎng)以GPU為核心構(gòu)建，在處理AI工作負(fù)載時(shí)，GPU在速度和性能上均優(yōu)于CPU。

AI工廠(chǎng)是專(zhuān)為處理大量數(shù)據(jù)以用于GenAI應(yīng)用、訓(xùn)練模型并生成文本、圖像、視頻或音頻等輸出而設(shè)計(jì)的設(shè)施。它們還負(fù)責(zé)更新AI系統(tǒng)并控制其他技術(shù)，包括機(jī)器人和超級(jí)計(jì)算機(jī)。

由于GPU運(yùn)行溫度高且功耗大，與傳統(tǒng)數(shù)據(jù)中心相比，AI工廠(chǎng)需要更多的能源和冷卻。它們很可能被安置在能源成本低廉且水資源充足的地方，以便進(jìn)行液冷。

一個(gè)例子是埃隆·馬斯克的xAI數(shù)據(jù)中心，該中心配備了10萬(wàn)臺(tái)英偉達(dá)H100 GPU，用于高級(jí)AI處理。按每臺(tái)GPU 4萬(wàn)美元估算，這代表了一位客戶(hù)超過(guò)40億美元的投資——這或許說(shuō)明了為什么英偉達(dá)CEO黃仁勛繼續(xù)力推AI工廠(chǎng)的概念。

AI工廠(chǎng)：炒作與現(xiàn)實(shí)

雖然這個(gè)概念很吸引人，但我們真的會(huì)看到黃仁勛所承諾的AI工廠(chǎng)浪潮嗎?可能并不會(huì)大規(guī)模出現(xiàn)。AI硬件不僅購(gòu)置和運(yùn)營(yíng)成本高昂，而且它并不像數(shù)據(jù)庫(kù)服務(wù)器那樣持續(xù)運(yùn)行。一旦模型訓(xùn)練完成，可能數(shù)月都不需要更新，導(dǎo)致這些昂貴的基礎(chǔ)設(shè)施閑置。

因此，專(zhuān)注于基礎(chǔ)設(shè)施和數(shù)據(jù)中心的Omdia首席分析師艾倫·霍華德認(rèn)為，大多數(shù)AI硬件部署將發(fā)生在多功能數(shù)據(jù)中心。這些設(shè)施可能會(huì)設(shè)置專(zhuān)門(mén)的“AI區(qū)域”，同時(shí)配備用于標(biāo)準(zhǔn)計(jì)算和其他工作負(fù)載的區(qū)域。

“我們的感覺(jué)是，會(huì)有一些專(zhuān)門(mén)的AI數(shù)據(jù)中心，但不太可能像我們所被引導(dǎo)相信的那樣普及。”霍華德告訴記者。

“如果我在數(shù)據(jù)中心有一個(gè)5萬(wàn)平方英尺的數(shù)據(jù)大廳，并且電力充足，那么我可以創(chuàng)建一個(gè)區(qū)域或套房，以滿(mǎn)足AI設(shè)備部署的高電力需求。你不會(huì)看到很多數(shù)據(jù)中心里全是AI設(shè)備……它將是更大數(shù)據(jù)中心的一部分?！?/p>

對(duì)大多數(shù)人來(lái)說(shuō)成本過(guò)高

咨詢(xún)公司TEKsystems的首席技術(shù)官拉姆·帕拉尼阿潘同意專(zhuān)門(mén)AI數(shù)據(jù)中心將保持有限的觀(guān)點(diǎn)，這主要是由于涉及的高成本。

“企業(yè)在進(jìn)行的數(shù)據(jù)推理遠(yuǎn)比實(shí)際用數(shù)據(jù)訓(xùn)練要多，”他說(shuō)?！叭绻隳茉跀?shù)據(jù)中心內(nèi)劃分區(qū)域，其中一些部分專(zhuān)門(mén)用于A(yíng)I，你就可以用那部分GPU容量來(lái)訓(xùn)練模型，然后剩下的CPU將用于模型推理。這就是我們看到的數(shù)據(jù)中心世界如何根據(jù)企業(yè)AI的消費(fèi)和使用情況進(jìn)行調(diào)整?！?/p>

電信數(shù)字化轉(zhuǎn)型提供商Amdocs的集團(tuán)總裁兼戰(zhàn)略與技術(shù)負(fù)責(zé)人安東尼·古納蒂拉克認(rèn)為，許多下一代AI工廠(chǎng)將通過(guò)AI即服務(wù)(AIaaS)模式提供給客戶(hù)租賃，像AWS等主要云服務(wù)提供商都提供這種模式。

“人們?cè)噲D建立AI工廠(chǎng)，從根本上創(chuàng)建一個(gè)模型，以便他們可以將AI能力作為一種服務(wù)來(lái)銷(xiāo)售，就像我們的一些客戶(hù)希望做的那樣。”古納蒂拉克告訴記者?！皻w根結(jié)底，可以將其視為GenAI基礎(chǔ)設(shè)施即服務(wù)。我認(rèn)為AI即服務(wù)具有很多潛在的上行空間，因?yàn)锳I硬件的投資非常昂貴，而且在很多情況下，你可能不再需要它，或者你可能不需要使用那么多?！?/p>

帕拉尼阿潘補(bǔ)充說(shuō)，AI技術(shù)發(fā)展迅速，要跟上競(jìng)爭(zhēng)步伐的成本高得令人望而卻步?！爱?dāng)你開(kāi)始考慮這些GPU的成本，以及它們很快就會(huì)過(guò)時(shí)，這就會(huì)成為瓶頸，”他說(shuō)?！叭绻阍噲D利用數(shù)據(jù)中心，你總是希望設(shè)施里能有最新的芯片，因此許多數(shù)據(jù)中心因?yàn)檫@些努力而虧損。”

別忘了網(wǎng)絡(luò)

除了GPU的成本，網(wǎng)絡(luò)硬件也需要大量投資，因?yàn)樗蠫PU需要高效地相互通信。EdgeCore Digital Infrastructure的戰(zhàn)略高級(jí)副總裁湯姆·特勞戈特解釋說(shuō)，在典型的八GPU英偉達(dá)DGX系統(tǒng)中，GPU通過(guò)NVLink通信。然而，要與其他GPU共享數(shù)據(jù)，它們依賴(lài)于以太網(wǎng)或InfiniBand，這需要大量的網(wǎng)絡(luò)硬件來(lái)支持連接。

“當(dāng)你進(jìn)行訓(xùn)練運(yùn)行時(shí)，就像團(tuán)隊(duì)中的個(gè)人一樣，”特勞戈特說(shuō)。“他們都在同一個(gè)項(xiàng)目上工作，并且會(huì)定期集體匯合并交流心得?！?/p>

在較小的集群中，網(wǎng)絡(luò)成本與傳統(tǒng)數(shù)據(jù)中心相似。然而，在擁有5000、10000或20000個(gè)GPU的集群中，網(wǎng)絡(luò)成本約占整體資本支出的15%，他說(shuō)。由于數(shù)據(jù)集如此龐大，單個(gè)網(wǎng)絡(luò)接口卡(NIC)很容易飽和，因此需要多個(gè)網(wǎng)絡(luò)連接。為了避免瓶頸，需要多個(gè)NIC——成本很快就會(huì)累積。

“顯然，這可能占到整體支出的30%至40%，這與前幾代相比是不成比例的。”特勞戈特告訴記者。

AI工廠(chǎng)的未來(lái)

這仍然是一項(xiàng)非常新的技術(shù)。目前只有一個(gè)已知的正在開(kāi)發(fā)的AI工廠(chǎng)，即xAI設(shè)施。英偉達(dá)最近才發(fā)布了構(gòu)建AI工廠(chǎng)的藍(lán)圖，稱(chēng)為企業(yè)參考設(shè)計(jì)，以幫助指導(dǎo)建設(shè)過(guò)程。隨著概念的發(fā)展，很多事情都可能發(fā)生變化，并且需要一些明確性。

“所以，這會(huì)是一個(gè)小趨勢(shì)，只有少數(shù)公司建立少數(shù)專(zhuān)門(mén)的AI工廠(chǎng)，還是會(huì)更大?我個(gè)人猜測(cè)，大概要過(guò)一年，我們才能更好地判斷新數(shù)據(jù)中心建設(shè)在A(yíng)I工廠(chǎng)世界中是否基本上呈現(xiàn)出新的面貌?！被羧A德說(shuō)。