一個(gè)月30萬(wàn)片H100,英偉達(dá)欲找英特爾造芯?只因CoWos產(chǎn)能太低
臺(tái)積電產(chǎn)能不夠,逼得英偉達(dá)都去找英特爾造芯片了?
臺(tái)積電在2023年年中承認(rèn),其先進(jìn)芯片封裝技術(shù)CoWoS(Chip on Wafer on Substrate)的需求已經(jīng)超出了他們的生產(chǎn)能力。
另一方面,被稱(chēng)為「人造黃金」的英偉達(dá)AI芯片在市場(chǎng)上供不應(yīng)求,英偉達(dá)迫切希望能夠盡快提高產(chǎn)能。
最終,英偉達(dá)可能不得不開(kāi)始考慮利用英特爾的先進(jìn)封裝技術(shù)來(lái)生產(chǎn)芯片。
根據(jù)外媒曝料,英偉達(dá)從英特爾每月理論上能夠額外獲得30萬(wàn)塊H100芯片的產(chǎn)能(假設(shè)產(chǎn)出無(wú)瑕疵且合同確實(shí)針對(duì)H100)。
CoWos封裝產(chǎn)能,卡了全世界大廠的脖子
而對(duì)于臺(tái)積電來(lái)說(shuō),2023年是瘋狂的一年?;久總€(gè)月,媒體都要曝出他們?cè)谠黾覥oWos封裝工藝的產(chǎn)能。
2023年6月臺(tái)積電增加先進(jìn)芯片封裝產(chǎn)能
2023年7月臺(tái)積電增加先進(jìn)芯片封裝產(chǎn)能
而之所以CoWos封裝的產(chǎn)能不夠,最主要的原因是這是一種非常先進(jìn)的封裝技術(shù),只有最先進(jìn)的AI芯片,需要利用這種技術(shù)。
同時(shí),也只有臺(tái)積電,英特爾等少數(shù)芯片廠商,能夠使用這種技術(shù)封裝生產(chǎn)芯片。
而在AI芯片需求沒(méi)有大幅提升之前,包括臺(tái)積電在內(nèi)的芯片制造公司都沒(méi)有太高的產(chǎn)能。
2023年是AI爆發(fā)之年,各大廠都在加緊儲(chǔ)備英偉達(dá)的H100,使得AI芯片的需求激增。
而在整個(gè)AI芯片的生產(chǎn)供應(yīng)鏈中,因?yàn)镃oWos封裝的產(chǎn)能短時(shí)間難以提升,導(dǎo)致就算英偉達(dá)就算已經(jīng)有了足夠多的H100的晶圓供應(yīng),芯片的產(chǎn)能也會(huì)被CoWos封裝「卡脖子」。
H100采用了CoWoS-S封裝技術(shù),集成了7個(gè)芯片。
其中心部位是H100 GPU 應(yīng)用特定集成電路(ASIC),其芯片面積達(dá)到了 814 平方毫米。
圍繞其周?chē)氖?6 組高帶寬內(nèi)存(HBM)。
其中,H100 SXM版本采用了HBM3技術(shù),每組內(nèi)存為16GB,總共提供了80GB的內(nèi)存容量。
而H100NVL版本則包含兩個(gè)封裝,每個(gè)封裝都配備了6組HBM。
臺(tái)積電依然是最重要的AI芯片工廠
盡管如此,臺(tái)積電仍將是英偉達(dá)主要的供應(yīng)商,貢獻(xiàn)大約90%的先進(jìn)封裝產(chǎn)能。
從第二季度開(kāi)始,英偉達(dá)計(jì)劃至少對(duì)部分產(chǎn)品使用英特爾的產(chǎn)能。
如果這一信息屬實(shí),通過(guò)增加英特爾的產(chǎn)能,英偉達(dá)將能夠更快地滿足市場(chǎng)對(duì)其現(xiàn)有AI和高性能計(jì)算(HPC)產(chǎn)品的需求。
不過(guò),這里存在一個(gè)挑戰(zhàn)。
英偉達(dá)目前及之前一代的所有產(chǎn)品,包括A100、A800、A30、H100、H800、H200和GH200,都依賴于臺(tái)積電的CoWoS-S封裝技術(shù)。
英特爾的與先進(jìn)封裝技術(shù)名為Foveros,但兩者使用的中介層技術(shù)不同(CoWoS-S使用的是65nm中介層,而Foveros使用的是22FFL中介層)。
要使用英特爾的Foveros技術(shù),英偉達(dá)需要對(duì)這項(xiàng)技術(shù)進(jìn)行驗(yàn)證,然后對(duì)實(shí)際的產(chǎn)品進(jìn)行質(zhì)量認(rèn)證。
因?yàn)閮煞N中介層是基于不同的工藝技術(shù),并且連接點(diǎn)的間距也不同,所以這些產(chǎn)品可能會(huì)有一些微小的差異。
因此,英偉達(dá)的合作伙伴在部署這些產(chǎn)品前也需要進(jìn)行相應(yīng)的認(rèn)證。
外媒報(bào)道稱(chēng),英特爾預(yù)計(jì)將在第二季度加入英偉達(dá)的供應(yīng)鏈,每月生產(chǎn)大約5000塊Foveros晶圓。
對(duì)英偉達(dá)來(lái)說(shuō),這是一個(gè)相當(dāng)大的數(shù)字。
臺(tái)積電在2023年中能夠每月生產(chǎn)多達(dá)8000塊CoWoS晶圓。
計(jì)劃到2023年底將產(chǎn)能提升到11000塊,到2024年底進(jìn)一步增加到大約20000塊。
如果英偉達(dá)每月能夠額外獲得5000塊先進(jìn)封裝晶圓,這將明顯緩解AI芯片產(chǎn)能不足的問(wèn)題。
對(duì)英偉達(dá)來(lái)說(shuō),將部分先進(jìn)封裝工作外包給Intel Foundry Service是一項(xiàng)戰(zhàn)略性的舉措,旨在多樣化其供應(yīng)鏈。
更重要的是,通過(guò)利用IFS的封裝能力,英偉達(dá)還能確保這些產(chǎn)能不會(huì)被競(jìng)爭(zhēng)對(duì)手使用,從而鞏固自己的領(lǐng)先地位。
CoWos封裝產(chǎn)能為什么難以提高?
CoWoS(Chip on Wafer on Substrate)是一種2.5D/3D封裝技術(shù),可以拆成兩部分來(lái)看,CoW(Chip on Wafer),指的是晶圓堆疊,WoS(Wafer on Substrate)則是將堆疊的晶圓封裝在基板上。
CoW的目的是將一個(gè)芯片放置在包含其他芯片的晶圓頂部,從而實(shí)現(xiàn)高效的空間利用和增強(qiáng)的性能。
來(lái)源:AnandTech
而AI GPU上的必須的高帶寬內(nèi)存(HBM)和CoWoS技術(shù)是相輔相成的。
HBM的高密度連接和短電路設(shè)計(jì)要求借助CoWoS這類(lèi)2.5D封裝技術(shù)才能實(shí)現(xiàn),這在傳統(tǒng)PCB或封裝基板上難以完成的。
CoWoS以合理的成本,提供了最高的連接密度和最大的封裝尺寸,成為主流的封裝技術(shù)。
由于目前幾乎所有使用HBM的系統(tǒng)都采用CoWoS封裝,而所有高性能 AI GPU都需要用到HBM。
所以可以說(shuō),絕大多數(shù)領(lǐng)先的數(shù)據(jù)中心GPU都采用了臺(tái)積電的CoWoS封裝技術(shù)。
而除了高性能的AI GPU,只有少數(shù)的網(wǎng)絡(luò)芯片,超級(jí)計(jì)算芯片和FPGA會(huì)用到CoWos封裝。
所以包括臺(tái)積電在內(nèi)的芯片制造廠都不會(huì)有太高的先進(jìn)封裝產(chǎn)能。
而包括晶圓在內(nèi)的其他AI GPU供應(yīng)鏈的產(chǎn)能都可以從其他地方勻出來(lái),CoWos封裝產(chǎn)能卻很難,所以就卡住了英偉達(dá)的脖子。
雖然臺(tái)積電一直在為更多的封裝需求做著準(zhǔn)備,但沒(méi)想到這一波生成式人工智能需求來(lái)得如此之快。
去年6月,臺(tái)積電宣布在竹南開(kāi)設(shè)先進(jìn)后端晶圓廠。
該晶圓廠占地 14.3 公頃,足以容納每年 100 萬(wàn)片晶圓的3D Fabric產(chǎn)能。這不僅包括CoWoS,還包括SoIC和InFO技術(shù)。
這個(gè)工廠比臺(tái)積電其他封裝工廠的總和還要大。
而且伴隨著生成式AI浪潮的發(fā)展,除了英偉達(dá),其他的芯片公司對(duì)于CoWos的產(chǎn)能需求也在急劇擴(kuò)張。
從Semianalysis的圖中可以看出,用于建設(shè)大規(guī)模AI集群的網(wǎng)絡(luò)連接芯片,主要由Broadcom提供,也會(huì)吸收大量CoWos產(chǎn)能。
所以只靠臺(tái)積電,英偉達(dá)似乎未來(lái)也很難獲得足夠的出貨量。
而英偉達(dá)面對(duì)如此強(qiáng)大的市場(chǎng)需求,可能等不到臺(tái)積電的新工廠竣工投產(chǎn)了,加入英特爾現(xiàn)成的產(chǎn)能肯定是一個(gè)值得考慮的選項(xiàng)。