根據(jù)特斯拉爆料人士Sawyer Merritt爆料，特斯拉將于美國時(shí)間本周一上線備受期待的，由1萬片H100組成的超級(jí)計(jì)算機(jī)。

這個(gè)GPU集群將用來訓(xùn)練包括特斯拉FSD自動(dòng)駕駛系統(tǒng)在內(nèi)的各種AI應(yīng)用。

這個(gè)GPU集群由一萬個(gè)英偉達(dá)H100GPU組成，能提供340 FP64 PFLOPS的峰值算力，為AI提供39.58 INT8 ExaFLOPS的峰值算力。

這個(gè)算力峰值超過了之前全世界排名第四的超算Leonardo所能提供的算力。

憑借這臺(tái)超級(jí)計(jì)算機(jī)，特斯拉可以迅速訓(xùn)練并更新它的全自動(dòng)駕駛（FSD）技術(shù)。

這個(gè)H100 集群不僅讓特斯拉相比其他汽車制造商更具競(jìng)爭(zhēng)力，而且將使特斯拉擁有夸張的算力儲(chǔ)備。

馬老板上個(gè)月甚至發(fā)推稱：「坦白說……如果英偉達(dá)能提供足夠的GPU，我們可能就不需要 Dojo?！?/span>

特斯拉的算力儲(chǔ)備有什么用？

而且對(duì)于特斯拉來說，這個(gè)H100集群不單代表了無與倫比的算力，還使得擁有海量數(shù)據(jù)的特斯拉能將這些數(shù)據(jù)變現(xiàn)的能力。

特斯拉工程技術(shù)總監(jiān)Tim Zaman發(fā)推稱，特斯拉上線的H100集群，將被用于訓(xùn)練視頻數(shù)據(jù)。

特斯拉擁有的訓(xùn)練數(shù)據(jù)集可能是全世界最大的，熱連接緩存（hot tier cache）大小超過了200PB，這比大語言模型的數(shù)據(jù)規(guī)模要高幾個(gè)數(shù)量級(jí)！

同時(shí)他還稱，特斯拉是真正「物理上」擁有這些GPU集群和算力。很多其他的公司宣稱自己「擁有」多大算力時(shí)，其實(shí)他們只是能「租到」這些算力。

而對(duì)于目前的特斯拉來說，上線H100集群的意義就在于能夠極大地加快最新版FSD V12的上線速度。

馬斯克在兩個(gè)月之前稱，最新版的FSD V12版本更新將不再是「測(cè)試版」的自動(dòng)駕駛技術(shù)，暗示了這次更新可能真的能帶來完全體的自動(dòng)駕駛技術(shù)。

而就在前幾天，馬斯克自己開著特斯拉來了一場(chǎng)全網(wǎng)關(guān)注的FSD V12的演示直播。

直播中，新版的FSD V12展示出了「絲滑的自動(dòng)駕駛性能」和出色的駕乘體驗(yàn)。

FSD V12背后的技術(shù)原理，就是將海量的優(yōu)秀司機(jī)駕駛的實(shí)時(shí)視頻，通過神經(jīng)網(wǎng)絡(luò)訓(xùn)練成一個(gè)全新的自動(dòng)駕駛AI來駕駛汽車。

特斯拉上線這個(gè)H100集群后，將會(huì)大大加快FSD V12的訓(xùn)練速度，這也被上文中特斯拉工程總監(jiān)的帖子所證實(shí)。

馬斯克在推特上稱，V12可能將在不到半年的時(shí)間內(nèi)更新上線！

而除了特斯拉FSD V12之外，特斯拉的人形機(jī)器人Optimus也將從特斯拉儲(chǔ)備的巨大算力中獲益。

網(wǎng)友分析到，因?yàn)橹悄軝C(jī)器人的工作原理，本質(zhì)上也是從視頻信號(hào)中去理解周圍的世界。這和自動(dòng)駕駛的本質(zhì)是一樣的，只是形態(tài)和控制方式有區(qū)別。

特斯拉超算Dojo怎么樣了？

Tesla上線H100 GPU 集群的同時(shí)，也在激活自己研發(fā)制造的超算Dojo。下圖是特斯拉內(nèi)部對(duì)Dojo計(jì)算能力的預(yù)測(cè)。

2024 年 10 月，Dojo 的計(jì)算能力也有望達(dá)到 100 exaflops。

在2021年的AI Day上，特斯拉第一次公布了自己超算——Dojo。

快兩年時(shí)間過去了，在今年7月推特（現(xiàn)X）科技爆料賬戶Whole Mars Catalog爆料Dojo已經(jīng)正式開始開始工作了。

這一消息也得到了馬斯克本人的點(diǎn)贊確認(rèn)。

整個(gè)超算由這樣的計(jì)算模塊構(gòu)成

每個(gè)模塊上有25個(gè)Soc，模塊之間通過高速寬帶連接。

然后將模塊用主機(jī)盒固定起來，所有的接口都集成在了系統(tǒng)托盤上。

然后將兩個(gè)帶有主機(jī)組件的系統(tǒng)托盤安裝到一個(gè)Dojo機(jī)柜中。

頂部的圖例展示的是每個(gè)Soc的負(fù)載。

而現(xiàn)在，擁有Dojo和1萬塊H100集群的Tesla，正式加入了算力軍備競(jìng)賽當(dāng)中。