NVIDIA 推出800Gb/s網(wǎng)絡平臺,將大規(guī)模網(wǎng)絡AI性能提升到新的水平
生成式AI的爆火,在給企業(yè)帶來創(chuàng)新應用的同時,也對數(shù)據(jù)中心網(wǎng)絡提出了更高的要求。為了解決AI時代帶來的網(wǎng)絡挑戰(zhàn),NVIDIA 在今年的GTC上正式發(fā)布了專為大規(guī)模 AI 量身訂制的全新網(wǎng)絡交換機 - X800 系列。
據(jù)了解,NVIDIA Quantum-X800 InfiniBand 網(wǎng)絡和 NVIDIA Spectrum?-X800 以太網(wǎng)絡是全球首批高達800Gb/s 端到端吞吐量的網(wǎng)絡平臺,將計算和 AI 工作負載的網(wǎng)絡性能提升到了一個新的水平,與其配套軟件強強聯(lián)手可進一步加速各種數(shù)據(jù)中心中的 AI、云、數(shù)據(jù)處理和高性能計算(HPC)應用,包括基于最新的 NVIDIA Blackwell 架構產品的數(shù)據(jù)中心。
NVIDIA 網(wǎng)絡高級副總裁 Gilad Shainer 表示:“NVIDIA 網(wǎng)絡平臺是 AI 超級計算基礎設施實現(xiàn)大規(guī)??蓴U展的核心?;?NVIDIA X800 交換機的端到端網(wǎng)絡平臺,使新型 AI 基礎設施輕松運行萬億參數(shù)級生成式 AI 業(yè)務?!?/p>
為AI應用樹立極致性能新標桿
Quantum-X800 平臺樹立了 AI 專用基礎設施極致性能的新標桿,該平臺包含了 NVIDIA Quantum Q3400 交換機和 NVIDIA ConnectX?-8 SuperNIC,二者互連達到了業(yè)界領先的端到端800Gb/s 吞吐量,交換帶寬容量較上一代產品提高了 5 倍,網(wǎng)絡計算能力更是憑借NVIDIA 的 SHARP? 技術(SHARPv4)提高了9 倍,達到了14.4Tflops。
Spectrum-X800 平臺為 AI 云和企業(yè)級基礎設施帶來優(yōu)化的網(wǎng)絡性能。借助800Gb/s 的 Spectrum SN5600 交換機和 NVIDIA BlueField-3 SuperNIC,Spectrum-X800 平臺為多租戶生成式 AI 云和大型企業(yè)級用戶提供各種至關重要的先進功能。
Spectrum-X800 通過優(yōu)化網(wǎng)絡性能,加快 AI 工作負載的處理、分析和執(zhí)行速度,進而縮短 AI 解決方案的開發(fā)、部署和上市時間。Spectrum-X800 專為多租戶環(huán)境打造,實現(xiàn)了每個租戶的 AI 工作負載的性能隔離,使業(yè)務性能能夠持續(xù)保持在最佳狀態(tài),提升客戶滿意度和服務質量。
面向萬億參數(shù)級 AI 模型性能優(yōu)化的全套軟件方案
NVIDIA 提供面向萬億參數(shù)級 AI 模型性能優(yōu)化的網(wǎng)絡加速通信庫、軟件開發(fā)套件和管理軟件等全套軟件方案。
其中的 NVIDIA 集合通信庫(NCCL)可將 GPU 的并行計算任務擴展到 Quantum-X800 網(wǎng)絡,利用其基于SHARPv4 的強大網(wǎng)絡計算能力和對FP8 的支持,為大模型訓練和生成式 AI 提供超強的性能。
NVIDIA 的全棧軟件方案帶來了先進的可編程性,使數(shù)據(jù)中心網(wǎng)絡變得更加靈活、可靠和靈敏,既提高了整體運營效率,又滿足了現(xiàn)代應用和服務的需求。
攜手業(yè)界生態(tài)合作伙伴共同推動AI網(wǎng)絡發(fā)展
Quantum InfiniBand 和 Spectrum-X 以太網(wǎng)的早期用戶包括微軟 Azure 、Oracle Cloud Infrastructure 和Coreweave 等。
全球多家頭部基礎設施供應商和系統(tǒng)廠商將在明年開始提供基于Quantum-X800 和Spectrum-X800 的網(wǎng)絡平臺,包括 Aivres、DDN、戴爾科技、Eviden、Hitachi Vantara、慧與、聯(lián)想、超微和 VAST Data 等。
微軟Azure AI 基礎設施副總裁 Nidhi Chappell 表示:“AI 是一個將數(shù)據(jù)轉化為知識的強大工具,支撐這種轉化的基礎就是數(shù)據(jù)中心演進成為了高性能的 AI 引擎,這個演進又對網(wǎng)絡基礎設施提出了更大的需求。通過與 NVIDIA 網(wǎng)絡解決方案的全新整合,微軟 Azure云將持續(xù)構建我們的基礎設施,推動 AI 云走向新的臺階。”