公司名稱: Mellanox

公司介紹:

Mellanox公司(NASDAQ: MLNX)是一家***的面向服務(wù)器、存儲(chǔ)和超融合系統(tǒng)的以太網(wǎng)和InfiniBand端到端智能網(wǎng)絡(luò)產(chǎn)品的提供商，通過提供高帶寬、低延遲和各種先進(jìn)的網(wǎng)絡(luò)加速功能，Mellanox智能網(wǎng)絡(luò)產(chǎn)品可以讓數(shù)據(jù)中心中的數(shù)據(jù)移動(dòng)更快捷，讓應(yīng)用得到更高的性能。Mellanox的智能網(wǎng)絡(luò)產(chǎn)品包括網(wǎng)絡(luò)設(shè)備芯片、卡、交換機(jī)、線纜、光模塊、基于SOC的智能網(wǎng)卡以及各種應(yīng)用加速軟件，可以加速各種應(yīng)用提升用戶的投資回報(bào)率。目標(biāo)市場(chǎng)包括高性能計(jì)算、人工智能、數(shù)據(jù)中心、企業(yè)級(jí)客戶、云計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)安全、電信及金融等各個(gè)行業(yè)。

解決方案介紹:

高性能計(jì)算和人工智能解決方案

Mellanox高性能智能網(wǎng)絡(luò)端到端解決方案可以實(shí)現(xiàn)在數(shù)據(jù)傳輸?shù)倪^程中進(jìn)行計(jì)算（網(wǎng)絡(luò)計(jì)算），通過和CPU和GPU的協(xié)同計(jì)算，解決目前數(shù)據(jù)中心、計(jì)算中心和云計(jì)算中心由于通信模式而產(chǎn)生的網(wǎng)絡(luò)和計(jì)算瓶頸問題，大幅提升系統(tǒng)的整體應(yīng)用性能。如RDMA技術(shù)、GPU Direct RDMA技術(shù)和SHARP（Scalable Hierarchical Aggregation and Reduction Protocol）技術(shù)、NVMe Over Fabric Target Offload技術(shù)等共同構(gòu)成了網(wǎng)絡(luò)計(jì)算的核心。

Mellanox和IBM、Nvidia一起合作共同為美國橡樹嶺國家實(shí)驗(yàn)室構(gòu)建的Summit CORAL超級(jí)計(jì)算機(jī)，是目前世界上最快的超級(jí)計(jì)算機(jī)以及人工智能機(jī)器。在這個(gè)機(jī)器中，用到了IBM Power 9 CPU、Mellanox EDR InfiniBand智能端到端網(wǎng)絡(luò)和Nvidia GPU，可以達(dá)到187PetaFlops的峰值計(jì)算性能。在這臺(tái)機(jī)器中，就用到了網(wǎng)絡(luò)計(jì)算技術(shù)，通過網(wǎng)絡(luò)計(jì)算 + CPU計(jì)算 + GPU計(jì)算的整合，可以***化地利用所有的資源，減少計(jì)算和通信的瓶頸，實(shí)現(xiàn)了***的效率。

Mellanox ConnectX-5 and ConnectX-6系列全面支持PCIe Gen4與Power9 CPU 互聯(lián)，可提供高達(dá)200Gb/s的網(wǎng)絡(luò)吞吐量。Mellanox 作為OpenCAPI組織的核心成員之一，一直關(guān)注CAPI（Coherent Acceleration Processor Interface）技術(shù)在網(wǎng)絡(luò)層面的應(yīng)用和優(yōu)化。數(shù)據(jù)處理已經(jīng)成為數(shù)據(jù)中心的核心，越來越多的應(yīng)用已經(jīng)不滿足于單臺(tái)服務(wù)器性能的提升，如何提升整體數(shù)據(jù)中心集群的性能至關(guān)重要。CAPI的高性能可以讓服務(wù)器性能***化，CAPI+ Mellanox的網(wǎng)絡(luò)計(jì)算技術(shù)可以讓數(shù)據(jù)中心的性能***化。服務(wù)器總線技術(shù)和網(wǎng)絡(luò)技術(shù)能做***整合，實(shí)現(xiàn)數(shù)據(jù)中心性能***化。

Mellanox的全新智能網(wǎng)卡Innova2集成了ConnectX-5和FPGA可編程加速器功能，支持基于Power9芯片的CAPI2.0及OpenCAPI接口,其數(shù)據(jù)傳輸帶寬分別可達(dá)16GB/s和25GB/s。在異構(gòu)計(jì)算領(lǐng)域提供了更好的計(jì)算性能和成本優(yōu)勢(shì)方案。

解決方案優(yōu)勢(shì)/帶給客戶的好處:

Summit CORAL超級(jí)計(jì)算機(jī)相比較橡樹嶺國家實(shí)驗(yàn)室的前一臺(tái)機(jī)器Titan來言，性能提升了5到10倍，節(jié)點(diǎn)數(shù)降低到了四分之一，單節(jié)點(diǎn)性能提升了越30倍，網(wǎng)絡(luò)通信帶寬提升了14倍，延遲降低到了十五分之一，Barrier延遲降到了二十三分之一，總體功耗僅提高了50%。 

在Summit CORAL的設(shè)計(jì)中，每臺(tái)服務(wù)器采用了2顆Power 9 CPU、6顆Nvidia V100 GPU和兩片EDR InfiniBand網(wǎng)卡，通過Mellanox獨(dú)特的Socket Direct技術(shù)實(shí)現(xiàn)了兩個(gè)CPU和6個(gè)GPU共享一片EDR卡，兩片卡可以同時(shí)工作在Active和Active狀態(tài)，實(shí)現(xiàn)了性能和冗余的雙保險(xiǎn)。同時(shí)在網(wǎng)絡(luò)拓?fù)渖鲜褂昧藗鹘y(tǒng)的Fat-Tree拓?fù)洌瑢?shí)現(xiàn)了全網(wǎng)絡(luò)的冗余。

為了提升這臺(tái)系統(tǒng)的性能，用到了網(wǎng)絡(luò)計(jì)算中的GPU Direct RDMA技術(shù)和SHARP（Scalable Hierarchical Aggregation and Reduction Protocol）技術(shù)，GPU和GPU在通信的時(shí)候有直接的通道，不需要和CPU有任何溝通，在通信過程中的Collective相關(guān)操作，有交換機(jī)代替了CPU來操作，解決了Collective相關(guān)操作帶來的網(wǎng)絡(luò)瓶頸問題，同時(shí)CPU得到了更多的資源來做計(jì)算。為了提升整體系統(tǒng)的健壯性，用到了動(dòng)態(tài)路由技術(shù)和SHIELD（Self-Healing Technology）技術(shù)，數(shù)據(jù)可以根據(jù)網(wǎng)絡(luò)的擁塞狀況自動(dòng)調(diào)整路徑，或者遇到鏈路問題的時(shí)候自動(dòng)改變路徑，大大降低了網(wǎng)絡(luò)問題對(duì)于應(yīng)用的影響。

解決方案使用場(chǎng)景和案例:

CORAL超級(jí)計(jì)算機(jī)和人工智能系統(tǒng)主要面向科學(xué)技術(shù)可人工智能兩個(gè)市場(chǎng)，并不是針對(duì)特定的市場(chǎng)，可以被設(shè)計(jì)成各種規(guī)模來滿足不同應(yīng)用的需求。

Innova2智能網(wǎng)卡在網(wǎng)絡(luò)數(shù)據(jù)安全，流量分析等方面提供了更好的異構(gòu)方案。使主機(jī)CPU可以更專注于應(yīng)用處理，提升整機(jī)性能。同時(shí)OpenCAPI技術(shù)有助于縮短流量處理過程中和FPGA和CPU交互數(shù)據(jù)的延遲，非常適用于數(shù)據(jù)監(jiān)控內(nèi)容實(shí)時(shí)性要求很高的流量分析場(chǎng)景。