超強性能+極致應(yīng)用,寶德AI服務(wù)器推動智能化發(fā)展
如今,由于云計算、AI等技術(shù)的出現(xiàn),正在推動數(shù)據(jù)中心設(shè)計的結(jié)構(gòu)性轉(zhuǎn)變,CPU+GPU加速計算的平臺成為主流,未來隨著這些技術(shù)的不斷普及,越來愈多的行業(yè)、企業(yè)將會產(chǎn)生類似需求。寶德早已意識到這一趨勢,并率先推出了AI系列服務(wù)器產(chǎn)品以提升AI訓(xùn)練和AI推理性能。日前,NVIDIA發(fā)布的Ampere架構(gòu)的第三代Tensor Core,更是帶來了巨大的性能飛躍,可將AI訓(xùn)練時間從數(shù)周縮短到幾小時,顯著加快了推理速度,無疑助推了整個AI行業(yè)的發(fā)展。
寶德首臺DGX A100交付應(yīng)用,賦能客戶業(yè)務(wù)
DGX A100是適用于所有AI負載的通用系統(tǒng),能夠?qū)⒂?xùn)練、推理、分析整合至易于部署的單一人工智能基礎(chǔ)架構(gòu),為企業(yè)提供前所未有的運算密度、效能和彈性。相比于上代Volta伏特架構(gòu)的V100計算卡,安培架構(gòu)的A100核心在INT8推理性能、FP32訓(xùn)練性能均實現(xiàn)20倍提升,F(xiàn)P64高性能計算也提高2.5倍,是歷史上進步最大的一次。
DGX A100系統(tǒng)集成了8個全新NVIDIA A100 Tensor Core GPU,具有320GB內(nèi)存用以訓(xùn)練最大型的AI數(shù)據(jù)集,以及最新的高速NVIDIA Mellanox® HDR 200Gbps互連。借助于全新DGX的巨大性能飛躍,面對呈指數(shù)級速度增長的AI模型和數(shù)據(jù),讓企業(yè)保持領(lǐng)先地位。
寶德通過對本地客戶業(yè)務(wù)的深度洞悉,以及在實際使用中對系統(tǒng)性能要求的深度理解,為客戶提供定制化的DGX A100端到端解決方案。近日,寶德成功交付了首臺DGX A100,再一次證明了寶德助力企業(yè)智能化轉(zhuǎn)型的上乘實力。
寶德首臺DGX A100交付應(yīng)用于AI領(lǐng)域。該客戶是一家視頻產(chǎn)品和系統(tǒng)方案提供商,運用AI技術(shù)做機器視覺、人臉識別、體溫檢測等應(yīng)用,涉及大量數(shù)據(jù)。在合作中,我們發(fā)現(xiàn)該客戶的深度學(xué)習(xí)系統(tǒng)已經(jīng)無法滿足訓(xùn)練需求,因此,寶德基于DGX A100的優(yōu)秀性能,打造了一套定制化解決方案。通過實地應(yīng)用,客戶的深度學(xué)習(xí)系統(tǒng)的GPU容量在原基礎(chǔ)上進一步提升、GPU集群可并發(fā)處理兩倍的AI訓(xùn)練任務(wù)、顯存帶寬也能達到1.6TB/s、互聯(lián)能力更迅速并更具擴展性。
當(dāng)寶德AI服務(wù)器“遇上”NVIDIA A100 GPU
NVIDIA A100 GPU中的第三代Tensor Core核心速度更快、靈活性更高,同時也更易于使用,最高性能可達每秒4億次,同時通過新一代NVSwitch技術(shù)實現(xiàn)GPU間通信性能翻倍提升,最高達600GB/S。更強計算性能與更高的GPU間互聯(lián)帶寬可帶來更高的AI計算效率,支撐用戶進行更大數(shù)據(jù)規(guī)模、更復(fù)雜模型的AI訓(xùn)練。此外,NVIDIA A100 GPU擁有40GB的HBM2內(nèi)存,內(nèi)存帶寬提高70%,達到1.6TB/s,可以承載更大的深度學(xué)習(xí)模型訓(xùn)練。
得益于敏捷而強大的產(chǎn)品設(shè)計開發(fā)能力,寶德在業(yè)界較早實現(xiàn)了對NVIDIA® Ampere架構(gòu)GPU的快速跟進,即將推出多款基于NVIDIA® Ampere架構(gòu)的AI服務(wù)器產(chǎn)品。
新一代產(chǎn)品擁有更好的兼容性,拓撲結(jié)構(gòu)更靈活:PCIe插槽支持GEN4,支持4到10張PCIe版NVIDIA A100,最多8個NVMe驅(qū)動器,內(nèi)存最大可以支持DDR4-3200,為AI客戶提供專為應(yīng)用場景極致創(chuàng)新優(yōu)化設(shè)計的AI計算平臺,進一步豐富寶德AI服務(wù)器產(chǎn)品陣列,以更好地應(yīng)對當(dāng)前海量數(shù)據(jù)爆發(fā)和復(fù)雜模型所帶來的巨大計算挑戰(zhàn)。同時與AI客戶展開緊密合作,幫助其在語音、語義、圖像、視頻、搜索等各方面取得數(shù)量級的AI應(yīng)用性能提升。