8月28日，“AI上有信仰的云——華為云中國(guó)行2018”成都站如期舉行。華為云全球首家推出了GPU共享型高性能AI容器，這是繼裸金屬容器、Windows容器等重大特性之后，華為云在容器領(lǐng)域的又一次技術(shù)突破，將極大地推動(dòng)AI技術(shù)的普及，助力“普惠AI”策略加速落地，為廣大用戶提供“用的起、用的好、用的放心”的AI云平臺(tái)。

當(dāng)下，人工智能已成為各行各業(yè)的熱點(diǎn)和趨勢(shì)，在實(shí)際應(yīng)用中，企業(yè)在不斷追求各類AI計(jì)算場(chǎng)景下性能和成本的***體驗(yàn)。容器以其獨(dú)特的技術(shù)優(yōu)勢(shì)，已經(jīng)成為業(yè)界主流AI計(jì)算框架（如Tensorflow、Caffe）的核心引擎。華為云為了進(jìn)一步解決企業(yè)在AI計(jì)算性能與成本上面臨的問(wèn)題，為企業(yè)量身打造了AI容器產(chǎn)品。

[[241836]]

華為EBG中國(guó)區(qū)行業(yè)云拓展部部長(zhǎng)胡維琦現(xiàn)場(chǎng)發(fā)布GPU共享型AI容器

華為云AI容器是全球首款支持共享GPU的高性能容器產(chǎn)品，在業(yè)界首家實(shí)現(xiàn)了多容器共享GPU資源，大幅降低了AI計(jì)算的成本，并在AI計(jì)算性能上比通用方案提升了3-5倍以上。

• ***性能。裸金屬NUMA架構(gòu)與高速IB網(wǎng)卡，性能提升3-5倍

在典型的深度學(xué)習(xí)模型訓(xùn)練場(chǎng)景下，需要傳輸和處理海量的數(shù)據(jù)。通常的方案由于系統(tǒng)吞吐量的限制，往往會(huì)讓GPU等待數(shù)據(jù)，導(dǎo)致計(jì)算效率低下，訓(xùn)練時(shí)間較長(zhǎng)。

華為云AI容器運(yùn)行在高性能的裸金屬服務(wù)器上，并通過(guò)NUMA架構(gòu)和100G IB網(wǎng)卡實(shí)現(xiàn)高速、低延遲的大數(shù)據(jù)量傳輸，讓GPU充分發(fā)揮大規(guī)模并行計(jì)算的優(yōu)勢(shì)，從而大幅縮短訓(xùn)練的時(shí)間。經(jīng)實(shí)踐驗(yàn)證，深度學(xué)習(xí)訓(xùn)練對(duì)比傳統(tǒng)GPU加速方式能夠進(jìn)一步提升3~5倍。

• 高效計(jì)算。GPU資源多容器共享調(diào)度，計(jì)算成本大幅降低

業(yè)界通常的方案中，單塊GPU只能被單個(gè)容器所占用，使得昂貴的GPU資源無(wú)法被充分利用。華為云通過(guò)優(yōu)化K8S容器調(diào)度引擎，能夠?yàn)槿萜髦械腁I計(jì)算任務(wù)分配更細(xì)粒度的GPU資源，實(shí)現(xiàn)多個(gè)AI計(jì)算任務(wù)共享GPU，在部分AI計(jì)算如推理類場(chǎng)景中能夠?qū)崿F(xiàn)更高的資源利用率，從而大幅降低AI計(jì)算成本。

• 成熟應(yīng)用。主流GPU型號(hào)全適配，并在華為云EI產(chǎn)品大規(guī)模使用

華為云AI容器已完成多款主流GPU的適配，包括 Nvidia Tesla P4/P100/V100等產(chǎn)品系列，客戶可根據(jù)不同應(yīng)用場(chǎng)景靈活選取，以達(dá)到***的性價(jià)比。

華為云AI容器支持Tensorflow、Caffe等主流深度學(xué)習(xí)框架，并在華為云EI的深度學(xué)習(xí)、推理平臺(tái)、人臉/圖像/文字識(shí)別等多個(gè)服務(wù)得到廣泛應(yīng)用與驗(yàn)證。目前正式面向華為云客戶提供該項(xiàng)服務(wù)，讓客戶輕松獲得強(qiáng)勁、高效的AI計(jì)算引擎。

目前AI容器已在華為云的CCE容器服務(wù)中開(kāi)展公測(cè)，您可以訪問(wèn)以下地址申請(qǐng)?jiān)囉茫?/p>

https://console.huaweicloud.com/cce2.0/#/app/resource/cluster/list?type=GPU

HUAWEI CONNECT 2018作為華為自辦的面向ICT產(chǎn)業(yè)的全球性年度旗艦大會(huì)，將于2018年10月10日-12日在上海隆重舉行。本屆大會(huì)以“+智能，見(jiàn)未來(lái)”為主題，旨在搭建一個(gè)開(kāi)放、合作、共享的平臺(tái)，與客戶伙伴一起共同探討如何把握新機(jī)遇創(chuàng)造智能未來(lái)。欲了解更多詳情，請(qǐng)參閱：
https://www.huawei.com/cn/press-events/events/huaweiconnect2018?ic_medium=hwdc&ic_source=corp_banner_allwayson&source=corp_banner