8月28日，華為云中國行2018走進(jìn)天府之國成都。在活動(dòng)現(xiàn)場(chǎng)，華為云一連發(fā)布兩款創(chuàng)新產(chǎn)品，讓華為云全棧服務(wù)能力再上一級(jí)臺(tái)階。據(jù)華為EBG中國區(qū)行業(yè)云拓展部部長(zhǎng)胡維琦介紹，兩款新品分別是國內(nèi)首家Istio服務(wù)網(wǎng)格產(chǎn)品和全球首家GPU共享型高性能AI容器。在會(huì)后，記者采訪了這兩款新品的技術(shù)專家，請(qǐng)專家更為詳細(xì)地介紹了產(chǎn)品的相關(guān)性能，以及對(duì)用戶的價(jià)值。

GPU共享型高性能AI容器：讓AI用得起，用得好，用的放心

記者還記得，在2017年11月，華為云發(fā)布了裸金屬容器服務(wù)，集成了穩(wěn)定性、靈活性、安全性、高性能多重功能。而此次發(fā)布的GPU共享型高性能AI容器，則是疊加在裸金屬服務(wù)器之上，增加了一些專門針對(duì)AI領(lǐng)域的技術(shù)，性能更高，算力更強(qiáng)。

華為容器技術(shù)專家告訴記者，之所以會(huì)研發(fā)推出GPU共享AI容器，最重要的出發(fā)點(diǎn)就是考慮到***程度滿足用戶需求。眾所周知，GPU成本昂貴，一般的企業(yè)如果想用AI技術(shù)去做人工智能應(yīng)用，成本無疑是攔路虎之一。而華為云推出GPU共享AI容器，就能夠大幅度降低AI計(jì)算的成本，同時(shí)提升性能。

華為容器技術(shù)專家舉了一個(gè)例子：深度學(xué)習(xí)的模型訓(xùn)練非常耗GPU資源，如果GPU性能沒有充分發(fā)揮，那訓(xùn)練效率是非常低的，可能花很長(zhǎng)時(shí)間才能訓(xùn)練出一個(gè)模型。而如果使用AI容器，采用NUMA架構(gòu)，加上高速的100GB的IB網(wǎng)卡，再配合高性能GPU，就可以獲得一個(gè)非常高的AI計(jì)算性能。“我們的口號(hào)就是能夠讓大家都能用得起，用得好，也用的放心。”

記者采訪得知，GPU共享型高性能AI容器的主要受眾群體就是做人工智能的企業(yè)，滿足他們?cè)谌斯ぶ悄芊矫娴拈_發(fā)需求，并提供一些典型的應(yīng)用，例如深度學(xué)習(xí)訓(xùn)練、深度學(xué)習(xí)推理、圖像人臉識(shí)別、文字識(shí)別等。記者了解到，這款新品在市場(chǎng)上其實(shí)已經(jīng)有了一些實(shí)踐，在城市安防領(lǐng)域、智能交通領(lǐng)域都大有用武之地。

說易行難，GPU優(yōu)化的門道原來這么多！

目前市場(chǎng)上常見的模式是，用戶把GPU掛載到某一個(gè)容器上，成為它的一個(gè)資源，然后就可以使用了。但在AI場(chǎng)景中，尤其是推理計(jì)算，并不需要用到整塊或多塊CPU，只需要使用其中一部分，因此華為做了兩點(diǎn)優(yōu)化工作：一是把同一塊GPU掛給不同容器，并且與容器自身的CPU、Mem、網(wǎng)絡(luò)做配合；另一點(diǎn)是在調(diào)度方面做修改，通過K8S做資源的共享控制。如此一來，就能夠?qū)崿F(xiàn)一塊GPU共享給多個(gè)容器。

“這個(gè)產(chǎn)品還是有一定技術(shù)門檻的，最關(guān)鍵的技術(shù)難度就在于對(duì)K8S的調(diào)度以及對(duì)OS內(nèi)核的改動(dòng)。” 華為容器技術(shù)專家表示，首先需要精通K8S的調(diào)度引擎，才能對(duì)調(diào)度引擎進(jìn)行修改和優(yōu)化，其次還需要對(duì)OS操作系統(tǒng)層面有非常深入的積累。總體而言，需要對(duì)K8S調(diào)度機(jī)制、操作系統(tǒng)、GPU驅(qū)動(dòng)以及裸金屬NUMA架構(gòu)、IB網(wǎng)卡等技術(shù)有一個(gè)綜合的理解和積累，并將其融合起來。“華為在這兩塊是有長(zhǎng)期的深厚積累，而且華為的優(yōu)勢(shì)在于技術(shù)的全面性，能夠?qū)⑸鲜黾夹g(shù)整合在一起，提供一個(gè)端到端的容器全棧解決方案。”

Istio服務(wù)網(wǎng)格：因客戶需求催生，共同走向成熟

本次華為發(fā)布另外一個(gè)新品是Istio服務(wù)網(wǎng)格產(chǎn)品，這款產(chǎn)品可以與CCE容器引擎深度整合，提供非侵入、智能流量治理的應(yīng)用全生命周期管理方案，增強(qiáng)了華為云容器服務(wù)全棧能力。

服務(wù)網(wǎng)絡(luò)（Service Mesh）在美國已有兩年左右的發(fā)展時(shí)間，而在國內(nèi)則是從2017年下半年才開始關(guān)注，的確是一個(gè)比較新的熱點(diǎn)，可能會(huì)有人質(zhì)疑國內(nèi)Service Mesh新產(chǎn)品的成熟度。對(duì)此華為容器技術(shù)專家表示，華為之所以會(huì)快速推出這個(gè)產(chǎn)品，主要是因?yàn)槿A為云的容器客戶在把應(yīng)用大規(guī)模搬遷到容器上時(shí)會(huì)遇到了一些問題，例如如何做應(yīng)用運(yùn)行時(shí)的治理，包括限流、流控等，如何保障業(yè)務(wù)不被外部流量沖垮，而這些問題通過Istio服務(wù)網(wǎng)格可以得到非常好的解決。

“Istio服務(wù)網(wǎng)格最核心的理念是它完全基于業(yè)務(wù)屬性，能夠讓容器上的業(yè)務(wù)更穩(wěn)定。” 華為容器技術(shù)專家表示，華為云的很多客戶已經(jīng)在嘗試使用Istio，自己也已經(jīng)在安裝Istio，而客戶經(jīng)常會(huì)因?yàn)镮stio的問題來詢問華為云，因此華為干脆就推出了Istio服務(wù)，更好地服務(wù)用戶。“我相信隨著應(yīng)用的擴(kuò)大和深入，華為云會(huì)和客戶一起催動(dòng)Istio慢慢成熟。”

華為Istio不僅好用，而且安全

在華為容器技術(shù)專家看來，Istio服務(wù)的優(yōu)勢(shì)是十分明顯的，首先它對(duì)應(yīng)用的代碼是無侵入式的，不需要修改代碼，使用起來很方便；其次它能夠?qū)崿F(xiàn)應(yīng)用服務(wù)之間的流量治理限流，治理功能比較全面；***，它與K8S的整合性比較好，能夠提供端到端的灰度發(fā)布流程。對(duì)于華為云Istio而言，華為云力求做到讓客戶直接啟用，不再需要繁瑣的安裝部署、監(jiān)控運(yùn)維。當(dāng)談及Istio安全性時(shí)，華為容器技術(shù)專家認(rèn)為，安全性的確是需要重點(diǎn)考慮的因素，目前Istio也在著力解決，華為會(huì)持續(xù)深入研究這個(gè)領(lǐng)域的技術(shù)并落地到產(chǎn)品中。

目前Istio與華為云上的容器全棧服務(wù)，包括CCE云容器引擎、CCI云容器實(shí)例，同時(shí)也與APM應(yīng)用性能管理、AOM運(yùn)維管理服務(wù)都可以無縫整合。

Istio服務(wù)網(wǎng)格和AI容器現(xiàn)已在華為云開放公測(cè)，公測(cè)期間用戶可以直接在CCE里啟用Istio，享受一站式體驗(yàn)。感興趣的同學(xué)可以訪問以下地址申請(qǐng)?jiān)囉绵蓿?/p>

https://www.huaweicloud.com/product/cce.html

HUAWEI CONNECT 2018作為華為自辦的面向ICT產(chǎn)業(yè)的全球性年度旗艦大會(huì)，將于2018年10月10日-12日在上海隆重舉行。本屆大會(huì)以“+智能，見未來”為主題，旨在搭建一個(gè)開放、合作、共享的平臺(tái)，與客戶伙伴一起共同探討如何把握新機(jī)遇創(chuàng)造智能未來。

欲了解更多詳情，請(qǐng)參閱：

https://www.huawei.com/cn/press-events/events/huaweiconnect2018