【51CTO.com原創(chuàng)稿件】8月28日，華為云中國行2018走進(jìn)天府之國成都。在活動現(xiàn)場，華為云一連發(fā)布兩款創(chuàng)新產(chǎn)品，讓華為云全棧服務(wù)能力再上一級臺階。據(jù)華為EBG中國區(qū)行業(yè)云拓展部部長胡維琦介紹，兩款新品分別是國內(nèi)首家Istio服務(wù)網(wǎng)格產(chǎn)品和全球首家GPU共享型高性能AI容器。在會后，記者采訪了這兩款新品的技術(shù)專家，請專家更為詳細(xì)地介紹了產(chǎn)品的相關(guān)性能，以及對用戶的價值。

[[242697]]

　　GPU共享型高性能AI容器：讓AI用得起，用得好，用的放心

　　記者還記得，在2017年11月，華為云發(fā)布了裸金屬容器服務(wù)，集成了穩(wěn)定性、靈活性、安全性、高性能多重功能。而此次發(fā)布的GPU共享型高性能AI容器，則是疊加在裸金屬服務(wù)器之上，增加了一些專門針對AI領(lǐng)域的技術(shù)，性能更高，算力更強(qiáng)。

　　華為容器技術(shù)專家告訴記者，之所以會研發(fā)推出GPU共享AI容器，最重要的出發(fā)點(diǎn)就是考慮到***程度滿足用戶需求。眾所周知，GPU成本昂貴，一般的企業(yè)如果想用AI技術(shù)去做人工智能應(yīng)用，成本無疑是攔路虎之一。而華為云推出GPU共享AI容器，就能夠大幅度降低AI計(jì)算的成本，同時提升性能。

　　華為容器技術(shù)專家舉了一個例子：深度學(xué)習(xí)的模型訓(xùn)練非常耗GPU資源，如果GPU性能沒有充分發(fā)揮，那訓(xùn)練效率是非常低的，可能花很長時間才能訓(xùn)練出一個模型。而如果使用AI容器，采用NUMA架構(gòu)，加上高速的100GB的IB網(wǎng)卡，再配合高性能GPU，就可以獲得一個非常高的AI計(jì)算性能。“我們的口號就是能夠讓大家都能用得起，用得好，也用的放心。”

　　記者采訪得知，GPU共享型高性能AI容器的主要受眾群體就是做人工智能的企業(yè)，滿足他們在人工智能方面的開發(fā)需求，并提供一些典型的應(yīng)用，例如深度學(xué)習(xí)訓(xùn)練、深度學(xué)習(xí)推理、圖像人臉識別、文字識別等。記者了解到，這款新品在市場上其實(shí)已經(jīng)有了一些實(shí)踐，在城市安防領(lǐng)域、智能交通領(lǐng)域都大有用武之地。

　　說易行難，GPU優(yōu)化的門道原來這么多!

　　目前市場上常見的模式是，用戶把GPU掛載到某一個容器上，成為它的一個資源，然后就可以使用了。但在AI場景中，尤其是推理計(jì)算，并不需要用到整塊或多塊CPU，只需要使用其中一部分，因此華為做了兩點(diǎn)優(yōu)化工作：一是把同一塊GPU掛給不同容器，并且與容器自身的CPU、Mem、網(wǎng)絡(luò)做配合;另一點(diǎn)是在調(diào)度方面做修改，通過K8S做資源的共享控制。如此一來，就能夠?qū)崿F(xiàn)一塊GPU共享給多個容器。

　　“這個產(chǎn)品還是有一定技術(shù)門檻的，最關(guān)鍵的技術(shù)難度就在于對K8S的調(diào)度以及對OS內(nèi)核的改動。” 華為容器技術(shù)專家表示，首先需要精通K8S的調(diào)度引擎，才能對調(diào)度引擎進(jìn)行修改和優(yōu)化，其次還需要對OS操作系統(tǒng)層面有非常深入的積累?？傮w而言，需要對K8S調(diào)度機(jī)制、操作系統(tǒng)、GPU驅(qū)動以及裸金屬NUMA架構(gòu)、IB網(wǎng)卡等技術(shù)有一個綜合的理解和積累，并將其融合起來。“華為在這兩塊是有長期的深厚積累，而且華為的優(yōu)勢在于技術(shù)的全面性，能夠?qū)⑸鲜黾夹g(shù)整合在一起，提供一個端到端的容器全棧解決方案。”

　　Istio服務(wù)網(wǎng)格：因客戶需求催生，共同走向成熟

　　本次華為發(fā)布另外一個新品是Istio服務(wù)網(wǎng)格產(chǎn)品，這款產(chǎn)品可以與CCE容器引擎深度整合，提供非侵入、智能流量治理的應(yīng)用全生命周期管理方案，增強(qiáng)了華為云容器服務(wù)全棧能力。

　　服務(wù)網(wǎng)絡(luò)(Service Mesh)在美國已有兩年左右的發(fā)展時間，而在國內(nèi)則是從2017年下半年才開始關(guān)注，的確是一個比較新的熱點(diǎn)，可能會有人質(zhì)疑國內(nèi)Service Mesh新產(chǎn)品的成熟度。對此華為容器技術(shù)專家表示，華為之所以會快速推出這個產(chǎn)品，主要是因?yàn)槿A為云的容器客戶在把應(yīng)用大規(guī)模搬遷到容器上時會遇到了一些問題，例如如何做應(yīng)用運(yùn)行時的治理，包括限流、流控等，如何保障業(yè)務(wù)不被外部流量沖垮，而這些問題通過Istio服務(wù)網(wǎng)格可以得到非常好的解決。

　　“Istio服務(wù)網(wǎng)格最核心的理念是它完全基于業(yè)務(wù)屬性，能夠讓容器上的業(yè)務(wù)更穩(wěn)定。” 華為容器技術(shù)專家表示，華為云的很多客戶已經(jīng)在嘗試使用Istio，自己也已經(jīng)在安裝Istio，而客戶經(jīng)常會因?yàn)镮stio的問題來詢問華為云，因此華為干脆就推出了Istio服務(wù)，更好地服務(wù)用戶。“我相信隨著應(yīng)用的擴(kuò)大和深入，華為云會和客戶一起催動Istio慢慢成熟。”

　　華為Istio不僅好用，而且安全

　　在華為容器技術(shù)專家看來，Istio服務(wù)的優(yōu)勢是十分明顯的，首先它對應(yīng)用的代碼是無侵入式的，不需要修改代碼，使用起來很方便;其次它能夠?qū)崿F(xiàn)應(yīng)用服務(wù)之間的流量治理限流，治理功能比較全面;***，它與K8S的整合性比較好，能夠提供端到端的灰度發(fā)布流程。對于華為云Istio而言，華為云力求做到讓客戶直接啟用，不再需要繁瑣的安裝部署、監(jiān)控運(yùn)維。當(dāng)談及Istio安全性時，華為容器技術(shù)專家認(rèn)為，安全性的確是需要重點(diǎn)考慮的因素，目前Istio也在著力解決，華為會持續(xù)深入研究這個領(lǐng)域的技術(shù)并落地到產(chǎn)品中。

　　目前Istio與華為云上的容器全棧服務(wù)，包括CCE云容器引擎、CCI云容器實(shí)例，同時也與APM應(yīng)用性能管理、AOM運(yùn)維管理服務(wù)都可以無縫整合。

　　Istio服務(wù)網(wǎng)格和AI容器現(xiàn)已在華為云開放公測，公測期間用戶可以直接在CCE里啟用Istio，享受一站式體驗(yàn)。感興趣的同學(xué)可以訪問以下地址申請?jiān)囉绵蓿?/p>

　　https://www.huaweicloud.com/product/cce.html

　　HUAWEI CONNECT 2018作為華為自辦的面向ICT產(chǎn)業(yè)的全球性年度旗艦大會，將于2018年10月10日-12日在上海隆重舉行。本屆大會以“+智能，見未來”為主題，旨在搭建一個開放、合作、共享的平臺，與客戶伙伴一起共同探討如何把握新機(jī)遇創(chuàng)造智能未來。

　　欲了解更多詳情，請參閱：

　　https://www.huawei.com/cn/press-events/events/huaweiconnect2018

【51CTO原創(chuàng)稿件，合作站點(diǎn)轉(zhuǎn)載請注明原文作者和出處為51CTO.com】