每秒處理107萬張圖片!阿里云打破MLPerf圖像分類性能記錄
繼刷新單芯片AI性能紀錄后,阿里巴巴再次在全球頂級AI評測中登頂。
北京時間4月22日,國際權(quán)威AI基準測試MLPerf™公布了2021年最新推理測試榜單。圖像分類性能測試中,阿里云震旦異構(gòu)計算加速平臺在通用GPU開放規(guī)則和離線場景下以每秒處理107.8萬張圖片的成績,打破了此前谷歌保持的世界紀錄。這將進一步提升圖像識別、自動駕駛等場景下的計算效率,也是通用GPU計算平臺上首次跑出超百萬級的性能測試紀錄。
MLPerf是業(yè)內(nèi)首套衡量機器學(xué)習(xí)軟硬件性能的通用基準,由圖靈獎得主David Patterson聯(lián)合科技公司和全球頂級高校于2018年發(fā)起,已成為業(yè)界評測AI性能的最主流標(biāo)準之一。MLPerf基準聯(lián)盟現(xiàn)有50多家成員,包括谷歌、阿里巴巴、微軟、Facebook等及斯坦福、哈佛、多倫多大學(xué)等名校。
震旦是阿里云自研的異構(gòu)計算加速平臺,適配GPU、ASIC等多種異構(gòu)AI芯片,優(yōu)化編譯代碼,深挖和釋放異構(gòu)芯片算力,支持TensorFlow、Caffe、PAI等多種深度學(xué)習(xí)框架,可實現(xiàn)AI框架及算法的無縫遷移適配,支持云變端多場景快速部署,大幅提升AI應(yīng)用開發(fā)效率。在MLPerf最新版的圖像分類測試中,震旦平臺針對圖像分類神經(jīng)網(wǎng)絡(luò)架構(gòu)進行自動優(yōu)化,在保證基準測試精度目標(biāo)的同時,遠超標(biāo)準ResNet50 v1.5的計算效率。
阿里云異構(gòu)計算首席科學(xué)家、震旦加速平臺負責(zé)人張偉豐博士透露,震旦對底層軟件框架做了大量編譯優(yōu)化,可在同等硬件配置下發(fā)揮更高性能。MLPerf推理性能的單卡測試結(jié)果顯示,使用震旦加速平臺的自動優(yōu)化技術(shù),在英偉達AI專用GPU A100上跑出了比同級硬件高出80%的推理性能成績;在其它AI加速芯片上,更可幫助提升超過300%的性能。
在此之前,廠商熱衷通過堆疊硬件刷新性能評測成績,但在更接近實操的開放場景下的性能表現(xiàn)參差不齊,“高集成度的專業(yè)化AI芯片對場景限制很多,我們希望研發(fā)出更通用的軟件平臺來發(fā)揮AI應(yīng)用的價值,”張偉豐博士透露,震旦異構(gòu)計算加速平臺不僅可在數(shù)據(jù)中心部署,還可以在邊緣和智能終端部署,支撐自動駕駛、交通大腦、車牌識別、AI語音助手等業(yè)務(wù)和場景。
以自動駕駛為例,車載計算機通過實時協(xié)同處理攝像頭或雷達信息,正確感知行駛環(huán)境并據(jù)此做出反應(yīng)。“目前先進的自動駕駛解決方案需要配備10路甚至更多的視覺和雷達裝置,不斷增加的外部傳感數(shù)據(jù)處理對車機系統(tǒng)計算能力提出了挑戰(zhàn)。采用震旦平臺的軟硬協(xié)同自動優(yōu)化技術(shù)后,車載計算機的處理速度至少提升一倍,從而對行駛環(huán)境做出更加迅速的感知,并大幅提高自動駕駛的安全性。”張偉豐博士表示。
目前,震旦異構(gòu)計算加速平臺已大規(guī)模應(yīng)用于路口檢測、以圖搜圖等場景。應(yīng)用了震旦加速平臺的新一代路側(cè)智能控制終端,交通參數(shù)檢測準確率可達99%,幫助路口通行效率優(yōu)化提升20%以上。此外,該平臺已通過阿里云彈性計算加速實例EAIS對外提供服務(wù),具備配置靈活、彈性伸縮等特點,為用戶提供高性價比的深度學(xué)習(xí)解決方案。