自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

國內(nèi)首個支持千億參數(shù)大模型訓練AI計算框架MindSpore 1.2發(fā)布

企業(yè)動態(tài)
在靜態(tài)圖模式下,MindSpore融合了流水線并行、模型并行和數(shù)據(jù)并行三種并行技術,開發(fā)者只需編寫單機算法代碼,添加少量并行標簽,即可實現(xiàn)訓練過程的自動切分

   [中國,深圳,2021年4月26日]華為開發(fā)者大會2021(Cloud)期間(簡稱HDC. Cloud 2021),國內(nèi)首個支持千億參數(shù)大模型訓練的AI計算框架MindSpore 1.2正式發(fā)布。最新1.2版本帶來了AI框架領域 “全自動并行、全場景AI、可解釋推薦模型” 三大創(chuàng)新,讓開發(fā)者盡享AI開發(fā)。

  

微信圖片_20210426140016.jpg

 

  全自動并行

  在靜態(tài)圖模式下,MindSpore融合了流水線并行、模型并行和數(shù)據(jù)并行三種并行技術,開發(fā)者只需編寫單機算法代碼,添加少量并行標簽,即可實現(xiàn)訓練過程的自動切分,使得并行算法性能調(diào)優(yōu)時間從月級降為小時級,同時訓練性能相比業(yè)界標桿提升40%。

  在動態(tài)圖模式下,MindSpore獨特的函數(shù)式微分設計,能從一階微分輕易地擴展到高階微分,并進行整圖性能優(yōu)化,大幅提升動態(tài)圖性能;結(jié)合創(chuàng)新的通訊算子融合和多流并行機制,較其它AI框架,MindSpore動態(tài)圖性能提升60%。

  全場景AI

  MindSpore實現(xiàn)了在云、邊、端不同場景下硬件設備的快速應用、高效運行與有效協(xié)同。通過全場景AI的能力,Huawei Watch GT的抬腕識別率提升了80%,時延小于5ms,模型小于1KB,大幅提升了用戶體驗。

  · 在云端:通過自適應模型切分和服務內(nèi)分布式并行調(diào)度技術,可支持超大模型在多張加速卡上的推理部署,且推理性能較目前業(yè)界領先的serving服務方式提升30%;

  · 在邊緣側(cè):通過自適應模型壓縮技術,將CV類(Computer Vision 計算機視覺)模型壓縮2/3,推理時間縮短50%,用戶側(cè)實測精度損失<1%,能有效解決邊緣側(cè)算力瓶頸;

  · 在端側(cè):模型即代碼,將模型編譯到代碼里,實現(xiàn)了極小的ROM(Read-Only Memory儲存內(nèi)存)占用。同時,通過算子數(shù)據(jù)重排技術提升端側(cè)Cache命中率,可降低推理時延,解決在超輕量IOT設備進行部署時受設備類型、內(nèi)存等所限制的難題。

  可解釋推薦模型

  MindSpore內(nèi)置業(yè)界首個語義級可解釋推薦模型TB-Net,基于原創(chuàng)知識圖譜雙向傳導技術,從知識圖譜的海量關系路徑中,精準識別影響用戶行為的核心特征和關鍵路徑,提供個性化推薦和語義級的解釋,可解釋性評估指標相比業(yè)界模型提升63%。

  自2020年3月開源以來,MindSpore社區(qū)擁有逾17萬名開發(fā)者,軟件下載量超過24萬,在超過10個行業(yè)規(guī)模使用。此外,在碼云(Gitee)上MindSpore的代碼活躍度、影響力、社區(qū)活躍度、團隊構(gòu)建、流行趨勢綜合排名第一。目前,MindSpore已是發(fā)展最快的AI開源社區(qū)。

  作為華為ICT基礎設施業(yè)務面向全球開發(fā)者的年度盛會,華為開發(fā)者大會2021(Cloud)(簡稱HDC.Cloud 2021)于2021年4月24日-26日在深圳舉行。本屆大會以#每一個開發(fā)者都了不起#為主題,將匯聚業(yè)界大咖、華為科學家、頂級技術專家、天才少年和眾多開發(fā)者,共同探討和分享云、計算、人工智能等最新ICT技術在行業(yè)的深度創(chuàng)新和應用。有關大會的詳細信息,請訪問:https://developer.huaweicloud.com/HDC.Cloud2021.html

責任編輯:張誠 來源: 互聯(lián)網(wǎng)
相關推薦

2010-10-12 11:17:03

2022-12-26 14:00:10

模型升級

2023-09-20 16:55:15

華為AI 計算集群

2024-07-31 16:39:46

2010-01-11 10:02:26

Frugalware Linux

2009-11-09 12:01:30

LinuxFrugalware 操作系統(tǒng)

2020-03-30 10:50:17

AI 數(shù)據(jù)人工智能

2020-10-30 09:04:44

PyTorch 1.7分布式訓練API

2015-10-19 17:28:00

MPlayer媒體播放器開源

2023-09-19 21:09:18

百度人工智能

2011-09-29 10:11:37

EclipseJava

2012-04-11 10:10:35

JavaJFormDesign

2012-03-06 09:20:02

SpockJava

2012-04-13 09:11:13

JavajOOQ

2012-02-29 09:11:22

JavaDataNucleus

2012-03-19 10:10:55

jOOQJava

2012-03-09 09:32:13

JBossJavaOSGi

2009-06-01 15:55:06

JPAEclipseMyEclipse 6

2009-02-20 09:24:38

JavaScriptJS框架事件委托

2011-07-13 15:09:48

PHP
點贊
收藏

51CTO技術棧公眾號