性能最高提升480倍:Arm推出2款新AI邊緣計(jì)算芯片設(shè)計(jì)
本文經(jīng)AI新媒體量子位(公眾號(hào)ID:QbitAI)授權(quán)轉(zhuǎn)載,轉(zhuǎn)載請(qǐng)聯(lián)系出處。
Arm 推出了 2 款具有 AI 功能的 NPU(神經(jīng)處理單元),Arm Cortex-M55 和Ethos-U55。
新芯片專為物聯(lián)網(wǎng)終端設(shè)備設(shè)計(jì),不需要云連接,旨在提高低功耗嵌入式設(shè)備的機(jī)器學(xué)習(xí)和推理能力。
Arm 稱,在某些語(yǔ)音和視覺(jué)場(chǎng)景下,能將機(jī)器學(xué)習(xí)性能提升多達(dá) 480倍。
這兩款芯片預(yù)計(jì) 2021 年初上市。
Cortex-M55:氦氣技術(shù)+自定義指令能力
Cortex-M55 屬于 Arm 的 Cortex-M 產(chǎn)品系列,具有性價(jià)比高、高能效的特點(diǎn)。
這是第一款基于 Arm 氦氣技術(shù)的片上系統(tǒng)。所謂氦氣技術(shù),實(shí)際上是針對(duì) Arm Cortex-M 系列處理器的 M-Profile 矢量擴(kuò)展(MVE)技術(shù),旨在為最小的嵌入式設(shè)備提供增強(qiáng)的機(jī)器學(xué)習(xí)和信號(hào)處理。

這是 Armv8.1-M 架構(gòu)的擴(kuò)展,該架構(gòu)針對(duì)低功耗芯片進(jìn)行了優(yōu)化,增加了150多個(gè)新的標(biāo)量和矢量指令。可以有效計(jì)算 8 位、16 位和 32 位定點(diǎn)數(shù)據(jù)。
對(duì)于 8 位定點(diǎn)格式,補(bǔ)充了浮點(diǎn)數(shù)據(jù)類型,包括單精度浮點(diǎn)數(shù)(32 位)和版精度浮點(diǎn)數(shù)(16 位)。
Arm 表示,與前代產(chǎn)品相比,采用氦氣技術(shù)的 Cortex-M55 可將數(shù)字信號(hào)處理性能提高 5 倍,將機(jī)器學(xué)習(xí)性能提高 15 倍。
此外,它還允許高級(jí)內(nèi)存接口提供對(duì)機(jī)器學(xué)習(xí)數(shù)據(jù)的快速訪問(wèn),并內(nèi)置于 Arm TrustZone 系統(tǒng)內(nèi)。
Ethos-U55:Arm 首款 microNPU
Ethos-U55 屬于 Cortex-M 處理器的配套 NPU 加速器架構(gòu),致力于解決對(duì)電池壽命和成本敏感的復(fù)雜AI計(jì)算難題,需要和 Cortex-M55、Cortex-M33、Cortex-M7、Cortex-M4 等產(chǎn)品搭配使用。
Ethos-U55 的設(shè)計(jì)非常精簡(jiǎn),著眼于面積和功率效率,具有較小的內(nèi)存占用量。
簡(jiǎn)而言之,這是一款既小又省電、可以在最小的電子設(shè)備上運(yùn)行的神經(jīng)網(wǎng)絡(luò)專用芯片。
它包含 32 至 256 個(gè)可配置計(jì)算單元,與基本的 Cortex-M55 相比,最多可實(shí)現(xiàn) 32 倍的機(jī)器學(xué)習(xí)性能提升。
也就是說(shuō),與前幾代 Cortex-M 芯片相比,Ethos-U55 + Cortex-M55 的組合,運(yùn)行機(jī)器學(xué)習(xí)任務(wù)的速度最高能提升 480 倍。

Arm表示,與 Cortex-M7 相比,Cortex-M55 和 Ethos-U55 的組合,在推理速度上能快 50 倍,在語(yǔ)音活動(dòng)檢測(cè)、噪聲消除等任務(wù)當(dāng)中,能效最高能提升 25 倍。

而在軟件方面,Cortex-M55 和 Ethos-U55 都可以與流行的機(jī)器學(xué)習(xí)框架(TensorFlow 和 PyTorch),以及 Arm 自家的解決方案很好地配合使用。
應(yīng)用領(lǐng)域
機(jī)器學(xué)習(xí)現(xiàn)在正在被部署到各種行業(yè)的各個(gè)系統(tǒng)當(dāng)中。
AI邊緣芯片,正在成為廠商們互相斗法的新“戰(zhàn)場(chǎng)”。
比如英特爾的 Myriad,谷歌的 Edge TPU,英偉達(dá)的 Jetson Nano 等等。
Arm 認(rèn)為,終端 AI 市場(chǎng)將成為未來(lái)幾年中出現(xiàn)爆炸性增長(zhǎng)的領(lǐng)域。
新的 IP 版本,正是為了涵蓋這一領(lǐng)域。
比如,新芯片將能夠把AI應(yīng)用程序帶到農(nóng)業(yè)領(lǐng)域。
成百上千個(gè)配備了機(jī)器學(xué)習(xí)功能的低成本傳感器可以仔細(xì)校準(zhǔn)每株植物需要的水量、肥料和殺蟲劑。
比如無(wú)人駕駛汽車和智能醫(yī)療設(shè)備的落地,都需要 AI 邊緣芯片的加持。
Arm表示,Cortex M55 + Ethos U-55 的組合,可以執(zhí)行更高級(jí)別的機(jī)器學(xué)習(xí)任務(wù),包括手勢(shì)檢測(cè)、指紋、面部、語(yǔ)音識(shí)別等。
Arm 汽車及物聯(lián)網(wǎng)業(yè)務(wù) VP 兼總經(jīng)理迪普提·瓦查妮(Dipti Vachani)補(bǔ)充說(shuō):
讓 AI 在功率相對(duì)較低的設(shè)備上運(yùn)行,而不是必須與基于云的數(shù)據(jù)中心保持通信,對(duì)數(shù)據(jù)安全和隱私而言至關(guān)重要。
不過(guò),Arm 的新芯片設(shè)計(jì)都屬于推理芯片,對(duì)對(duì)象分類和實(shí)時(shí)人臉識(shí)別這樣的計(jì)算密集型任務(wù)并不適用。