一個 1 毫瓦的機(jī)器學(xué)習(xí)芯片可以做很多事情，不過像玩《毀滅戰(zhàn)士》（Doom）這樣充滿想象力的做法卻很少見。

最近幾日，在舊金山舉行的 2023 IEEE ISSCC（International Solid State Circuits Conference）大會上，總部位于加州歐文的 AI 芯片初創(chuàng)公司 Syntiant 詳細(xì)介紹了他們的產(chǎn)品  NDP200—— 一款超低功耗芯片，主要用來運(yùn)行監(jiān)控視頻的神經(jīng)網(wǎng)絡(luò)，并在發(fā)現(xiàn)重要事件時喚醒其他系統(tǒng)。

如下為 NDP200（Neural Decision Processor）玩《毀滅戰(zhàn)士》的演示視頻片段。

如何做到的呢？

Syntiant 使用了基于 Doom 的 AI 研究平臺 VizDoom，這在 AI 研究中很受歡迎。團(tuán)隊(duì)使用強(qiáng)化學(xué)習(xí)來訓(xùn)練多層神經(jīng)網(wǎng)絡(luò)，其中第一層負(fù)責(zé)理解網(wǎng)絡(luò)看到的內(nèi)容，而最后一層負(fù)責(zé)采取響應(yīng)行動。總的來說，這個網(wǎng)絡(luò)由大約 60 萬個參數(shù)組成。雖然沒有 ChatGPT 所需的億級規(guī)模參數(shù)，但仍然要比監(jiān)聽「OK, Google」這類關(guān)鍵短語所需的 10000 個參數(shù)強(qiáng)大得多。NDP200 有 640 kilobytes 的板載內(nèi)存用于神經(jīng)網(wǎng)絡(luò)參數(shù)。

圖源：https://www.syntiant.com/ndp200

如上展示的片段中的游戲關(guān)卡叫做「保衛(wèi)圓圈」，它讓玩家在一個圓形房間內(nèi)移動，射擊面前的怪物。IEEE Fellow、前 Syntiant 高級工程師副總裁 David Garrett 表示，在訓(xùn)練中，神經(jīng)網(wǎng)絡(luò)必須首先識別怪物，然后學(xué)習(xí)射擊它們。在第一次殺死獵物后，系統(tǒng)會卸載 clip（可以理解為一種文件類型），但后來發(fā)現(xiàn)這不是一個好辦法。因此，系統(tǒng)很快就學(xué)會了節(jié)省彈藥。

盡管《毀滅戰(zhàn)士》的演示非常精彩，但 NDP200 還有更多實(shí)際用途。Garrett 指出，它有能力進(jìn)行人體輪廓檢測，這是一項(xiàng)通常由更強(qiáng)大的處理器完成的關(guān)鍵任務(wù)。Syntiant 芯片可以運(yùn)行人體檢測，作為家庭或汽車安全系統(tǒng)的節(jié)能步驟。

為了展示其能源效率，Syntiant 將 NDP200 與基于 Arm Cortex A53 的處理器進(jìn)行了比較，該處理器運(yùn)行了 20 萬個參數(shù)版本的 MobileNetV1，這是 MLPerf 用來判斷系統(tǒng)對視覺喚醒詞響應(yīng)情況的測試。NDP200 每次掃描圖像只使用 166 微焦耳，大約是 Arm 處理器的 1/100。因此，Syntiant 芯片每秒可以掃描 6 幀視頻，而耗電量為 1 毫瓦。

這款芯片并沒有那么神秘，它有一條定制的路徑，數(shù)據(jù)在芯片的神經(jīng)決策處理器中流動。據(jù) Garett 介紹，它盡可能充分利用了芯片的乘法累加單元，即機(jī)器學(xué)習(xí)計(jì)算的核心，將高達(dá)每秒 9 gigabytes 的數(shù)據(jù)帶寬傳輸?shù)缴窠?jīng)核心。

Garrett 不愿透露 Syntiant 下一步的技術(shù)發(fā)展，但他表示會有更多有趣的應(yīng)用。他說：50 萬個參數(shù)足夠做出真正的好東西了。