長(zhǎng)期以來(lái)，人腦一直給研究者們提供著靈感，因?yàn)樗鼜哪撤N程度上以有效的生物能量支持我們的計(jì)算能力，并且以神經(jīng)元作為基礎(chǔ)激發(fā)單位。受人腦的低功耗和快速計(jì)算特點(diǎn)啟發(fā)的神經(jīng)形態(tài)芯片在計(jì)算界已經(jīng)不是一個(gè)新鮮主題了。由于復(fù)雜算法和架構(gòu)的快速發(fā)展，散熱已經(jīng)成為了一個(gè)重大挑戰(zhàn)。神經(jīng)形態(tài)計(jì)算或許會(huì)是超大規(guī)模機(jī)器和人工智能應(yīng)用（例如自動(dòng)駕駛）未來(lái)的基石。

「不知為何，人腦——我們自己的生物體——已經(jīng)弄清楚了如何讓人腦在傳遞 AI 操作上比傳統(tǒng)的超級(jí)計(jì)算機(jī)快一百萬(wàn)倍」神經(jīng)形態(tài)是一次機(jī)會(huì)，它嘗試提出一個(gè)基于 CMOS 的架構(gòu)，它能夠模仿人腦，從人腦模型中獲益，保持能效和成本效益。——Mark Seager, Intel Fellow，可擴(kuò)展數(shù)據(jù)中心 HPC 生態(tài)系統(tǒng)的 CTO

神經(jīng)形態(tài)芯片的最初思想可以追溯到加州理工學(xué)院的 Carver Mead 教授在 1990 年發(fā)表的一篇論文。Mead 在論文中提出，模擬芯片能夠模仿人腦神經(jīng)元和突觸的活動(dòng)，與模擬芯片的二進(jìn)制本質(zhì)不同，模擬芯片是一種輸出可以變化的芯片。模仿人腦活動(dòng)的意義在于我們可以通過(guò)它們來(lái)學(xué)習(xí)。傳統(tǒng)的芯片在每一次傳輸中都會(huì)保持固定的特定電壓。正如 Mead 在 2013 年的對(duì)話(huà)中提到的一樣，當(dāng)遇到在今天的機(jī)器學(xué)習(xí)任務(wù)中被使用的復(fù)雜算法和架構(gòu)的時(shí)候，散熱就成了芯片行業(yè)中***的挑戰(zhàn)。

相反，神經(jīng)形態(tài)芯片只需要一個(gè)低水平的能耗，因?yàn)樗念?lèi)生物本質(zhì)。人腦非常節(jié)能的一個(gè)原因就是，神經(jīng)沖動(dòng)在傳遞的過(guò)程中只會(huì)放掉一小部分的電量。只有當(dāng)積累的電量超過(guò)一個(gè)設(shè)定的界限時(shí)，信號(hào)才會(huì)通過(guò)。這意味著神經(jīng)形態(tài)芯片是事件驅(qū)動(dòng)的，并且只有在需要的時(shí)候才會(huì)運(yùn)作，這就導(dǎo)致了一個(gè)更好的運(yùn)行環(huán)境以及更低的能耗。

幾家公司已經(jīng)投資了在腦啟發(fā)計(jì)算中的研究。無(wú)線(xiàn)技術(shù)公司高通在 2014 年的時(shí)候展示了引人入目的基于神經(jīng)形態(tài)芯片的機(jī)器人。這款機(jī)器人能夠在智能手機(jī)芯片上用修改過(guò)的軟件實(shí)現(xiàn)通常需要專(zhuān)門(mén)編程的計(jì)算機(jī)才能實(shí)現(xiàn)的任務(wù)。IBM 2014 年生產(chǎn)的 SyNAPSE 芯片也是用腦啟發(fā)計(jì)算架構(gòu)構(gòu)建的，它有著難以置信的低功耗，在實(shí)時(shí)運(yùn)行中只有 70mW。最近，神經(jīng)形態(tài)再次引起了 IBM 和英特爾這些公司的興趣。與之前 2013、2014 年那時(shí)候意欲制造市場(chǎng)化的產(chǎn)品不同，這次他們希望以研究的目的進(jìn)行探索。

英特爾在 2012 年就作為***批原型之一提出過(guò)一種類(lèi)似于生物神經(jīng)網(wǎng)絡(luò)的自旋—CMOS 混合人工神經(jīng)網(wǎng)絡(luò)（spin-CMOS Hybrid ANN）的設(shè)計(jì)樣例。在這個(gè)設(shè)計(jì)中，神經(jīng)元磁體構(gòu)成了觸發(fā)部位。磁隧道結(jié)（MTJ）類(lèi)似于神經(jīng)元的細(xì)胞體，域墻磁體（domain wall magnets，DWM）類(lèi)似于突觸。通道中央?yún)^(qū)域的自旋勢(shì)能等于控制激活/非激活狀態(tài)的細(xì)胞體的電勢(shì)能。CMOS 的檢測(cè)和傳輸單元可以被比作傳輸電信號(hào)到接受神經(jīng)元的突觸（如圖 1 所示）。

除了低功耗方面的優(yōu)勢(shì)，神經(jīng)形態(tài)設(shè)備還比較擅長(zhǎng)在那些除了超級(jí)計(jì)算之外的需要模式匹配的任務(wù)，例如自動(dòng)駕駛和實(shí)時(shí)傳感饋送神經(jīng)網(wǎng)絡(luò)。換句話(huà)說(shuō)，就是那些需要模擬人腦思考或者「認(rèn)知計(jì)算」的應(yīng)用，而不是簡(jiǎn)單的更強(qiáng)能力的復(fù)雜計(jì)算。正如 Mark Seager 所建議的，神經(jīng)形態(tài)的發(fā)展應(yīng)該聚焦于具有大量浮點(diǎn)向量單元和更高并行度的架構(gòu)，并且能夠以相當(dāng)統(tǒng)一的方式去處理高度分層記憶。更具體的，關(guān)于神經(jīng)網(wǎng)絡(luò)，研究的重點(diǎn)是如何通過(guò)互聯(lián)來(lái)并行化機(jī)器學(xué)習(xí)的任務(wù)，例如英特爾開(kāi)發(fā)的 OmniPath，來(lái)解決更大、更復(fù)雜的機(jī)器學(xué)習(xí)問(wèn)題，從而在多節(jié)點(diǎn)上進(jìn)行擴(kuò)展。目前擴(kuò)展性限制在數(shù)十個(gè)到數(shù)百個(gè)節(jié)點(diǎn)之間，這讓神經(jīng)形態(tài)芯片的潛能受到了限制。然而，有一件事是合理的，即隨著計(jì)算神經(jīng)網(wǎng)絡(luò)算法和模型的進(jìn)步，可擴(kuò)展性可以大幅增加，這會(huì)允許神經(jīng)形態(tài)芯片有著更多的進(jìn)步空間。

然而，我們必需承認(rèn)，盡管神經(jīng)形態(tài)在未來(lái)的計(jì)算方向上是很有前途的，但是它們?nèi)匀惶幱诶碚撍剑⑶疫€沒(méi)有被大量地生產(chǎn)。有幾種設(shè)備據(jù)說(shuō)有神經(jīng)形態(tài)芯片的元素，尚且存在爭(zhēng)議，例如 Audience 生產(chǎn)的噪聲抑制器，但是它們還未向目前大量的要獲得其性能評(píng)估的刺激低頭。正在進(jìn)行的研究已經(jīng)被證明有了克服實(shí)現(xiàn)神經(jīng)形態(tài)芯片所遇到的困難的進(jìn)展性工作，并且給神經(jīng)形態(tài)計(jì)算許諾了一個(gè)美好的未來(lái)。

實(shí)驗(yàn)

「這個(gè)架構(gòu)能夠解決從視覺(jué)、聲音以到多場(chǎng)景融合的很廣泛的問(wèn)題，并且有潛力通過(guò)在計(jì)算受到功率和速度限制的設(shè)備中集成類(lèi)腦性能來(lái)革新計(jì)算機(jī)產(chǎn)業(yè)?！?mdash;Dharmendra Modha, IBM Fellow

神經(jīng)形態(tài)的目標(biāo)是將神經(jīng)科學(xué)作為算法的靈感來(lái)從中抽象出關(guān)鍵思想來(lái)指導(dǎo)神經(jīng)形態(tài)計(jì)算架構(gòu)的未來(lái)發(fā)展方向。然而，將我們的生物結(jié)構(gòu)轉(zhuǎn)換為振蕩器（oscillators）和半導(dǎo)體的電氣設(shè)備并不是一件容易的事情。

為了獲得神經(jīng)形態(tài)芯片的優(yōu)勢(shì)，需要大量的振蕩器來(lái)進(jìn)行模仿。今天的深度神經(jīng)網(wǎng)絡(luò)早已擁有數(shù)百萬(wàn)個(gè)節(jié)點(diǎn)，更別提朝著擁有更多節(jié)點(diǎn)的更復(fù)雜的神經(jīng)網(wǎng)絡(luò)的努力正在進(jìn)行。為了達(dá)到和人腦相當(dāng)?shù)哪芰?，需要?shù)十億個(gè)振蕩器。使用軟件來(lái)激發(fā)如此巨大的神經(jīng)網(wǎng)絡(luò)是特別耗能的，但是用硬件來(lái)處理的話(huà)就會(huì)好很多。為了將所有的節(jié)點(diǎn)都布置在指尖大小的芯片上，納米級(jí)的振蕩器是必不可少的。

那么問(wèn)題來(lái)了，因?yàn)榧{米級(jí)的振蕩器很容易受到噪聲的影響。這類(lèi)振蕩器在熱擾動(dòng)下會(huì)改變行為，并且它們的特性會(huì)隨著時(shí)間的變化而發(fā)生漂移。神經(jīng)形態(tài)計(jì)算在對(duì)付處理電路中的噪聲方面做得不是很好，盡管它可以容忍輸入的不可靠性。以分類(lèi)任務(wù)為例，當(dāng)提供相似的輸入時(shí)，每次都需要相同的神經(jīng)網(wǎng)絡(luò)分類(lèi)。由于噪聲原因，只存在用納米級(jí)振蕩器實(shí)現(xiàn)神經(jīng)形態(tài)芯片的理論方案，而不是實(shí)證實(shí)現(xiàn)。然而，一篇最近的文章提出了能夠克服這個(gè)困難的解決方案，并且成功地模擬了使用專(zhuān)用納米磁振蕩器的神經(jīng)元集合的振蕩行為。

研究者已經(jīng)發(fā)現(xiàn)，在特定的動(dòng)力學(xué)條件下，使用自旋矩振蕩器可以高信噪比地同義地實(shí)現(xiàn)***的分類(lèi)結(jié)果。如圖 2 所示，自旋振蕩器包括兩個(gè)題詞曾和一個(gè)夾在中間的正常間隔組件，和當(dāng)前磁存儲(chǔ)器單元有著完全相同的結(jié)構(gòu)。如上圖所示，由充電電流產(chǎn)生的磁化振蕩被轉(zhuǎn)換成了電壓振蕩。之后關(guān)于語(yǔ)音數(shù)字識(shí)別的實(shí)驗(yàn)證明自旋矩振蕩器在神經(jīng)形態(tài)任務(wù)上可以達(dá)到當(dāng)前***的表現(xiàn)。

一個(gè)比較簡(jiǎn)單的波形識(shí)別任務(wù)被用來(lái)研究自旋振蕩器在模式識(shí)別中的作用。每一個(gè)正弦波或者方波都被標(biāo)記了 8 個(gè)離散的紅點(diǎn)，任務(wù)要求在紅點(diǎn)處區(qū)分正弦波和方波。圖 3b 表明為了創(chuàng)建空間神經(jīng)網(wǎng)絡(luò)中藍(lán)色部分所描述的路徑，需要很多非線(xiàn)性神經(jīng)元。如圖 3c 所示，路徑也可以根據(jù)時(shí)間來(lái)定義，例如根據(jù)每一個(gè)振蕩器幅值的非線(xiàn)性軌跡。每一個(gè)輸入將會(huì)觸發(fā)振蕩器幅值的特定路徑，并且，如果時(shí)間步長(zhǎng)被設(shè)定為振蕩器松弛時(shí)間（relaxation time）的一部分，這將會(huì)生成一個(gè)瞬態(tài)的動(dòng)態(tài)狀態(tài)。這意味著，與傳統(tǒng)的神經(jīng)元空間分離的神經(jīng)網(wǎng)絡(luò)相比，單個(gè)振蕩器作為在時(shí)間上相連的一組虛擬神經(jīng)元。這個(gè)功能創(chuàng)建了一個(gè)關(guān)于過(guò)去事件的記憶池，并且，如果之前的輸入有所不同，這會(huì)讓振蕩器在面對(duì)相同的輸入時(shí)有著不同的響應(yīng)。由于振蕩器的松弛時(shí)間有限，所以對(duì)正弦波和方波的***分離也是可能的。

在硬件上模擬神經(jīng)網(wǎng)絡(luò)的迭代訓(xùn)練也能夠補(bǔ)償處理過(guò)程中存在的異常。正如上面提到的一樣，在模擬硬件的情形下，失真可能在動(dòng)力學(xué)中起到重要的作用?？刂七@些異常是很重要的，因?yàn)榫W(wǎng)絡(luò)的性能基本上要依靠對(duì)精確參數(shù)的訓(xùn)練。

使用由軟件訓(xùn)練的深層神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換的 BrainScaleS 晶圓級(jí)神經(jīng)元系統(tǒng)上的尖峰網(wǎng)絡(luò)來(lái)證明在線(xiàn)訓(xùn)練所提供的補(bǔ)償。然后在每個(gè)訓(xùn)練階段進(jìn)行一次循環(huán)訓(xùn)練，然后記錄活動(dòng)。網(wǎng)絡(luò)活動(dòng)首先記錄在硬件中，并使用反向傳播算法進(jìn)行處理，以更新參數(shù)。研究人員發(fā)現(xiàn)，參數(shù)更新在訓(xùn)練步驟中不一定要精確，而只需要大致遵循正確的漸變趨勢(shì)。因此，可以簡(jiǎn)化該模型中更新的計(jì)算。盡管模擬基板的固有變化，這種方法允許快速學(xué)習(xí)，只需幾十次迭代即可達(dá)到接近理想軟件仿真原型的精度。

神經(jīng)形態(tài)硬件實(shí)現(xiàn)通常會(huì)在系統(tǒng)精度上面臨另外一個(gè)主要的挑戰(zhàn)。突觸權(quán)重的有限精度會(huì)降低系統(tǒng)精度，這阻礙了神經(jīng)形態(tài)系統(tǒng)的廣泛應(yīng)用。

納米級(jí)的振蕩器應(yīng)該獲得連續(xù)的模擬電阻，但是在實(shí)際設(shè)備中僅僅能夠?qū)崿F(xiàn)幾個(gè)穩(wěn)定的電阻狀態(tài)。一項(xiàng)最近的工作提出了三種校正方法，以學(xué)習(xí)一級(jí)精度（one-level precision）的突觸：

1. 分布感知量化（DQ/distribution-aware quantization）將不同層中的權(quán)重離散到不同的數(shù)值。這個(gè)方法是基于對(duì)網(wǎng)絡(luò)不同層的權(quán)重的觀測(cè)提出的。
2. 量化正則化（QR/quantization regularization）直接在訓(xùn)練過(guò)程中學(xué)習(xí)網(wǎng)絡(luò)的離散權(quán)重。正則化可以以一個(gè)固定的梯度來(lái)減小一個(gè)權(quán)重和離它最近的量化水平之間的距離。
3. 動(dòng)態(tài)的偏置調(diào)節(jié)（BT/bias tuning）可以學(xué)習(xí)***的偏置補(bǔ)償以最小化對(duì)量化的影響。這還可以在基于神經(jīng)形態(tài)系統(tǒng)中的憶阻器中的減輕突觸變化的影響。

這三個(gè)方法讓模型實(shí)現(xiàn)了和當(dāng)前先進(jìn)水平相當(dāng)?shù)膱D像分類(lèi)精度。使用多層感知機(jī)和卷積神經(jīng)網(wǎng)絡(luò)分別在 MNIST 數(shù)據(jù)集和 CIFAR-10 數(shù)據(jù)集上進(jìn)行了實(shí)驗(yàn)。

表 2 中的結(jié)果表明，與基準(zhǔn)準(zhǔn)確率相比，當(dāng)僅僅使用三種精度改善方法中的一種時(shí)，準(zhǔn)確度會(huì)有很大的提升（分別是 1.52%，1.26% 和 0.4%）。當(dāng)兩種或者三種方法被同時(shí)使用時(shí)，準(zhǔn)確率還會(huì)更高，接近于理想值。在使用卷積神經(jīng)網(wǎng)絡(luò)的時(shí)候會(huì)有同樣的發(fā)現(xiàn)。一些組合，例如 QR+BT，與僅僅使用 QR 相比，準(zhǔn)確度并沒(méi)有提升（如表 2 所示）。這很可能是因?yàn)?MNIST 是一個(gè)相對(duì)簡(jiǎn)單的數(shù)據(jù)庫(kù)，而且這三種方法對(duì)準(zhǔn)確度的改善已經(jīng)快速地達(dá)到了飽和水平。在多層感知機(jī)和卷積神經(jīng)網(wǎng)絡(luò)中，準(zhǔn)確度下降被控制在了 0.19%（MNIST 數(shù)據(jù)集）和 5.53%（CIFRAR-10 數(shù)據(jù)集），與未使用這三種方法的系統(tǒng)相比，準(zhǔn)確度的下降明顯要低很多。

結(jié)論

隨著機(jī)器學(xué)習(xí)算法和模型的進(jìn)步，新穎的架構(gòu)將會(huì)變得迫切需要。由于低功耗和高度并行化的快速計(jì)算速度，神經(jīng)形態(tài)設(shè)備在人工智能和認(rèn)知計(jì)算的應(yīng)用中有著巨大的潛能。盡管當(dāng)前的神經(jīng)形態(tài)芯片仍然處于理論水平，正在朝著實(shí)際應(yīng)用和市場(chǎng)化產(chǎn)品進(jìn)行，研究者已經(jīng)展示了一些有前景的研究。這是未來(lái)的一個(gè)方向，一個(gè)能夠大大地革新計(jì)算世界的有潛力的方向。

「我一直在思考人們?nèi)绾蝿?chuàng)建大規(guī)模并行的系統(tǒng)，我們唯一擁有的例子就是動(dòng)物的大腦。我們構(gòu)建了很多系統(tǒng)。我們制造了視網(wǎng)膜、耳蝸——很多東西都奏效。但是創(chuàng)建大規(guī)模并行系統(tǒng)是比我曾經(jīng)的思考更大的一個(gè)任務(wù)?！?mdash;Marver Mead

[[195949]]

參考資料：

• https://web.stanford.edu/group/brainsinsilicon/documents/MeadNeuroMorphElectro.pdf（斯坦福神經(jīng)形態(tài)調(diào)子系統(tǒng)論文）
• https://www.nextplatform.com/2017/02/11/intel-gets-serious-neuromorphic-cognitive-computing-future/（Intel 關(guān)于神經(jīng)形態(tài)和認(rèn)知計(jì)算的下一代平臺(tái)）
• http://news.mit.edu/2011/brain-chip-1115（MIT 模仿人腦的芯片）
• https://www.youtube.com/watch?v=cBJnVW42qL8 (Matt Grob: Brain-Inspired Computing, Presented by Qualcomm)（高通腦啟發(fā)計(jì)算）
• https://www.youtube.com/watch?v=_YQTp3jRMIs（神經(jīng)形態(tài)--從機(jī)器到生活，TED 演講）
• https://arxiv.org/abs/1206.3227（使用自旋設(shè)備的神經(jīng)形態(tài)硬件）
• https://arxiv.org/abs/1703.01909（在 BrainScaleS Wafer-Scale 系統(tǒng)上訓(xùn)練深度網(wǎng)絡(luò)）
• https://arxiv.org/abs/1701.01791（神經(jīng)形態(tài)系統(tǒng)上的分類(lèi)任務(wù)）
• https://arxiv.org/abs/1701.07715（納米級(jí)自旋振蕩器上的神經(jīng)形態(tài)計(jì)算）
• https://www.technologyreview.com/s/526506/neuromorphic-chips/（神經(jīng)形態(tài)芯片）
• https://science.energy.gov/~/media/bes/pdf/reports/2016/NCFMtSA_rpt.pdf（神經(jīng)形態(tài)計(jì)算--從材料到系統(tǒng)結(jié)構(gòu)）