MIT用超導(dǎo)體制成極低功耗神經(jīng)元,能效接近人類大腦
本文經(jīng)AI新媒體量子位(公眾號(hào)ID:QbitAI)授權(quán)轉(zhuǎn)載,轉(zhuǎn)載請(qǐng)聯(lián)系出處。
計(jì)算機(jī)越來越智能,但是智能的算法卻需要大量的資源。一臺(tái)計(jì)算機(jī)以 GHz 的頻率運(yùn)行,功耗上千瓦。而人類的大腦運(yùn)行速率比電腦慢幾百萬倍,只有約 20W 的功率,卻能輕松做到這一切。
以戰(zhàn)勝李世石的 AlphaGo 為例,它使用了 48 個(gè) TPU,每個(gè) TPU 功率是 40W,能效比遠(yuǎn)遠(yuǎn)低于人類。
因此科學(xué)家們一直在努力,希望能造出接近人類大腦效率的設(shè)備。
最近 MIT 的研究人員設(shè)計(jì)了一種由納米線制成的超導(dǎo)神經(jīng)元,在許多方面已經(jīng)表現(xiàn)得像真的神經(jīng)元一樣,至少在能效上是這樣。
與人腦對(duì)比
功率等于電壓乘以電流。研究人員對(duì)每個(gè)電路元件的電流、電壓乘積對(duì)時(shí)間進(jìn)行積分,計(jì)算出了人造超導(dǎo)神經(jīng)元的能耗。
研究人員經(jīng)過分析發(fā)現(xiàn),超導(dǎo)納米線神經(jīng)元對(duì)于每個(gè)動(dòng)作電位消耗約 0.05fJ(1fJ=10-15J,即千萬億分之一焦)的能量,而突觸的能耗小一個(gè)數(shù)量級(jí),大約為 0.005fJ。
由于超導(dǎo)電路使用很少的能量,這種超導(dǎo)神經(jīng)網(wǎng)絡(luò)效率可與生物神經(jīng)網(wǎng)絡(luò)媲美。能效比(每秒每瓦突觸操作量,SOPS/W)已經(jīng)和人類神經(jīng)元處于同一個(gè)量級(jí),比一般的計(jì)算設(shè)備高出 4 個(gè)數(shù)量級(jí)。
下表是人腦、兩種 CMOS 以及超導(dǎo)納米線神經(jīng)元之間的對(duì)比。
工作原理
人類神經(jīng)元是靠動(dòng)作電位來傳遞信號(hào)。所謂動(dòng)作電位是指的是細(xì)胞膜受到刺激,使膜的內(nèi)外的電位差發(fā)生反轉(zhuǎn),然后再傳播出去。
而且人類神經(jīng)元還有個(gè)特性:除非輸入信號(hào)超過某個(gè)閾值,否則它們不會(huì)產(chǎn)生興奮,像極了數(shù)字電路。超導(dǎo)納米線具有獨(dú)特的非線性特性,也可以像神經(jīng)元一樣產(chǎn)生這種作用。這種性質(zhì)是由超導(dǎo)體的臨界電流造成的。
當(dāng)電流超過某個(gè)閾值時(shí),納米線的超導(dǎo)電性會(huì)消失,從原來的完全沒有電阻到產(chǎn)生電阻,然后在電路兩端產(chǎn)生電壓。電阻突然增加,就會(huì)產(chǎn)生電壓脈沖,這就類似于神經(jīng)元中的動(dòng)作電位。
一個(gè)超導(dǎo)神經(jīng)元電路由兩組納米線組成,分為主振蕩器和控制振蕩器。為了觸發(fā)動(dòng)作電位,需要施加一個(gè)小的輸入電流脈沖,并與偏置電流相加,使其超過主振蕩器的 LC,使其發(fā)生轉(zhuǎn)換。
此時(shí),電流脈沖與偏置方向相反,因此控制振蕩器不會(huì)觸發(fā)。一旦主振蕩器狀態(tài)改變,電流就會(huì)以逆時(shí)針方向加到超導(dǎo)回路上,它與偏置電流相加,才能觸發(fā)控制振蕩器。
主振蕩器以回路電流的形式將磁通量添加到超導(dǎo)回路,這類似于人類神經(jīng)元鈉離子流入細(xì)胞引起電流的作用,控制振蕩器的作用類似于鉀離子輸出電流。
出了動(dòng)作電位閾值外,超導(dǎo)納米線電路還有類似于人類神經(jīng)系統(tǒng)不反應(yīng)期這種特性。
研究人員希望,未來用這種超導(dǎo)納米線神經(jīng)元實(shí)現(xiàn)低功耗的神經(jīng)網(wǎng)絡(luò)。