清華全球首顆片上學(xué)習(xí)憶阻器存算一體芯片,成果登上Science
10 月 9 日,清華大學(xué)官微報(bào)道了該校研制全球首顆支持片上學(xué)習(xí)憶阻器存算一體芯片的成果。
近日,清華大學(xué)集成電路學(xué)院吳華強(qiáng)教授、高濱副教授基于存算一體計(jì)算范式,在支持片上學(xué)習(xí)的憶阻器存算一體芯片領(lǐng)域取得重大突破,研究成果已發(fā)表于最新一期國(guó)際科學(xué)期刊《科學(xué)》雜志。
據(jù)清華大學(xué)介紹,記憶電阻器(Memristor)是繼電阻、電容、電感之后的第四種電路基本元件。它可以在斷電之后,仍能「記憶」通過(guò)的電荷,可成為新型納米電子突觸器件。
自 2012 年以來(lái),清華大學(xué)錢(qián)鶴、吳華強(qiáng)團(tuán)隊(duì)從憶阻器件、原型芯片再到系統(tǒng)集成,逐步協(xié)同攻關(guān)了 AI 算力瓶頸難題,新的研究一定程度上攻克了「卡脖子」關(guān)鍵核心技術(shù)。
論文《Edge learning using a fully integrated neuro-inspired memristor chip》如下。
論文地址:https://www.science.org/doi/full/10.1126/science.ade3483
研究概覽
我們知道,基于憶阻器的計(jì)算技術(shù)近來(lái)受到了極大的關(guān)注,該技術(shù)有可能克服傳統(tǒng)計(jì)算架構(gòu)所謂的「馮諾依曼瓶頸」。憶阻器特別的地方在于可以為各種邊緣智能應(yīng)用實(shí)現(xiàn)實(shí)時(shí)的、高能效的片上學(xué)習(xí),即使完全片上學(xué)習(xí)的實(shí)現(xiàn)仍然具有挑戰(zhàn)性。
下圖 1 為使用神經(jīng)啟發(fā)憶阻器芯片的邊緣學(xué)習(xí),A 展示了人類(lèi)大腦具備的改進(jìn)學(xué)習(xí)能力。B 為基于憶阻器的神經(jīng)啟發(fā)計(jì)算芯片的設(shè)計(jì)和未來(lái)應(yīng)用。這種芯片為完全片上學(xué)習(xí)設(shè)計(jì),將所有必要的模塊與憶阻器陣列集成在一起,使邊緣 AI 設(shè)備具備了學(xué)習(xí)能力,從而快速適應(yīng)新場(chǎng)景。
為了解決相關(guān)問(wèn)題,清華大學(xué)集成電路學(xué)院博士生張文彬、博士后姚鵬等人提出了一種基于憶阻器特征符號(hào)和閾值的學(xué)習(xí)架構(gòu)(STELLAR),并制作了一個(gè)全系統(tǒng)集成芯片。該芯片由多個(gè)憶阻器陣列以及支持完整片上學(xué)習(xí)的所有必要互補(bǔ)金屬氧化物半導(dǎo)體外圍電路組成。
下圖 2 為用于片上學(xué)習(xí)的憶阻器特征架構(gòu)設(shè)計(jì),A 為憶阻器芯片中使用的 STELLAR 架構(gòu),B 和 C 為分類(lèi)準(zhǔn)確率的比較,D 為具有差分電導(dǎo)對(duì)(左)以及 1T1R(中)和 2T2R(右)配置的權(quán)重,E 為循環(huán)并聯(lián)電導(dǎo)調(diào)整方案。
下圖 3 為用于片上學(xué)習(xí)的憶阻器芯片,A 為架構(gòu)概覽,B 為芯片的光學(xué)顯微鏡圖像,C 為 2T2R cell 的橫截面透射電子顯微鏡圖像。
研究者展示了在各種任務(wù)上的端到端片上改進(jìn)學(xué)習(xí),比如運(yùn)動(dòng)控制、圖像分類(lèi)和語(yǔ)音識(shí)別,實(shí)現(xiàn)了媲美軟件的準(zhǔn)確率和較低的硬件成本。該工作標(biāo)志著存內(nèi)計(jì)算領(lǐng)域邁出了重要一步。
下圖 4 為憶阻器芯片的改進(jìn)學(xué)習(xí)示例,A 為運(yùn)動(dòng)控制任務(wù)(左)及其控制系統(tǒng),B 為光追車(chē)(Light-chasing car)新樣本學(xué)習(xí),F(xiàn) 為圖像分類(lèi)任務(wù)中新類(lèi)別學(xué)習(xí)。
我們來(lái)看以下幾個(gè)動(dòng)圖演示。
首先是手寫(xiě)數(shù)字新類(lèi)別學(xué)習(xí)任務(wù)。
此外可以在運(yùn)動(dòng)控制領(lǐng)域改進(jìn)學(xué)習(xí)。如下所示,在改進(jìn)學(xué)習(xí)之前,向前移動(dòng)的藍(lán)車(chē)往往會(huì)錯(cuò)過(guò)目標(biāo)紅車(chē)。
在改進(jìn)學(xué)習(xí)之后,向前移動(dòng)的藍(lán)車(chē)會(huì)先有一個(gè)向后倒的動(dòng)作以做調(diào)整,最終繼續(xù)向前駛向目標(biāo)紅車(chē)。
不僅如此,在明亮場(chǎng)景下沒(méi)有改進(jìn)學(xué)習(xí)之前,藍(lán)車(chē)往往會(huì)在追隨過(guò)程中偏離目標(biāo)紅車(chē)。
在明亮場(chǎng)景下有了改進(jìn)學(xué)習(xí)之后,藍(lán)車(chē)很好地適應(yīng)調(diào)整,始終追隨目標(biāo)紅車(chē)。
張文彬、姚鵬作為學(xué)術(shù)論文的共同第一作者,博士期間接觸了大量如半導(dǎo)體、微電子、軟件算法和類(lèi)腦計(jì)算等不同方向的科研知識(shí),積累了豐碩的研發(fā)成果和豐富的工程建設(shè)經(jīng)驗(yàn)。
研究團(tuán)隊(duì)合影。