[[326502]]

本周，IBM聲稱，其神經(jīng)計(jì)算機(jī)系統(tǒng)達(dá)到了每秒120萬幀的訓(xùn)練時(shí)間，創(chuàng)下了最新記錄。IBM在AI模型訓(xùn)練上實(shí)現(xiàn)了大突破，可與最先進(jìn)的技術(shù)相匹敵。網(wǎng)友對(duì)此表示簡直不敢相信！

在今年年初發(fā)表的一篇論文論文中，IBM詳細(xì)介紹了神經(jīng)計(jì)算機(jī)。這是一種可重新配置的并行處理系統(tǒng)，旨在研究和開發(fā)新興的AI算法和計(jì)算神經(jīng)科學(xué)。

就在本周，該公司在神經(jīng)計(jì)算機(jī)上演示了第一個(gè)應(yīng)用程序：一種深度的神經(jīng)進(jìn)化系統(tǒng)。該系統(tǒng)將Atari 2600的硬件實(shí)現(xiàn)，圖像預(yù)處理和AI算法結(jié)合在優(yōu)化的流水線中。

實(shí)驗(yàn)報(bào)告得出的結(jié)果可與最先進(jìn)的技術(shù)相匹敵，但更重要的是，IBM聲稱該系統(tǒng)達(dá)到了每秒120萬幀的訓(xùn)練時(shí)間，創(chuàng)下了最新記錄。

網(wǎng)友驚呼，「簡直不敢相信！」

神經(jīng)計(jì)算機(jī)就像是在AI計(jì)算軍備競賽中發(fā)出的一個(gè)示警信號(hào)。

據(jù)OpenAI發(fā)布的一項(xiàng)分析顯示，從2012年到2018年，最大規(guī)模的AI培訓(xùn)運(yùn)行中使用的計(jì)算量增長了300,000倍，是3.5個(gè)月的兩倍，遠(yuǎn)遠(yuǎn)超過了摩爾定律的步伐。

AlexNet到AlphaGo零：計(jì)算量增長了300,000倍

先來了解一下IBM 的神經(jīng)計(jì)算機(jī)吧

IBM神經(jīng)計(jì)算機(jī)

IBM的神經(jīng)計(jì)算機(jī)由432個(gè)節(jié)點(diǎn)組成（每16個(gè)模塊卡中有27個(gè)節(jié)點(diǎn)），這些節(jié)點(diǎn)是IBM長期戰(zhàn)略合作伙伴Xilinx的現(xiàn)場可編程門陣列（FPGA，設(shè)計(jì)用于制造后配置的集成電路）。

          IBM神經(jīng)計(jì)算機(jī)每個(gè)模塊卡中有27個(gè)節(jié)點(diǎn)

 每個(gè)節(jié)點(diǎn)均有一個(gè)Xilinx Zynq單片系統(tǒng)（一個(gè)雙核ARM A9處理器與一個(gè)FPGA在同一芯片上配對(duì)）以及1GB專用RAM芯片。

節(jié)點(diǎn)以3D網(wǎng)格拓?fù)浣Y(jié)構(gòu)排列，并與電氣連接（稱為穿硅通孔，這些通孔可以完全穿過硅晶圓或芯片）垂直互連。

在3D網(wǎng)格拓?fù)浣Y(jié)構(gòu)中可以看到節(jié)點(diǎn)數(shù)字

在聯(lián)網(wǎng)方面，F(xiàn)PGA提供模塊卡之間物理通信的訪問，以便建立多個(gè)不同的通信通道。

理論上講，單個(gè)卡可以支持高達(dá)每秒432GB的傳輸速度，而神經(jīng)計(jì)算機(jī)的網(wǎng)絡(luò)接口可以自身調(diào)節(jié)并逐步優(yōu)化， 使其匹配給定的程序。

在論文中詳細(xì)簡述了神經(jīng)計(jì)算機(jī)框架的共同作者寫道，「我們系統(tǒng)的獨(dú)特之處在于每個(gè)節(jié)點(diǎn)允許特定應(yīng)用的處理器卸載，這一功能在我們所知任何規(guī)模的并行計(jì)算機(jī)上均不可用。多數(shù)性能的關(guān)鍵步驟已在FPGA上卸載和優(yōu)化，同時(shí)ARM處理器提供了輔助支持?！?/p>

既然對(duì)神經(jīng)計(jì)算機(jī)有所了解，那么IBM在神經(jīng)計(jì)算機(jī)上的首次應(yīng)用演示，系統(tǒng)是怎么達(dá)到創(chuàng)紀(jì)錄的每秒120萬幀的訓(xùn)練時(shí)間呢？ 

[[326505]]

我們來一探究竟

用Atari游戲測試AI

用電子游戲來做測試，是AI和機(jī)器學(xué)習(xí)研究最好的平臺(tái)。

它們不僅可以隨時(shí)拿來進(jìn)行測試，而且大規(guī)模運(yùn)行成本低。

比如在強(qiáng)化學(xué)習(xí)等特定領(lǐng)域中，為了獲取獎(jiǎng)勵(lì)，AI通過與環(huán)境互動(dòng)來學(xué)習(xí)最佳行為，游戲分?jǐn)?shù)便是最直接的獎(jiǎng)勵(lì)。

游戲中開發(fā)的AI算法已表現(xiàn)出出可適應(yīng)更實(shí)際的用途，例如蛋白質(zhì)折疊預(yù)測研究。如果IBM神經(jīng)計(jì)算機(jī)測試結(jié)果是重復(fù)的，則該系統(tǒng)可以用于加速這些AI算法的開發(fā)。

研究人員在神經(jīng)計(jì)算機(jī)中每個(gè)卡使用了26個(gè)節(jié)點(diǎn)，對(duì)總共416個(gè)節(jié)點(diǎn)進(jìn)行了實(shí)驗(yàn)。

Atari游戲應(yīng)用程序的兩個(gè)實(shí)例都是在416個(gè)FPGA中每個(gè)節(jié)點(diǎn)上運(yùn)行，最多可擴(kuò)展到832個(gè)節(jié)點(diǎn)并行運(yùn)行的實(shí)例。

每個(gè)實(shí)例都從給定的Atari 2600游戲中提取幀，執(zhí)行圖像預(yù)處理，通過機(jī)器學(xué)習(xí)模型運(yùn)行圖像，并在游戲中執(zhí)行操作。 

使用深度神經(jīng)在FPGAs訓(xùn)練游戲的截圖

 為了獲得最高的性能，研究團(tuán)隊(duì)避免仿真Atari 2600，而是選擇使用FPGA在更高的頻率下實(shí)現(xiàn)控制臺(tái)的功能。

他們采用了開源MiSTer項(xiàng)目的框架，該項(xiàng)目旨在使用現(xiàn)代硬件重新創(chuàng)建控制臺(tái)和街機(jī)，并將Atari 2600的處理器時(shí)鐘頻率從3.58 MHz提高到150 MHz，每秒產(chǎn)生約2514幀。

在圖像預(yù)處理步驟中，IBM的應(yīng)用程序?qū)瑥牟噬D(zhuǎn)換為灰色，消除了閃爍，將圖像重新縮放為較小的分辨率，然后將幀堆疊為四組。

然后將它們傳遞到推理游戲環(huán)境的AI模型和一個(gè)子模塊，該子模塊通過識(shí)別AI模型預(yù)測的最大獎(jiǎng)勵(lì)來選擇下一幀的動(dòng)作。

在五個(gè)實(shí)驗(yàn)過程中，IBM研究人員在神經(jīng)計(jì)算機(jī)上運(yùn)行了59個(gè)Atari 2600游戲。

結(jié)果表明，與其他強(qiáng)化學(xué)習(xí)技術(shù)相比，該方法的數(shù)據(jù)效率不高，總共需要60億個(gè)游戲框架，但在Montezuma的Revenge and Pitfall等具有挑戰(zhàn)性、探索性的游戲中失敗了。

在59個(gè)游戲中有30場勝出，Deep Q-network花了10天進(jìn)行訓(xùn)練，而IBM團(tuán)隊(duì)只用了6分鐘來訓(xùn)練（2億個(gè)訓(xùn)練幀）

在神經(jīng)計(jì)算機(jī)上運(yùn)行的59個(gè)Atari 2600游戲有60億個(gè)訓(xùn)練幀，在36場比賽中超過了Deep Q-network，而訓(xùn)練時(shí)間減少了2個(gè)數(shù)量級(jí)（2小時(shí)30分鐘）。