麻省理工學(xué)院的研究人員建立了一個(gè)新的基準(zhǔn)測(cè)試工具，可以準(zhǔn)確預(yù)測(cè)給定代碼在計(jì)算機(jī)芯片上執(zhí)行所花費(fèi)的時(shí)間，這可以幫助程序員調(diào)整代碼以提高性能。預(yù)測(cè)錯(cuò)誤率甚至比英特爾自家的工具低50%。

為了讓代碼盡可能快地運(yùn)行，開發(fā)人員和編譯器（將編程語(yǔ)言轉(zhuǎn)換為機(jī)器可讀代碼的程序）通常使用性能模型，通過模擬給定的芯片體系結(jié)構(gòu)來(lái)運(yùn)行代碼。

編譯器使用這些信息來(lái)自動(dòng)優(yōu)化代碼，開發(fā)人員使用這些信息來(lái)解決運(yùn)行這些代碼的微處理器的性能瓶頸問題。但是，機(jī)器代碼的性能模型是由少數(shù)專家團(tuán)隊(duì)寫的，未經(jīng)過合適的驗(yàn)證。其結(jié)果是，模擬出的性能標(biāo)準(zhǔn)通常與實(shí)際結(jié)果有偏差。

現(xiàn)在，MIT的研究人員開始著手解決這個(gè)問題，他們?cè)谌ツ?月的國(guó)際機(jī)器學(xué)習(xí)大會(huì)上提出了一種新的機(jī)器學(xué)習(xí)pipeline，可以將上面的模擬過程自動(dòng)執(zhí)行，使這個(gè)過程更便捷，更快速，更準(zhǔn)確。據(jù)研究人員介紹，Ithemal是一種神經(jīng)網(wǎng)絡(luò)模型，它以“基本塊”（計(jì)算指令的基本摘要）的形式訓(xùn)練標(biāo)記數(shù)據(jù)，以自動(dòng)預(yù)測(cè)給定芯片執(zhí)行以前看不見的基本塊需要多長(zhǎng)時(shí)間。Ithemal的性能要比傳統(tǒng)的手動(dòng)調(diào)整模型精確得多。

在去年11月舉行的IEEE國(guó)際研討會(huì)上，研究人員提出了各個(gè)領(lǐng)域的基本模塊的基準(zhǔn)套件，包括機(jī)器學(xué)習(xí)，編譯器，密碼學(xué)和可用于驗(yàn)證性能模型的圖形。他們將超過30萬(wàn)個(gè)已分析的塊合并到一個(gè)名為BHive的開源數(shù)據(jù)集中。在評(píng)估過程中，Ithemal預(yù)測(cè)出英特爾芯片運(yùn)行代碼的速度要比英特爾自己構(gòu)建的性能模型還要好。

開發(fā)人員和編譯器可以使用該工具來(lái)生成代碼，讓代碼在越來(lái)越多的多“黑匣子”芯片設(shè)計(jì)方案上更快，更高效地運(yùn)行?，F(xiàn)代計(jì)算機(jī)處理器的設(shè)計(jì)是不透明的，設(shè)計(jì)方案極其復(fù)雜且難以理解。如何編寫代碼才能在這些處理器實(shí)現(xiàn)盡可能快的執(zhí)行速度，是一個(gè)很大的挑戰(zhàn)。”

MIT 助理教授，人工智能實(shí)驗(yàn)室研究員邁克爾·卡賓（Michael Carbin）是這款工具的作者之一，他表示，該工具是“朝著對(duì)這些芯片的性能進(jìn)行完全建模來(lái)提高代碼效率的重要一步。”

最近，在12月舉行的NeurIPS 2019上，團(tuán)隊(duì)又提交一篇論文，提出了一種自動(dòng)生成編譯器優(yōu)化的新技術(shù)。具體來(lái)說，就是自動(dòng)生成一個(gè)名為Vemal的算法，將某些代碼轉(zhuǎn)換為向量，可用于并行計(jì)算。實(shí)驗(yàn)表明，Vemal的性能優(yōu)于業(yè)界常用的LLVM編譯器中使用的手工矢量化算法。

從數(shù)據(jù)中學(xué)習(xí)，不需要技術(shù)文檔

Carbin說，手工設(shè)計(jì)性能模型可能是“一門黑科技”。英特爾提供了超過3000頁(yè)的詳盡文檔，描述了其芯片的體系結(jié)構(gòu)。但是目前只有一小部分專家能夠構(gòu)建性能模型，以模擬這些架構(gòu)上代碼的執(zhí)行情況。

Mendis說：“英特爾的文檔中既存在錯(cuò)誤，也夠不完整，并且將一些信息略去不提，因?yàn)樯婕皩Ｓ兄R(shí)產(chǎn)權(quán)。但是，如果利用的是數(shù)據(jù)，就無(wú)需了解文檔。即使有些東西被略去了，也可以直接從數(shù)據(jù)中學(xué)習(xí)。”

為此，研究人員記錄了給定微處理器計(jì)算基本塊指令的平均需要多少個(gè)周期，這些指令基本上是啟動(dòng)、執(zhí)行和關(guān)閉操作序列，無(wú)需人工干預(yù)。對(duì)這個(gè)過程實(shí)現(xiàn)自動(dòng)化，就可以快速分析成千上萬(wàn)個(gè)基本指令塊。

專有域架構(gòu)：純文本學(xué)習(xí)，無(wú)需手動(dòng)添加特征

在訓(xùn)練中，Ithemal模型分析了數(shù)百萬(wàn)個(gè)自動(dòng)劃分的基本塊，準(zhǔn)確了解不同的芯片體系結(jié)構(gòu)執(zhí)行計(jì)算的方式。重要的是，Ithemal將原始文本作為輸入，不需要手動(dòng)向輸入數(shù)據(jù)中添加特征。在測(cè)試中，可以將以前不可見的基本塊和給定的芯片信息作為輸入提供給Ithemal，Ithemal將生成一個(gè)數(shù)字，表示出該芯片執(zhí)行該代碼段的速度。

研究人員發(fā)現(xiàn)，Ithemal預(yù)測(cè)的錯(cuò)誤率（即預(yù)測(cè)速度與實(shí)際速度之間的差異）比傳統(tǒng)的手工模型降低了50％。此外，在之后的一篇論文中，研究人員表明，Ithemal的預(yù)測(cè)錯(cuò)誤率為10％，而Intel自己的性能預(yù)測(cè)模型在多個(gè)不同域的各種基本模塊上的預(yù)測(cè)錯(cuò)誤率為20％。

Mendis說，目前這款工具可以讓人們更輕松地快速了解任何新芯片架構(gòu)的性能速度。例如，專門用于神經(jīng)網(wǎng)絡(luò)的Google新型TPU。“如果要在某些新架構(gòu)上訓(xùn)練模型，只需從這種架構(gòu)上收集更多數(shù)據(jù)，通過我們的探查器運(yùn)行，使用這些信息來(lái)訓(xùn)練Ithemal，就能生成預(yù)測(cè)性能的模型。” Mendis說。

未來(lái)，研究人員正在研究如何讓模型變得可解釋。機(jī)器學(xué)習(xí)在很大程度上是個(gè)黑匣子，人們不清楚特定模型會(huì)做出某種預(yù)測(cè)的原因是什么。“我們的模型顯示，某個(gè)處理器要執(zhí)行一個(gè)基本塊需要10個(gè)周期?，F(xiàn)在，我們?cè)谘芯磕Ｐ蜑槭裁醋龀鲞@樣的預(yù)測(cè)。” Carbin說。“對(duì)于此類的工具來(lái)說，這已經(jīng)達(dá)到了微粒度級(jí)別，真是太好了。”

研究人員還希望用Ithemal進(jìn)一步增強(qiáng)Vemal的性能，讓其自動(dòng)達(dá)到更高的性能。