時(shí)隔四個(gè)月，ByteDance Research 與北京大學(xué)物理學(xué)院陳基課題組又一合作工作登上國際頂級(jí)刊物 Nature Communications：論文《 Towards the ground state of molecules via diffusion Monte Carlo on neural networks 》將神經(jīng)網(wǎng)絡(luò)與擴(kuò)散蒙特卡洛方法結(jié)合，大幅提升神經(jīng)網(wǎng)絡(luò)方法在量子化學(xué)相關(guān)任務(wù)上的計(jì)算精度、效率以及體系規(guī)模，成為最新 SOTA。

• 論文鏈接：
  ??https://www.nature.com/articles/s41467-023-37609-3?
• 代碼地址：
  ??https://github.com/bytedance/jaqmc?

簡(jiǎn)介

作者將基于神經(jīng)網(wǎng)絡(luò)的試探波函數(shù)運(yùn)用于固定節(jié)點(diǎn)面的擴(kuò)散蒙特卡洛方法 (Diffusion Monte Carlo, or DMC) ，用以精確計(jì)算具有不同電子特性的原子以及分子系統(tǒng)。

擴(kuò)散蒙特卡洛方法是量子化學(xué)領(lǐng)域精確計(jì)算分子和材料基態(tài)能量的常用方法之一。通過與擴(kuò)散蒙特卡洛方法結(jié)合，作者顯著提高了量子化學(xué)中神經(jīng)網(wǎng)絡(luò) SOTA 方法的計(jì)算精度與效率。此外作者還提出了一種基于經(jīng)驗(yàn)線性關(guān)系的外推方法，大幅改善了分子結(jié)合能計(jì)算。總體而言，該計(jì)算框架作為求解量子多體問題的高精度方法，為化學(xué)分子性質(zhì)的深入理解提供了更強(qiáng)大的工具。

基于神經(jīng)網(wǎng)絡(luò)的量子蒙特卡洛方法

2018 年以來，多個(gè)研究小組將神經(jīng)網(wǎng)絡(luò)運(yùn)用于變分蒙特卡洛方法 (Variational Monte Carlo, or VMC) 中 [1,2,3]，借助神經(jīng)網(wǎng)絡(luò)強(qiáng)大的表達(dá)能力，得到了更為精確的分子基態(tài)能量。本工作于 2022 年公開時(shí)，基于神經(jīng)網(wǎng)絡(luò)的變分蒙特卡洛方法中的 SOTA 工作是 DeepMind 于 2019 年提出的 FermiNet [2]，能夠在規(guī)模較小的體系上得到非常精確的結(jié)果。然而變分蒙特卡洛方法的精度受限于神經(jīng)網(wǎng)絡(luò)的表達(dá)能力，在處理較大體系時(shí)會(huì)有越來越明顯的精度問題。此外該類方法在處理較大體系時(shí)收斂非常緩慢，對(duì)計(jì)算資源提出了巨大挑戰(zhàn)。

擴(kuò)散蒙特卡洛方法作為量子化學(xué)領(lǐng)域的經(jīng)典高精度算法之一，具有精度高、可并行性好、適合進(jìn)行大規(guī)模計(jì)算等良好的特性。此外擴(kuò)散蒙特卡洛可以突破神經(jīng)網(wǎng)絡(luò)的表達(dá)能力限制，利用投影算法超越變分蒙特卡洛方法的精度。

本工作中，作者將 SOTA 的神經(jīng)網(wǎng)絡(luò) (FermiNet) 作為試探波函數(shù)與擴(kuò)散蒙特卡洛方法結(jié)合。新的計(jì)算方法相比于 FermiNet 顯著提升了精度并減少了所需的計(jì)算步數(shù)。本工作中所設(shè)計(jì)并實(shí)現(xiàn)的擴(kuò)散蒙特卡洛軟件具有神經(jīng)網(wǎng)絡(luò)友好、GPU 友好、并行友好的特點(diǎn)，可以與廣泛的神經(jīng)網(wǎng)絡(luò)波函數(shù)結(jié)合，自動(dòng)提升其精度與效率。

計(jì)算結(jié)果

1. 原子?

使用神經(jīng)網(wǎng)絡(luò)對(duì)大型分子體系進(jìn)行量子蒙特卡洛計(jì)算時(shí)，由于算力限制，所能使用的神經(jīng)網(wǎng)絡(luò)的表達(dá)能力也會(huì)受到一定限制。為了模擬這一場(chǎng)景，作者使用了僅僅兩層的神經(jīng)網(wǎng)絡(luò)來研究第二、三排的原子。計(jì)算結(jié)果顯示隨著體系變大，變分蒙特卡洛方法的精度愈來愈差，而擴(kuò)散蒙特卡洛方法所帶來的精度提升也愈來愈明顯。

2. 分子?

作者在一系列分子體系上也驗(yàn)證了基于神經(jīng)網(wǎng)絡(luò)的擴(kuò)散蒙特卡洛方法的有效性，包括氮?dú)夥肿?，環(huán)丁二烯以及雙水分子。在所測(cè)試的體系上均觀察到了明顯的計(jì)算精度提升。

3. 苯環(huán)及雙苯環(huán)?

本工作公開前，量子化學(xué)領(lǐng)域中基于變分蒙特卡洛的神經(jīng)網(wǎng)絡(luò)波函數(shù)方法只處理過 30 電子以內(nèi)的小型分子。本工作首次將神經(jīng)網(wǎng)絡(luò)波函數(shù)方法應(yīng)用于 42~84 個(gè)電子的體系，即苯環(huán)與雙苯環(huán)。計(jì)算結(jié)果顯示，擴(kuò)散蒙特卡洛方法在精度上顯著優(yōu)于變分蒙特卡洛方法，同時(shí)可以用少一個(gè)數(shù)量級(jí)的計(jì)算步數(shù)達(dá)到相同或更優(yōu)的精度。

4. 線性關(guān)系及外推方法?

作者在考察神經(jīng)網(wǎng)絡(luò)的不同訓(xùn)練階段所對(duì)應(yīng)的能量時(shí)，在很多體系上均發(fā)現(xiàn)變分蒙特卡洛與擴(kuò)散蒙特卡洛的計(jì)算結(jié)果具有經(jīng)驗(yàn)性的線性關(guān)系（下左圖）。使用該線性關(guān)系對(duì)雙苯環(huán)的解離能計(jì)算進(jìn)行外推，顯著提升了計(jì)算精度，得到了吻合于化學(xué)實(shí)驗(yàn)的結(jié)果（下右圖）。

結(jié)語與展望

本工作表明，基于神經(jīng)網(wǎng)絡(luò)的擴(kuò)散蒙特卡洛方法在精度與效率上均優(yōu)于變分蒙特卡洛方法。作者開源的擴(kuò)散蒙特卡洛代碼可以與量子化學(xué)領(lǐng)域不斷推陳出新的神經(jīng)網(wǎng)絡(luò) [4,5] 快速結(jié)合，實(shí)現(xiàn)對(duì)研究社區(qū)的賦能。此外擴(kuò)散蒙特卡洛方法也可以與處理真實(shí)固體的周期性神經(jīng)網(wǎng)絡(luò) [6]、帶贗勢(shì)的神經(jīng)網(wǎng)絡(luò) [7] 等一系列方法結(jié)合，在相應(yīng)任務(wù)上提升計(jì)算效果。