使用機器學(xué)習(xí)預(yù)測分子性質(zhì)
最近,在化學(xué)行業(yè)涌現(xiàn)了許多激動人心的機器學(xué)習(xí) (ML) 應(yīng)用,特別是在解決化學(xué)檢索問題方面,從藥物發(fā)現(xiàn)和電池設(shè)計到尋找更好的 OLED 和催化劑,層出不窮。歷史上,化學(xué)家一直使用薛定諤方程式的數(shù)值逼近(例如密度泛函理論 (DFT))來進行此類化學(xué)檢索。
然而,計算這些近似值的開銷限制了檢索的規(guī)模。為了實現(xiàn)更大規(guī)模的檢索,幾個研究小組建立了機器學(xué)習(xí)模型,使用 DFT 生成的訓(xùn)練數(shù)據(jù)(例如 Rupp et al. 和 Behler and Parrinello)預(yù)測化學(xué)性質(zhì)。在開展前述工作之前,我們一直使用各種現(xiàn)代機器學(xué)習(xí)方法來開發(fā) QM9 基準(zhǔn)庫,這是一組公開的分子庫,其中提供了根據(jù) DFT 理論計算得出的各種分子的電子、熱力學(xué)和振動特性。
我們最近發(fā)布了兩篇論文,介紹了我們在此領(lǐng)域的研究成果,這些成果源自 Google Brain 團隊、Google Accelerated Science 團隊、DeepMind 和巴塞爾大學(xué)的密切合作。***篇論文介紹了一種新的分子影像制作方法以及一種評估開發(fā) QM9 基準(zhǔn)庫所用的各種機器學(xué)習(xí)方法的系統(tǒng)化評估方法。在對此基準(zhǔn)庫嘗試過許多現(xiàn)有方法之后,我們曾致力于改進最有希望的深度神經(jīng)網(wǎng)絡(luò)模型。
其結(jié)果是,我們發(fā)表了第二篇論文“量子化學(xué)的神經(jīng)消息傳遞”(Neural Message Passing for Quantum Chemistry),其中介紹了一個稱為消息傳遞神經(jīng)網(wǎng)絡(luò) (Message Passing Neural Networks, MPNN) 的模型系列,其定義足夠抽象,能夠包含許多之前圖形對稱性保持不變的神經(jīng)網(wǎng)絡(luò)模型。我們在 MPNN 模型系列中開發(fā)出新的模型,其表現(xiàn)大大優(yōu)于 QM9 基準(zhǔn)庫的所有基準(zhǔn)方法,在某些指標(biāo)上提升了將近 4 倍。
從機器學(xué)習(xí)的角度來看,分子數(shù)據(jù)如此有趣的原因之一是:一個分子的自然表示形式是以原子作為節(jié)點,以化學(xué)鍵作為邊繪制而成的分子結(jié)構(gòu)圖。利用數(shù)據(jù)中的內(nèi)在對稱性的模型往往更具普遍性,腦回神經(jīng)網(wǎng)絡(luò)之所以能在圖片處理方面取得成功,部分是因為它們能夠吸收我們之前關(guān)于圖像數(shù)據(jù)不變性的知識(例如,一只狗的照片移到左邊后仍然是一只狗的照片)。對于處理圖形數(shù)據(jù)的機器學(xué)習(xí)模型來說,圖形對稱性不變是一個特別有用的特性,這方面也有許多有趣的研究(例如 Li et al.、Duvenaud et al.、Kearnes et al.、Defferrard et al.)。然而,盡管取得了這些進展,但仍有大量工作要做。我們希望為化學(xué)(和其他)應(yīng)用找到這些模型中的***模型并找出文獻中建議的不同模型之間的關(guān)聯(lián)。
我們的 MPNN 為預(yù)測 QM9 中所有 13 種化學(xué)性質(zhì)建立了新的模型標(biāo)桿。對于這組特別的分子,我們的模型可以足夠準(zhǔn)確地預(yù)測出其中 11 種性質(zhì),這些預(yù)測對化學(xué)家而言很可能非常有用,并且,我們的速度比使用 DFT 模擬預(yù)測最多要快 30 萬倍。然而,在 MPNN 能夠?qū)瘜W(xué)家產(chǎn)生真正的實用價值之前,我們還有大量工作要做。特別是,使用 MPNN 分析的分子類型還遠遠不夠,必須比 QM9 中現(xiàn)有的分子類型還要多得多(例如,分子量更大或者有更多類型的重原子的分子)。當(dāng)然,即便是采用真實的訓(xùn)練集,即便推廣到大相迥異的分子,也仍然不夠。要克服這兩大挑戰(zhàn),就需要在普遍化(這也是機器學(xué)習(xí)研究的核心)等問題上取得突破。
預(yù)測分子特性是一個非常重要的問題,一方面,先進的機器學(xué)習(xí)技術(shù)有助于推動該課題的研究,另一方面,該課題也為學(xué)習(xí)算法提出了一些有趣的基本研究挑戰(zhàn)。最終,此類預(yù)測可以幫助設(shè)計造福人類的新藥物和新材料。
【本文是51CTO專欄機構(gòu)“谷歌開發(fā)者”的原創(chuàng)稿件,轉(zhuǎn)載請聯(lián)系原作者(微信公眾號:Google_Developers)】