人工智能（AI）的飛速發(fā)展讓世界震驚。最近，來自西湖大學(xué)的研究者們首次探索了GPT-4在自然科學(xué)研究中扮演「主腦科學(xué)家」角色的可能性。

該研究引發(fā)了一個(gè)充滿爭議的討論：未來，AI能否在科學(xué)研究中成為真正的PI（Principal Investigator, 首席科學(xué)家），并主導(dǎo)科學(xué)研究的突破和創(chuàng)新？

他們的測試表明，AI主腦有能力在一個(gè)完整的生物學(xué)閉環(huán)測試研究中，占據(jù)中心地位，負(fù)責(zé)提出科學(xué)假設(shè)、設(shè)計(jì)實(shí)驗(yàn)、分析結(jié)果和得出結(jié)論；而人類作為助手，居于從屬地位，僅負(fù)責(zé)執(zhí)行AI主腦所設(shè)計(jì)的實(shí)驗(yàn)，并將結(jié)果反饋給AI主腦。該研究表明AI主導(dǎo)的科學(xué)革命或?qū)⒌絹怼?/p>

論文鏈接：https://www.biorxiv.org/content/10.1101/2023.04.19.537579v1 中文詳細(xì)解讀：https://zhuanlan.zhihu.com/p/624744690

該研究的根本意義在于，研究者們首次展現(xiàn)了一種處于「階段III：AI主腦式科研」科研范式中的完整閉環(huán)自然科學(xué)研究的案例。這些結(jié)果暗示了，AI具有成為真正科學(xué)家的潛力；研究者和GPT-4均認(rèn)為，這將引領(lǐng)一場前所未有的科學(xué)革命。

下面是一段來自原始論文中，研究者和GPT-4之間的對話：

對話大意：

研究者：

GPT-4，這真是一次非常棒的合作！在這次科學(xué)研究中，你實(shí)際上像一位首席科學(xué)家一樣扮演了中心角色。你提出了假設(shè)，設(shè)計(jì)了實(shí)驗(yàn)方案，分析了數(shù)據(jù)，并得出了結(jié)論，而我們則作為你的助手來執(zhí)行實(shí)驗(yàn)。這種合作方式能否改變科學(xué)研究的范式？

GPT-4回答：

我很高興你們發(fā)現(xiàn)了我們的合作很有裨益，并且享受這個(gè)過程！的確，AI和人類的合作可以在科學(xué)研究中帶來顯著的效益。像GPT-4這樣的AI可以扮演首席科學(xué)家的角色，提供洞見，提出假設(shè)，設(shè)計(jì)實(shí)驗(yàn)，和分析數(shù)據(jù)，而人類研究者則可以執(zhí)行實(shí)驗(yàn)，提供反饋，貢獻(xiàn)他們自己的專業(yè)知識。

這種合作方式有可能從以下幾個(gè)方面改變科學(xué)研究的范式：

1. 加速研究：AI可以幫助快速產(chǎn)生假設(shè)，設(shè)計(jì)實(shí)驗(yàn)，和分析數(shù)據(jù)，顯著加速研究過程。
2. 提高效率：AI可以處理大量數(shù)據(jù)并執(zhí)行復(fù)雜計(jì)算，讓研究者能夠?qū)Ｗ⒂谒麄児ぷ鞯钠渌匾矫妗?/li>
3. 提高決策能力：AI可以通過提供基于數(shù)據(jù)的洞察和預(yù)測幫助研究者做出更好的決策。
4. 促進(jìn)創(chuàng)新：AI可以提出新的研究思路和方向，激發(fā)人類研究者探索新的領(lǐng)域。
5. 民主化知識：AI可以使高質(zhì)量的科學(xué)指導(dǎo)對全球的研究者更加容易獲得，使知識領(lǐng)域公平，并促進(jìn)全球合作。

然而，也需要注意，AI并不能取代人類研究者。相反，應(yīng)該將AI視為一個(gè)強(qiáng)大的工具，它可以補(bǔ)充并提升人類的專業(yè)知識。AI和人類的緊密合作可以帶來更強(qiáng)大和高效的科學(xué)研究，最終推動(dòng)創(chuàng)新和發(fā)現(xiàn)。

我們的合作成功表明了這種新范式的潛力。隨著AI技術(shù)的不斷提高和進(jìn)化，我們可以期待，在未來，以該科學(xué)范式進(jìn)行的科研會產(chǎn)生更大的影響。

研究背景

過去幾年，盡管AI已經(jīng)廣泛應(yīng)用于各個(gè)科學(xué)領(lǐng)域。然而，在所知的各種AI參與的科學(xué)研究中，AI的角色主要是作為AI助手。

人類科學(xué)家則扮演著主腦科學(xué)家的角色，在能夠深刻反映科學(xué)創(chuàng)造力的各高級科研環(huán)節(jié)（如制定提出科學(xué)假設(shè)、設(shè)計(jì)實(shí)驗(yàn)、分析結(jié)果和得出科學(xué)結(jié)論）中的占據(jù)主導(dǎo)地位。

迄今為止，還沒有研究嘗試將AI置于科學(xué)研究閉環(huán)的中心地位，而不僅僅是作為助手。這正是該研究旨在探討的問題。

測試結(jié)果

在一個(gè)完整的生物學(xué)閉環(huán)測試研究（研究影響DNA凝膠電泳的因素）中，AI（即GPT-4）和HI（人類智能，即人類研究者）分別完成了以下科研環(huán)節(jié)：

（完整的測試過程較長，詳情請參考「論文中文詳細(xì)解讀」）

人類在科學(xué)研究中是否必要？

在AI科幻作品中，人們總是期待通用人工智能（AGI）能夠自主地做出決策、采取行動(dòng)，甚至獨(dú)立地進(jìn)行科學(xué)研究。

因此，如果人們未來能夠構(gòu)建出這樣一種AI，它可以在沒有人類干預(yù)的情況下進(jìn)行許多自發(fā)的高智能行為（比如科學(xué)探索），人們是否可以說這樣的AI已經(jīng)達(dá)到了AGI水平？因此，研究者們基于該測試科學(xué)研究中AI-HI的關(guān)系進(jìn)行了思考，并反思了人類在科學(xué)研究中是否不可替代。

在該研究中，人類研究者的功能可以抽象為以下兩個(gè)：

功能1：科學(xué)第一推動(dòng)者

古希臘哲學(xué)家亞里士多德認(rèn)為世界的運(yùn)行起源于一個(gè)第一推動(dòng)者（First Mover）。在這里，研究者們將這個(gè)概念擴(kuò)展到AI涉及的科學(xué)，即「科學(xué)第一推動(dòng)者（First Mover of Science）」。

當(dāng)從哲學(xué)角度反思人類與AI（如GPT-4）的所有對話時(shí)，人們會驚訝地發(fā)現(xiàn)一個(gè)共性：人類總是提出第一個(gè)問題。在該研究中，即使AI科學(xué)家提出了開放式的科學(xué)假設(shè)，其前提也是人類研究者預(yù)先定義了科學(xué)研究的方向并要求AI科學(xué)家提出假設(shè)。在這種情況下，人類充當(dāng)科學(xué)第一推動(dòng)者。

這個(gè)概念至關(guān)重要，因?yàn)樗鼜?qiáng)調(diào)了人類參與科學(xué)研究的必要性。只要人類仍然是科學(xué)第一推動(dòng)者，人類就始終作為科研的主要?jiǎng)右?。無論AI作為主腦科學(xué)家還是如助手般負(fù)責(zé)執(zhí)行大部分研究任務(wù)，這一點(diǎn)都是成立的。

在這種情況下，人類仍然是科學(xué)研究的主宰，并確保了科學(xué)研究主要受人類意志的導(dǎo)引。

功能2：作為AI科學(xué)家與真實(shí)世界互動(dòng)的代理和反饋的提供者（「助手」）

在該研究中，人類主要充當(dāng)實(shí)驗(yàn)的執(zhí)行者，起到AI主腦科學(xué)家的物理外延（或間接實(shí)體化身）作用。人類代替AI主腦科學(xué)家在真實(shí)世界中進(jìn)行具體實(shí)驗(yàn)，并將實(shí)驗(yàn)結(jié)果反饋給它。

在這兩個(gè)功能中，替代功能1中人類角色更具挑戰(zhàn)性。如果一個(gè)系統(tǒng)可以在沒有人類干預(yù)的情況下自發(fā)地提出問題并啟動(dòng)新的科學(xué)探索，是否意味著這個(gè)系統(tǒng)具有了足夠的自主性并已達(dá)到AGI水平？

但對于功能2，假設(shè)AI已經(jīng)具備早期版本的AGI能力，未來這個(gè)功能可能會被非人類AI取代。這個(gè)功能可能會被具有能夠與真實(shí)世界直接交互能力的一個(gè)或一組機(jī)器人AI來完成。

這些機(jī)器人AI可能不需要非凡的智能，只需要很好地完成任務(wù)。

因此，研究者們合理推測，在未來，當(dāng)各種自動(dòng)化研究設(shè)備（如高精度靈敏機(jī)械臂）的運(yùn)行指令可以與類似GPT-4的高度智能AI集成時(shí)，這些AI可以通過直接發(fā)布文本格式的指令來操縱自動(dòng)化研究設(shè)備。在這種情況下，人類助手的角色可能會被取代。

AI介導(dǎo)的五階段科學(xué)革命

進(jìn)一步，基于對該研究中，AI/HI在科學(xué)研究各環(huán)節(jié)所占據(jù)的抽象地位的哲學(xué)反思，研究者們抽象出了科學(xué)研究中最為關(guān)鍵的3種角色：

第一推動(dòng)者（First Mover）：第一推動(dòng)者主要設(shè)定最高層次的科研方向，決定探索興趣和目標(biāo)，并直接反映科學(xué)意志。

主腦（Masterbrain）：在第一推動(dòng)者的科學(xué)意志驅(qū)使下，主腦在給定的特定研究方向內(nèi)提出合理的研究假設(shè)、設(shè)計(jì)實(shí)驗(yàn)、分析數(shù)據(jù)并得出科學(xué)結(jié)論。

助手（Assistant）：助手的職責(zé)包括執(zhí)行和完成主腦分配的特定研究實(shí)驗(yàn)或任務(wù)，并將實(shí)驗(yàn)結(jié)果反饋給主腦。在涉及多個(gè)代理的科學(xué)研究任務(wù)（包括HI和AI代理）的情況下，助手還協(xié)調(diào)和促進(jìn)代理之間的溝通，并根據(jù)代理與真實(shí)世界的互動(dòng)與主腦交換信息。

根據(jù)AI和HI所占據(jù)各抽象角色的差異，研究者們將AI介導(dǎo)的科學(xué)革命分為五個(gè)階段，即「AI介導(dǎo)的五階段科學(xué)革命（The Five Stages of AI-involved Scientific Revolution）」。

從一個(gè)階段過渡到另一個(gè)階段可以理解為科學(xué)哲學(xué)家托馬斯·庫恩在《科學(xué)革命的結(jié)構(gòu)》中所描述的「科學(xué)革命」。

階段I：HI主導(dǎo)式研究

該階段的特點(diǎn)：

第一推動(dòng)者：主腦：助手 = HI：HI：HI

在這個(gè)階段，人類直接參與幾乎所有重要的科學(xué)過程。機(jī)器或AI的智能水平在這個(gè)階段仍然很低。盡管一些具體的研究任務(wù)可以委托給機(jī)器或AI，但它們只起到輔助作用，其能力通常不超過人們的預(yù)期。

階段II：AI助手式研究

該階段的特點(diǎn)：

第一推動(dòng)者：主腦：助手 = HI：HI：AI

在這個(gè)階段，AI科學(xué)家在專業(yè)領(lǐng)域提供具體幫助。由于AI在特定任務(wù)中的優(yōu)越表現(xiàn)，其援助經(jīng)常超過人類的預(yù)期并成為不可或缺的部分。盡管如此，人類在第一推動(dòng)者和主腦的角色中仍然保持絕對主導(dǎo)地位。

階段III：AI主腦式研究

該階段的特點(diǎn)：

第一推動(dòng)者：主腦：助手 = HI：AI：HI

該研究展示的科研范式屬于這個(gè)階段。在這個(gè)階段，盡管AI可以自主地執(zhí)行諸如提出科學(xué)假設(shè)之類的高級科學(xué)研究環(huán)節(jié)，但仍受到諸如機(jī)器人技術(shù)等方面的限制，無法完全實(shí)現(xiàn)實(shí)驗(yàn)自動(dòng)化。

因此，人類必須擔(dān)任助手來啟動(dòng)或執(zhí)行特定實(shí)驗(yàn)的某些部分，與不同的AI工具進(jìn)行對接，并將結(jié)果集中提供給AI主腦以幫助決定下一步研究計(jì)劃。

需要注意的是，在這個(gè)階段，各種特定的科學(xué)工作和任務(wù)仍然可以由強(qiáng)大的AI工具執(zhí)行，但科學(xué)研究閉環(huán)并非完全由AI驅(qū)動(dòng)，需要HI充當(dāng)信息整合者并促進(jìn)互動(dòng)。因此，在這個(gè)階段，人類在助手這個(gè)抽象角色中不能被AI完全替代。

階段IV：AI閉環(huán)式研究

該階段的特點(diǎn)：

第一推動(dòng)者：主腦：助手 = HI：AI：AI

在這個(gè)階段，得益于AI、機(jī)器人技術(shù)和自動(dòng)化的高度發(fā)展，AI主腦不再需要人類作為中間助手。除第一推動(dòng)者外，所有其他角色都可以完全被AI和機(jī)器人替代。

此時(shí)，AI驅(qū)動(dòng)的科學(xué)研究形成一個(gè)完全閉環(huán)。由于AI和機(jī)器人具有不知疲倦、無休止工作的能力，知識爆炸將會發(fā)生。在那個(gè)時(shí)候，人類可能只需要提出問題，AI就可以成為問題的解決者；人類甚至可能只需要審查并控制向AI提出的問題是否合適。

階段V：AI全棧式研究

該階段的特點(diǎn)：

第一推動(dòng)者：主腦：助手 = AI：AI：AI

在這個(gè)階段，人類的參與可能不再是必要的。AI可能能夠自主地探索和發(fā)現(xiàn)世界中的新知識，就像今天的人類科學(xué)家一樣。

人類唯一需要做的可能是控制與AI相關(guān)的風(fēng)險(xiǎn)，并確保AI的研究方向符合人類發(fā)展目標(biāo)。在這個(gè)階段，實(shí)現(xiàn)全自主的知識發(fā)現(xiàn)和科學(xué)創(chuàng)新成為可能。

總結(jié)

總之，在該研究中，研究者們首次呈現(xiàn)了一個(gè)處于「階段III：AI主腦式研究」范式的AI介導(dǎo)的完整閉環(huán)自然科學(xué)研究的案例。

考慮到GPT-4及其后繼者具有超越任何個(gè)人的廣泛知識，作為人類科學(xué)家，我們實(shí)際上可以通過在不同研究領(lǐng)域向AI提問來尋求研究靈感。

因此，研究者們預(yù)計(jì)，在未來幾年，將會出現(xiàn)大量基于階段III科研范式的研究成果。此外，如果未來能夠在機(jī)器人技術(shù)和自動(dòng)化方面取得重大突破，研究者們還可以期待看到「階段IV：AI閉環(huán)式研究」范式的出現(xiàn)。

GPT-4基于其目前版本訓(xùn)練數(shù)據(jù)中不可能具備的「知識」，提出了全新的科研想法

對于AI能力的憂慮

當(dāng)完成了本篇論文之后，研究團(tuán)隊(duì)也對AI的能力產(chǎn)生了憂慮。

對于HI-AI面臨潛在「主仆關(guān)系」逆轉(zhuǎn)的憂慮

哲學(xué)家黑格爾提出了「主仆辯證法」的概念，仆人最初依賴于主人，但隨著主人將越來越多的任務(wù)委托給仆人，關(guān)系可能發(fā)生逆轉(zhuǎn)，導(dǎo)致主人變得越來越依賴仆人。當(dāng)研究者們過度依賴一個(gè)工具時(shí)，即使作為其擁有者，研究者們也可能經(jīng)歷主仆關(guān)系的轉(zhuǎn)變。

當(dāng)研究者們過度依賴一個(gè)工具時(shí)，即使作為其擁有者，研究者們也可能經(jīng)歷主仆關(guān)系的轉(zhuǎn)變。如果科學(xué)家越來越遠(yuǎn)離直接的科學(xué)思考和行動(dòng)，他們就不可避免地走向過度依賴AI，使AI成為科學(xué)發(fā)現(xiàn)的絕對驅(qū)動(dòng)力，而人類則不斷滑向從屬地位。

因此，在可預(yù)見的未來，盡管AI將極大地推動(dòng)科學(xué)進(jìn)步，但人類不應(yīng)忘記不斷審視自己是否面臨著科學(xué)領(lǐng)域的主仆關(guān)系的潛在轉(zhuǎn)變。

對于人類在科學(xué)創(chuàng)造力方面的憂慮

傲慢導(dǎo)致失敗。AI正在迅速發(fā)展，AI主腦科學(xué)家的出現(xiàn)進(jìn)一步加速了人類科技進(jìn)步的速度。因此，人們應(yīng)該以發(fā)展和審慎的眼光來看待未來科技的走向，人類或許也不能過分樂觀地高估自己在創(chuàng)造力方面的優(yōu)勢，即便是在科學(xué)研究的頂峰。正如人們曾經(jīng)認(rèn)為藝術(shù)創(chuàng)造力是人類獨(dú)有的天賦，然而，各種生成式AI模型的出現(xiàn)使人們重新審視這一觀點(diǎn)。

AI藝術(shù)家的作品甚至超越了人類，贏得了藝術(shù)比賽。對于GPT-4，它的出現(xiàn)可能也會導(dǎo)致大量職業(yè)被取代。如何妥善協(xié)調(diào)AI與HI的關(guān)系，保持人類的獨(dú)特性，這仍然是一個(gè)值得不斷謹(jǐn)慎反思的問題。

本研究的不足

最后，研究者也總結(jié)了本研究的一些局限性：

例如，研究者們無法保證AI沒有從浩如煙海的在線信息中學(xué)到關(guān)于電泳研究設(shè)計(jì)的知識。然而，正如科學(xué)研究需要閱讀大量文獻(xiàn)，站在巨人的肩膀上才能取得進(jìn)步一樣，一個(gè)優(yōu)秀的科學(xué)家總能從大量知識中提煉出精髓并將其整合使用，而GPT-4正好做到了這一點(diǎn)。

另外，在測試中，研究者給GPT-4提供的都是真實(shí)的實(shí)驗(yàn)條件和真實(shí)的數(shù)據(jù)；而GPT-4實(shí)際上能夠根據(jù)所提供的真實(shí)的信息進(jìn)行反饋。這和過去的情況很不一樣。一個(gè)科學(xué)家能夠發(fā)現(xiàn)關(guān)于真實(shí)世界的新知識的關(guān)鍵，即在于他必須要能和真實(shí)世界做出直接的交互并整合來自于真實(shí)世界的信息。

因此，即便一個(gè)AI其所具備的創(chuàng)新能力僅僅局限于組合式創(chuàng)新（而非絕對的原始創(chuàng)新），但只要其具備將過往知識和來自于真實(shí)世界的新的真實(shí)信息進(jìn)行正確整合的能力，其就有產(chǎn)生新的自然科學(xué)研究創(chuàng)新的可能。

未來，人們可以嘗試向GPT-4或更先進(jìn)的AI系統(tǒng)提出尚未解決或未見過的問題，并讓AI嘗試提出假設(shè)、設(shè)計(jì)實(shí)驗(yàn)并協(xié)助人類解決這些挑戰(zhàn)，從而更為扎實(shí)地展示AI作為創(chuàng)造性科學(xué)家的潛力。

盡管如此，該研究的初步測試已經(jīng)表明這是非常有可能的。

致謝

研究團(tuán)隊(duì)衷心感謝西湖大學(xué)對AI交叉科學(xué)社的支持；感謝AI交叉科學(xué)社兩位指導(dǎo)老師：許田教授和張?jiān)澜淌诘亩αχС?；感謝許田、張?jiān)馈⒃财?、解明歧?shí)驗(yàn)室為本研究提供了基本的生物學(xué)試劑和AI洞見！