今年的諾貝爾物理學獎頒給了兩位享譽盛名的 AI 研究者 John J. Hopfield 和 Geoffrey E. Hinton，這確實讓很多人感到意外。

第一層疑問是：Hinton 和物理學有什么關系嗎？

第二層疑問是：AI 科學家是如何提名物理學獎的？這程序合理嗎？

連 GPT-4o 都不敢相信：

當然，更深層的質(zhì)疑來自一些同賽道的 AI 科學家，比如挑戰(zhàn) Hinton 多年的 LSTM 之父 ——Jürgen Schmidhuber。

Jürgen Schmidhuber 又來了

在統(tǒng)計物理學中，Hopfield 模型成為最常研究的 Hamiltonians 學派之一，關于它的論文和書籍已有數(shù)萬篇。這個想法為數(shù)百名物理學家進入神經(jīng)科學和 AI 領域提供了切入點。

在計算機科學中，Hopfield 網(wǎng)絡是促使 AI 寒冬（1974-1981 年）結(jié)束以及隨后人工神經(jīng)網(wǎng)絡復興的主要驅(qū)動思想。Hopfield 在 1982 年發(fā)表的論文標志著現(xiàn)代神經(jīng)網(wǎng)絡時代的開始。

但 Jürgen Schmidhuber 認為：「諾貝爾物理學獎授予了計算機科學領域的剽竊和錯誤歸屬，主要涉及 Amari 的 Hopfield 網(wǎng)絡和玻爾茲曼機?！?/span>

在發(fā)表于 X 平臺的小作文中，Jürgen Schmidhuber 洋洋灑灑列了四條依據(jù)，內(nèi)容如下：

1、Lenz-Ising 神經(jīng)元遞歸結(jié)構(gòu)發(fā)表于 1925 年。1972 年，甘利俊一（Shun-Ichi Amari）使其具有自適應能力，通過改變連接權(quán)重，學會將輸入模式與輸出模式聯(lián)系起來。不過，在「2024 年諾貝爾物理學獎的科學背景」中，Amari 只是被簡單引用。遺憾的是，Amari 的網(wǎng)絡后來被稱為「Hopfield 網(wǎng)絡」。Hopfield 在 10 年后重新發(fā)表了它，但沒有引用 Amari，甚至在后來的論文中也沒有引用。

2、Ackley、Hinton 和 Sejnowski 的相關玻爾茲曼機論文是關于神經(jīng)網(wǎng)絡隱藏單元內(nèi)部表征的學習。它沒有引用 Ivakhnenko 和 Lapa 提出的第一個內(nèi)部表征深度學習算法，也沒有引用 Amari 通過隨機梯度下降（SGD）在深度 NN 中端到端學習內(nèi)部表征的獨立工作（1967-68 年）。甚至連作者后來的調(diào)查和「2024 年諾貝爾物理學獎的科學背景」都沒有提到深度學習的這些起源。玻爾茲曼機也沒有引用 Sherrington & Kirkpatrick 和 Glauber 之前的相關工作。

3、諾貝爾獎委員會還稱贊了 Hinton 等人 2006 年提出的深度神經(jīng)網(wǎng)絡分層預訓練方法（2006 年）。然而，這項工作既沒有引用 Ivakhnenko 和 Lapa（1965 年）對深度神經(jīng)元進行分層訓練的原始方法，也沒有引用對深度神經(jīng)元進行無監(jiān)督預訓練的原始方法。

4、如「主流信息」所說：「在 20 世紀 60 年代末，一些令人沮喪的理論結(jié)果讓許多研究人員懷疑這些神經(jīng)網(wǎng)絡永遠不會有任何實際用途」。然而，深度學習研究在 20 世紀 60-70 年代顯然是活躍的，尤其是在英國以外的地區(qū)。

Jürgen 還表示，關于剽竊和錯誤署名的更多案例，可參見以下參考文獻，可以從第 3 節(jié)開始：

《3 位圖靈獎獲得者如何重新發(fā)表他們未能歸功于創(chuàng)造者的關鍵方法和想法》https://people.idsia.ch/~juergen/ai-priority-disputes.html

有關該領域的歷史，請參閱以下參考文獻：

《現(xiàn)代人工智能和深度學習的注釋歷史》

https://people.idsia.ch/~juergen/deep-learning-history.html

但情況真的如 Jürgen 所說嗎？至少一些網(wǎng)友已經(jīng)指出了表述中的問題：

「在機器學習中，那些無法真正證明其想法可行的想法論文比比皆是，而且往往不會被廣泛閱讀或采用。除此之外，我們實際上并沒有一個統(tǒng)一的理論，因此不同的陣營使用完全不同的術(shù)語，直到你真正深入研究它，你才會意識到獨立創(chuàng)建的各種模型之間存在數(shù)學等價性。」

維基百科詞條中，關于 Hopfield 網(wǎng)絡的簡介如下：

第二個要添加的組成部分是對刺激的適應。中野薰（Kaoru Nakano）于 1971 年和甘利俊一（Shun'ichi Amari）于 1972 年分別對此進行了描述，他們提出通過 Hebbian 學習規(guī)則修改 Ising 模型的權(quán)重，使其成為聯(lián)想記憶模型。William A. Little 于 1974 年發(fā)表了同樣的想法，Hopfield 在 1982 年的論文中對他表示了感謝。

基本上，有 3 個不同的人想到使用 Hebbian 學習進行聯(lián)想記憶。因此 Hopfield 將這個想法歸功于他所知道的人，盡管看起來 Amari 更早（或許 Nakano 甚至比 Amari 還早）。

還有網(wǎng)友說，玻爾茲曼機論文并沒有使用反向傳播、Hebbian 學習或 Schmidhuber 認為沒被引用的任何方法。這篇論文本身并沒有說它發(fā)明了第一個學習算法，只是說它發(fā)現(xiàn)了一種可以產(chǎn)生有用且有趣的中間表示的學習算法。

而 Hinton 早就在幾年前解釋過 Jürgen Schmidhuber 指出的問題，并表示「從此不會再做出任何回應」。

與 Schmidhuber 就學術(shù)信用問題進行公開辯論并不可取，因為這只會助長他的氣焰，而且他會不惜花費大量時間和精力來詆毀他所認為的對手。他甚至不惜使用維基百科中的多重別名等伎倆，讓別人看起來似乎同意他的說法。他網(wǎng)站上關于艾倫?圖靈的頁面就是一個很好的例子，說明他是如何試圖削弱其他人的貢獻的。

盡管我有最好的判斷力，但我覺得我不能完全不回答他的指控，所以我只回應一次。我從未聲稱反向傳播是我發(fā)明的。David Rumelhart 是在其他領域的人發(fā)明反向傳播很久之后才獨立發(fā)明它的。的確，當我們第一次發(fā)表論文時，我們并不了解這段歷史，所以我們沒有引用之前的發(fā)明者。我所聲稱的是，是我清楚地證明了反向傳播可以學習有趣的內(nèi)部表征，而這正是它廣受歡迎的原因。我是通過強迫神經(jīng)網(wǎng)絡學習單詞的向量表征來做到這一點的，這樣它就能根據(jù)前一個單詞的向量表征來預測序列中的下一個單詞。正是這個例子說服了《自然》雜志的審稿人發(fā)表了 1986 年的論文。

的確，媒體上有很多人說我發(fā)明了反向傳播，我也花了很多時間來糾正他們。以下是 Michael Ford2018 年出版的《智能架構(gòu)師》（Architects of Intelligence）一書的節(jié)選：

在 David Rumelhart 之前，很多不同的人發(fā)明了不同版本的反向傳播。他們主要是獨立的發(fā)明，我覺得我的功勞太大了。我在媒體上看到有人說是我發(fā)明了反向傳播，這完全是錯誤的。這是一個罕見的例子，一個學者覺得他在某件事情上獲得了太多的榮譽！我的主要貢獻是展示了如何使用它來學習分布式表征，所以我想澄清這一點。

也許 Jürgen 想澄清是誰發(fā)明了 LSTM？

Nature：諾獎的提名過程必須更加公開透明

在諾貝爾獎的物理學獎和化學獎分別頒發(fā)給 AI 之后，大家開始懷疑：莫非今年的諾貝爾文學獎要頒給 ChatGPT？

面對諾貝爾獎評選結(jié)果的多重「意外」，頂刊也是早有預料了。

前兩天，Nature 雜志就發(fā)表了一篇社論，炮轟諾貝爾獎在全球范圍內(nèi)代表性不足，提名過程必須更加公開透明。

類似于 AI 的推理過程還是個「黑盒」，諾貝爾獎的評選過程也是一個有點像「黑盒」的機制，提名人和被提名人名單在評獎結(jié)果公布之前必然嚴格保密，被提名名單更是要保密 50 年。因此，諾貝爾獎評選的具體細節(jié)，我們無從得知。

為了預測下一年的諾貝爾獎得主，人們只能從往年的獲獎者中尋找規(guī)律。于是，一直有傳言稱，諾貝爾文學獎的評選存在一個不成文的規(guī)定，即來自五大洲的作家輪流獲獎。

與此相對照的是，負責評選諾貝爾獎的組織表示過，他們正在積極努力提升諾貝爾獎得主的多樣性，并且已經(jīng)取得了顯著進展。整個 20 世紀，諾貝爾化學獎、物理學獎以及生理學或醫(yī)學獎僅有 11 次被授予女性；而在 2000 年至 2023 年間，這個數(shù)字就提升到了 15 次。

1910 年 - 2020 年女性獲得諾貝爾獎的數(shù)量變化

雖然性別的多樣性取得了可喜的進展，但大家似乎已經(jīng)習慣了科學界權(quán)力和資金分配在全球范圍內(nèi)的不均衡，往往忽視了這一點。在諾貝爾獎的歷史中，只有 10 位獲獎者出生于目前被世界銀行歸類為中低收入以下的國家，并且他們中的絕大多數(shù)在獲獎時已經(jīng)移居北美或歐洲。

正如《TWAS at 20（第三世界科學院 20 年）》這本書中所寫，四十年前，許多非發(fā)達地區(qū)的科學家面臨著艱難的選擇：「背棄你的家鄉(xiāng)，專注于職業(yè)生涯；或者留在家里，獻祭你的職業(yè)生涯?！?/span>

在更隱秘的角落，諾貝爾獎之上還籠罩著一層巨大而無形的「人情網(wǎng)」。Nature 的調(diào)查顯示，無論看起來有多離譜，幾乎所有諾貝爾獎得主都存在某種聯(lián)系。令人驚訝的是，獲得科學類以及經(jīng)濟學獎項中的 736 位得主，其中有 702 位屬于同一個學術(shù)家族 —— 他們通過學術(shù)關系在歷史的某個節(jié)點彼此相連。

這可能與諾貝爾獎提名采用邀請制有關。根據(jù)諾貝爾基金會章程，歷屆諾貝爾獎得主、瑞典、丹麥、芬蘭、冰島和挪威的大學教授、瑞典皇家科學院成員以及相關諾貝爾獎評審委員會成員可以無需許可，直接提名候選人。其他有資格參與評獎的人則必須獲得官方邀請函，才能提名入圍名單。

提名過程分為兩個階段：首先高級領導、院長和教授們收到諾獎官方的信件；然后，被這些被選中的科學家們按照標準進行提名。來自斯德哥爾摩大學的 Peter Brzezinski 對 Nature 表示，瑞典皇家科學院今年聯(lián)系了大約 1250 所大學。但由于人力有限，平均每五年，每所大學只會收到一次邀請。

這種情況可能是諾貝爾在設立獎項時未曾預見的。諾貝爾獎的評選歷史已接近 120 年，當初科學研究還是個小眾領域。20 世紀初，全世界的物理學家大約只有 1000 人，而如今廣義上的物理學家已多達數(shù)百萬。

諾貝爾獎的揭曉再次激起了世人對科學與技術(shù)的熱情，但如何在當今科技日新月異的時代設立一個更加全面和包容的評獎機制，確實也是不容忽視的重要議題。