整理 | 言征

10月8日晚間，2024 年諾貝爾物理學獎得主公布，名單非常令人驚訝，兩位得主John Hopfield（約翰·霍普菲爾德）、Geoffrey Hinton（杰弗里·辛頓），并非是發(fā)現(xiàn)了類似相對論、量子力學等驚世的物理學規(guī)律，而是因為對于AI的基礎(chǔ)性貢獻。

不要說大眾覺得很“詭異”，就連辛頓本人接到通知電話時也覺得是詐騙。

凌晨的時候，辛頓在加利福尼亞州的一家酒店房間里接到了來自瑞典斯德哥爾摩的電話，他第一時間想到的是：我怎么確定這不是一個詐騙電話。

最后，辛頓通過電話那頭的多種瑞典口音（而非單一的模擬口音）來確信他的諾貝爾物理學獎是真實的。

在他得知該獎項后錄制的這次采訪中，他談到了機器學習的現(xiàn)狀、對安全研究的迫切需求，以及他希望該獎項可以讓人們更認真地對待他所表達的恐懼。

以下是諾貝爾獎網(wǎng)站采訪者亞當·史密斯（Adam Smith）與辛頓的電話交談記錄：

1.辛頓正在酒店里沒有網(wǎng)絡(luò)，電話信號也不好

辛頓：你好？

史密斯：哦，你好。我是否與 Geoffrey Hinton 交談？

辛頓：是的。

史密斯：我是亞當·斯密（Adam Smith）從諾貝爾獎網(wǎng)站打來的電話。

辛頓：好的。我知道你是誰，因為很久以前我注意到他們有人打電話來了解人們的反應(yīng)。

史密斯：沒錯。那么，我們能聊幾分鐘嗎？

辛頓：是的。

史密斯：真的非常感謝你。首先，當然。非常祝賀。

辛頓：謝謝。

史密斯：那么，你在哪里？在哪里得知的這個消息呢？

辛頓：我在加利福尼亞的一家便宜的酒店里，沒有互聯(lián)網(wǎng)連接，電話線也不是很好。我本來打算今天做 MRI 掃描，但我想我得取消。我甚至不知道我甚至被提名了諾貝爾物理學獎。我非常驚訝。

2.我怎么確定這不是詐騙電話

史密斯：聽起來，在某種程度上，這是一個相當明智的接收新聞的地方。因為你有點孤立。你可以在一天的洪水之前收集你的思緒。

辛頓：是的。另一方面，現(xiàn)在是凌晨兩點。

史密斯：哦，天哪。是的。對不起。是的。呃，天哪。我不知道你有沒有......

辛頓：我想現(xiàn)在已經(jīng)三點了。

史密斯：。。。我不知道你是想回去睡覺，還是你不得不接受這一天將是漫長的一天。

辛頓：是的，我不認為我有那么多的憤怒。

史密斯：嗯，真是個驚喜。什么，你的第一個想法是什么？

辛頓：我的第一個想法是，我怎么能確定這不是一個欺騙電話。

史密斯：然后呢？你怎么確定的呢？

辛頓：電話來自瑞典，那個人有很重的瑞典口音，而且不止一個人。

史密斯：是的。所以它必須是一群模仿者，我想這不太可能。

辛頓：是的。

3.如何介紹當時的自己？試圖理解生物學的物理學家？

辛頓：我不太了解

史密斯：你會如何描述自己？當你做這項工作時，你會說你是一名計算機科學家，還是說你是一名試圖理解生物學的物理學家？

辛頓：我想說的是，我是一個不太了解自己在哪個領(lǐng)域的人，但想了解大腦是如何工作的。在我試圖了解大腦如何運作的過程中，我?guī)椭鷦?chuàng)造了一種效果出奇地好的技術(shù)。

4.AI與氣候變化、克隆技術(shù)不同，我們對它知之甚少

史密斯：值得注意的是，我想你已經(jīng)非常公開地表達了對這項技術(shù)可能帶來什么的擔憂。您認為需要做些什么來減輕您和其他人所表達的恐懼？

辛頓：因此，我認為這與氣候變化頗為不同。對于氣候變化，大家都知道需要做什么。我們需要停止燃燒碳。這只是個政治意愿問題，以及大公司賺大錢卻不愿這么做的問題。但你需要做什么是明確的。而我們目前所面對的情況，我們對即將發(fā)生什么以及如何應(yīng)對所知甚少。所以，我希望能有一種簡單的辦法，只要照做，一切都會好起來。但我沒有這樣的辦法。特別是考慮到這些事物失控并占據(jù)主導地位所帶來的生存威脅，我認為我們現(xiàn)在正處于歷史的一個分叉點，在接下來的幾年里，我們需要找出應(yīng)對這一威脅的方法。

因此，我認為現(xiàn)在人們研究如何保持控制的問題至關(guān)重要。我們需要在這方面投入大量的研究精力。我認為政府可以做的一件事是，迫使大公司將其更多資源用于安全研究。這樣，例如，像OpenAI這樣的公司就不能再把安全研究放在次要位置了。

史密斯：這與生物技術(shù)革命時期的情況是否有相似之處，那時，生物技術(shù)的從業(yè)者們齊聚阿西洛馬會議，坐下來討論說，你知道，這里存在潛在的危險，我們需要，我們需要自己來解決這個問題？

辛頓：是的。我認為這與此有相似之處，我認為他們所做的非常好。不幸的是，AI 還有更多的實際應(yīng)用。還有生物學家試圖控制的事情，比如克隆。所以，我認為這會困難得多。但我認為生物學家所做的是一個很好的模型。令人印象深刻的是，他們設(shè)法達成了協(xié)議，科學家們做到了。

史密斯：所以，例如對于大型語言模型，我認為導致你恐懼的是，你覺得這些模型比很多人說的更接近理解。當談到諾貝爾獎在這一領(lǐng)域的影響時，您認為它會有所作為嗎？

辛頓：是的，我認為這會有所作為。希望當我說這些事情時，這讓我更可信，確實理解他們在說什么。

5.不懼流派爭議，神經(jīng)網(wǎng)絡(luò)可以理解語言

史密斯：你擔心人們不把你當回事嗎？

辛頓：有一整個語言學流派源自喬姆斯基（Chomsky），他們說這些機器能理解語言完全是無稽之談，它們處理語言的方式與我們截然不同。我認為那個流派是錯誤的。我認為現(xiàn)在很明顯，神經(jīng)網(wǎng)絡(luò)在處理語言方面比喬姆斯基語言學流派產(chǎn)生的任何東西都要好得多。但關(guān)于這一點仍然存在很多爭論，尤其是在語言學家之間。

史密斯：不過，我只是想回到你半夜在酒店房間里收到這個消息的情況。從某種程度上說，這是一個相當孤獨的新聞發(fā)布會。沒有人可以求助，可以擁抱和慶祝。

辛頓：嗯，我和我的妻子一起在這里，她非常興奮。

史密斯：好的。確實是的。但現(xiàn)在、此刻，還是要祝賀你們。

辛頓：謝謝。好。

本文轉(zhuǎn)載自??51CTO技術(shù)棧??，作者：言征