整理 | 言征
出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）
10月8日晚間，2024 年諾貝爾物理學(xué)獎(jiǎng)得主公布，名單非常令人驚訝，兩位得主John Hopfield（約翰·霍普菲爾德）、Geoffrey Hinton（杰弗里·辛頓），并非是發(fā)現(xiàn)了類似相對(duì)論、量子力學(xué)等驚世的物理學(xué)規(guī)律，而是因?yàn)閷?duì)于AI的基礎(chǔ)性貢獻(xiàn)。
不要說(shuō)大眾覺(jué)得很“詭異”，就連辛頓本人接到通知電話時(shí)也覺(jué)得是詐騙。
凌晨的時(shí)候，辛頓在加利福尼亞州的一家酒店房間里接到了來(lái)自瑞典斯德哥爾摩的電話，他第一時(shí)間想到的是：我怎么確定這不是一個(gè)詐騙電話。
最后，辛頓通過(guò)電話那頭的多種瑞典口音（而非單一的模擬口音）來(lái)確信他的諾貝爾物理學(xué)獎(jiǎng)是真實(shí)的。
在他得知該獎(jiǎng)項(xiàng)后錄制的這次采訪中，他談到了機(jī)器學(xué)習(xí)的現(xiàn)狀、對(duì)安全研究的迫切需求，以及他希望該獎(jiǎng)項(xiàng)可以讓人們更認(rèn)真地對(duì)待他所表達(dá)的恐懼。
1.辛頓正在酒店里沒(méi)有網(wǎng)絡(luò)，電話信號(hào)也不好
辛頓：你好？
史密斯：哦，你好。我是否與 Geoffrey Hinton 交談？
辛頓：是的。
史密斯：我是亞當(dāng)·斯密（Adam Smith）從諾貝爾獎(jiǎng)網(wǎng)站打來(lái)的電話。
辛頓：好的。我知道你是誰(shuí)，因?yàn)楹芫靡郧拔易⒁獾剿麄冇腥舜螂娫拋?lái)了解人們的反應(yīng)。
史密斯：沒(méi)錯(cuò)。那么，我們能聊幾分鐘嗎？
辛頓：是的。
史密斯：真的非常感謝你。首先，當(dāng)然。非常祝賀。
辛頓：謝謝。
史密斯：那么，你在哪里？在哪里得知的這個(gè)消息呢？
辛頓：我在加利福尼亞的一家便宜的酒店里，沒(méi)有互聯(lián)網(wǎng)連接，電話線也不是很好。我本來(lái)打算今天做 MRI 掃描，但我想我得取消。我甚至不知道我甚至被提名了諾貝爾物理學(xué)獎(jiǎng)。我非常驚訝。
2.我怎么確定這不是詐騙電話
史密斯：聽(tīng)起來(lái)，在某種程度上，這是一個(gè)相當(dāng)明智的接收新聞的地方。因?yàn)槟阌悬c(diǎn)孤立。你可以在一天的洪水之前收集你的思緒。
辛頓：是的。另一方面，現(xiàn)在是凌晨?jī)牲c(diǎn)。
史密斯：哦，天哪。是的。對(duì)不起。是的。呃，天哪。我不知道你有沒(méi)有......
辛頓：我想現(xiàn)在已經(jīng)三點(diǎn)了。
史密斯：。。。我不知道你是想回去睡覺(jué)，還是你不得不接受這一天將是漫長(zhǎng)的一天。
辛頓：是的，我不認(rèn)為我有那么多的憤怒。
史密斯：嗯，真是個(gè)驚喜。什么，你的第一個(gè)想法是什么？
辛頓：我的第一個(gè)想法是，我怎么能確定這不是一個(gè)欺騙電話。
史密斯：然后呢？你怎么確定的呢？
辛頓：電話來(lái)自瑞典，那個(gè)人有很重的瑞典口音，而且不止一個(gè)人。
史密斯：是的。所以它必須是一群模仿者，我想這不太可能。
辛頓：是的。
3.如何介紹當(dāng)時(shí)的自己？試圖理解生物學(xué)的物理學(xué)家？
辛頓：我不太了解
史密斯：你會(huì)如何描述自己？當(dāng)你做這項(xiàng)工作時(shí)，你會(huì)說(shuō)你是一名計(jì)算機(jī)科學(xué)家，還是說(shuō)你是一名試圖理解生物學(xué)的物理學(xué)家？
辛頓：我想說(shuō)的是，我是一個(gè)不太了解自己在哪個(gè)領(lǐng)域的人，但想了解大腦是如何工作的。在我試圖了解大腦如何運(yùn)作的過(guò)程中，我?guī)椭鷦?chuàng)造了一種效果出奇地好的技術(shù)。
4.AI與氣候變化、克隆技術(shù)不同，我們對(duì)它知之甚少
史密斯：值得注意的是，我想你已經(jīng)非常公開(kāi)地表達(dá)了對(duì)這項(xiàng)技術(shù)可能帶來(lái)什么的擔(dān)憂。您認(rèn)為需要做些什么來(lái)減輕您和其他人所表達(dá)的恐懼？
辛頓：因此，我認(rèn)為這與氣候變化頗為不同。對(duì)于氣候變化，大家都知道需要做什么。我們需要停止燃燒碳。這只是個(gè)政治意愿問(wèn)題，以及大公司賺大錢(qián)卻不愿這么做的問(wèn)題。但你需要做什么是明確的。而我們目前所面對(duì)的情況，我們對(duì)即將發(fā)生什么以及如何應(yīng)對(duì)所知甚少。所以，我希望能有一種簡(jiǎn)單的辦法，只要照做，一切都會(huì)好起來(lái)。但我沒(méi)有這樣的辦法。特別是考慮到這些事物失控并占據(jù)主導(dǎo)地位所帶來(lái)的生存威脅，我認(rèn)為我們現(xiàn)在正處于歷史的一個(gè)分叉點(diǎn)，在接下來(lái)的幾年里，我們需要找出應(yīng)對(duì)這一威脅的方法。
因此，我認(rèn)為現(xiàn)在人們研究如何保持控制的問(wèn)題至關(guān)重要。我們需要在這方面投入大量的研究精力。我認(rèn)為政府可以做的一件事是，迫使大公司將其更多資源用于安全研究。這樣，例如，像OpenAI這樣的公司就不能再把安全研究放在次要位置了。
史密斯：這與生物技術(shù)革命時(shí)期的情況是否有相似之處，那時(shí)，生物技術(shù)的從業(yè)者們齊聚阿西洛馬會(huì)議，坐下來(lái)討論說(shuō)，你知道，這里存在潛在的危險(xiǎn)，我們需要，我們需要自己來(lái)解決這個(gè)問(wèn)題？
辛頓：是的。我認(rèn)為這與此有相似之處，我認(rèn)為他們所做的非常好。不幸的是，AI 還有更多的實(shí)際應(yīng)用。還有生物學(xué)家試圖控制的事情，比如克隆。所以，我認(rèn)為這會(huì)困難得多。但我認(rèn)為生物學(xué)家所做的是一個(gè)很好的模型。令人印象深刻的是，他們?cè)O(shè)法達(dá)成了協(xié)議，科學(xué)家們做到了。
史密斯：所以，例如對(duì)于大型語(yǔ)言模型，我認(rèn)為導(dǎo)致你恐懼的是，你覺(jué)得這些模型比很多人說(shuō)的更接近理解。當(dāng)談到諾貝爾獎(jiǎng)在這一領(lǐng)域的影響時(shí)，您認(rèn)為它會(huì)有所作為嗎？
辛頓：是的，我認(rèn)為這會(huì)有所作為。希望當(dāng)我說(shuō)這些事情時(shí)，這讓我更可信，確實(shí)理解他們?cè)谡f(shuō)什么。
5.不懼流派爭(zhēng)議，神經(jīng)網(wǎng)絡(luò)可以理解語(yǔ)言
史密斯：你擔(dān)心人們不把你當(dāng)回事嗎？
辛頓：有一整個(gè)語(yǔ)言學(xué)流派源自喬姆斯基（Chomsky），他們說(shuō)這些機(jī)器能理解語(yǔ)言完全是無(wú)稽之談，它們處理語(yǔ)言的方式與我們截然不同。我認(rèn)為那個(gè)流派是錯(cuò)誤的。我認(rèn)為現(xiàn)在很明顯，神經(jīng)網(wǎng)絡(luò)在處理語(yǔ)言方面比喬姆斯基語(yǔ)言學(xué)流派產(chǎn)生的任何東西都要好得多。但關(guān)于這一點(diǎn)仍然存在很多爭(zhēng)論，尤其是在語(yǔ)言學(xué)家之間。
史密斯：不過(guò)，我只是想回到你半夜在酒店房間里收到這個(gè)消息的情況。從某種程度上說(shuō)，這是一個(gè)相當(dāng)孤獨(dú)的新聞發(fā)布會(huì)。沒(méi)有人可以求助，可以擁抱和慶祝。
辛頓：嗯，我和我的妻子一起在這里，她非常興奮。
史密斯：好的。確實(shí)是的。但現(xiàn)在、此刻，還是要祝賀你們。
辛頓：謝謝。好。
