自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

何愷明的ResNet,成為21世紀(jì)被引量最多論文,Nature最新統(tǒng)計(jì)

人工智能 新聞
《自然》雜志統(tǒng)計(jì)了 5 個(gè)數(shù)據(jù)庫(kù),給出了論文引用 Top 25 名單。

21 世紀(jì)被引用最多的論文有哪些?

大家不用去統(tǒng)計(jì)了,《自然》給出了一個(gè)最新 Top 25 排名。

image.png

完整排名地址:https://www.nature.com/magazine-assets/d41586-025-01125-9/50860378

排名第一的是微軟在 2016 年發(fā)布的 ResNets 研究,這是一篇計(jì)算機(jī)視覺(jué)領(lǐng)域的經(jīng)典論文。

ResNets 作為一種人工神經(jīng)網(wǎng)絡(luò),是深度學(xué)習(xí)以及后續(xù) AI 進(jìn)步的基礎(chǔ)。這項(xiàng)工作最初于 2015 年底以預(yù)印本形式發(fā)布,作者包括何愷明、張祥雨、任少卿和孫劍。ResNets 原始論文在 2016 就獲得了 CVPR 最佳論文獎(jiǎng)。

image.png

論文地址:https://arxiv.org/pdf/1512.03385

后來(lái) AI 領(lǐng)域重大進(jìn)展,都深受 ResNets 的影響,包括圍棋 AI(AlphaGo)、蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)(AlphaFold)到后來(lái)的語(yǔ)言模型(ChatGPT)等。

此外,「隨機(jī)森林(Random forests (2001))」,「Attention is all you need (2017)」、「ImageNet classification with deep convolutional neural networks (2017)」也位居 top 10 榜單。

值得注意的是,以上結(jié)論是《自然》團(tuán)隊(duì)選取了 5 個(gè)數(shù)據(jù)庫(kù)(Web of Science、Scopus、OpenAlex、Dimensions、Google Scholar)的統(tǒng)計(jì)結(jié)果,這些數(shù)據(jù)庫(kù)涵蓋了 21 世紀(jì)發(fā)表的數(shù)千萬(wàn)篇論文:ResNets 在其中兩個(gè)數(shù)據(jù)庫(kù)中引用量最高,在另外兩個(gè)中排名第二,最后一個(gè)位列第三 —— 綜合來(lái)看,其引用次數(shù)的中位數(shù)排名在五個(gè)數(shù)據(jù)庫(kù)中位居榜首。

如果從單一指標(biāo)來(lái)看,ResNets 并非在所有數(shù)據(jù)庫(kù)中都是引用量最高的。根據(jù)谷歌學(xué)術(shù)(Google Scholar)的數(shù)據(jù)(其團(tuán)隊(duì)向《自然》提供了高引論文榜單),該論文以 25.4 萬(wàn)次引用位居第二。而在美國(guó)科睿唯安公司旗下的 Web of Science 數(shù)據(jù)庫(kù)中(該庫(kù)收錄的期刊范圍較窄),它僅以 10 萬(wàn)余次引用排名第三。因而,大家需要相對(duì)來(lái)看待這次排名。

不過(guò),21 世紀(jì)的重大突破不只是 AI 領(lǐng)域,希格斯玻色子的發(fā)現(xiàn)、引力波的首次測(cè)量等都稱得上巨大的進(jìn)步,然而,這些突破性成果在 2000 年以來(lái)被引用量最高的論文中卻無(wú)一上榜。

原因?yàn)楹危?/span>

接下來(lái),Nature 這篇文章介紹了其他top 25論文以及它們成為「引用巨頭」的原因。

AI 成為二十一世紀(jì)被引用次數(shù)最多的論文

AI 教父 Geoffrey Hinton 指出,AI 論文在引用方面具有天然優(yōu)勢(shì),AI 領(lǐng)域與眾多領(lǐng)域相關(guān)聯(lián),21 世紀(jì)以來(lái)見(jiàn)證了快速的技術(shù)進(jìn)步和大量學(xué)術(shù)論文的涌現(xiàn)。

Hinton 因在 AI 領(lǐng)域的貢獻(xiàn),去年獲得了諾貝爾物理學(xué)獎(jiǎng)。

許多人認(rèn)為,深度學(xué)習(xí)的革命性發(fā)展,特別是多層人工神經(jīng)網(wǎng)絡(luò)的廣泛實(shí)用性,得益于 Hinton 在 2012 年共同撰寫(xiě)的論文《ImageNet classification with deep convolutional neural networks》。這篇論文介紹了后來(lái)被命名為 AlexNet 的網(wǎng)絡(luò),其在圖像識(shí)別和標(biāo)記競(jìng)賽中表現(xiàn)優(yōu)于其他方法,成為 21 世紀(jì)引用次數(shù)第 8 高的論文。

論文地址:https://dl.acm.org/doi/pdf/10.1145/3065386

此外,Hinton 及其合著者撰寫(xiě)的關(guān)于深度學(xué)習(xí)的綜述論文排名第 16。

而 2009 年李飛飛的論文《ImageNet: A Large-Scale Hierarchical Image Database》作為訓(xùn)練數(shù)據(jù)集根基,排名第 24。

論文地址:https://ieeexplore.ieee.org/document/5206848

三年后,一篇對(duì) AlexNet 架構(gòu)進(jìn)行修改的論文描繪了一種稱為 U-net 的新網(wǎng)絡(luò),其在圖像處理上更高效,現(xiàn)排名第 12,當(dāng)時(shí)該論文差點(diǎn)因缺乏新意而被會(huì)議拒絕。共同作者 Olaf Ronneberger 因這一工作而加入 DeepMind,他表示,U-net 仍然是許多擴(kuò)散模型中圖像生成的主要基礎(chǔ)。

論文地址:https://arxiv.org/abs/1505.04597

2017 年,谷歌研究團(tuán)隊(duì)推出題為《Attention is all you need》的論文,介紹了 Transformer 神經(jīng)網(wǎng)絡(luò)架構(gòu)。Transformer 通過(guò)高效實(shí)現(xiàn)自注意力機(jī)制,使網(wǎng)絡(luò)學(xué)習(xí)時(shí)能優(yōu)先處理相關(guān)信息,并成為推動(dòng)類似 ChatGPT 的大型語(yǔ)言模型發(fā)展的關(guān)鍵。該論文是本世紀(jì)引用次數(shù)第 7 高的。

論文地址:https://arxiv.org/pdf/1706.03762

開(kāi)源技術(shù)在機(jī)器學(xué)習(xí)的早期推動(dòng)了其引用率的提升。《Random forests》是第 6 高引用的論文,介紹了一種優(yōu)化的機(jī)器學(xué)習(xí)算法。猶他州立大學(xué)統(tǒng)計(jì)學(xué)家 Adele Cutler 與已故美國(guó)統(tǒng)計(jì)學(xué)家 Leo Breiman 共同擴(kuò)展了這一方法。Cutler 表示,該論文受歡迎的原因在于其開(kāi)源、免費(fèi)并易于使用,且功能卓越,無(wú)需大量定制即可執(zhí)行。

論文地址:https://link.springer.com/article/10.1023/A:1010933404324

許多 AI 論文常在同行評(píng)審前以預(yù)印本形式發(fā)布,導(dǎo)致引用統(tǒng)計(jì)復(fù)雜化。商業(yè)數(shù)據(jù)庫(kù)通常不跟蹤預(yù)印本引用,或未能將其與正式發(fā)表文章的引用合并,致使實(shí)際引用量被低估。荷蘭萊頓大學(xué)退休科學(xué)計(jì)量學(xué)專家 Paul Wouters 指出,隨著預(yù)印本引用日益普及,數(shù)據(jù)庫(kù)亟需開(kāi)發(fā)新方法整合這類引用數(shù)據(jù)。

據(jù)非營(yíng)利學(xué)術(shù)服務(wù)公司 OurResearch 的 Jason Priem 所述,OpenAlex 數(shù)據(jù)庫(kù)(《自然》文章的一個(gè)來(lái)源)嘗試通過(guò)合并預(yù)印本和最終版本來(lái)整合引用。而 Google Scholar 則試圖對(duì)所有版本進(jìn)行分組,匯總其引用。

研究軟件

有些論文的高引用并非偶然,而是有意識(shí)為研究人員提供可引用的對(duì)象。例如,約 25 年前,藥學(xué)科學(xué)家 Thomas Schmittgen 撰寫(xiě)了一篇關(guān)于定量 PCR(聚合酶鏈?zhǔn)椒磻?yīng))技術(shù)的論文。該技術(shù)用于定量分析樣本中的 DNA 含量。Schmittgen 原本引用了技術(shù)手冊(cè)中的公式分析數(shù)據(jù),但審稿人反饋稱用戶手冊(cè)不可作為引用來(lái)源。因此,他聯(lián)系了公式的創(chuàng)作者,共同發(fā)表了一篇具有引用性質(zhì)的論文。

根據(jù) Web of Science 數(shù)據(jù),這篇論文獲得了超過(guò) 162000 次引用,使其躋身歷史引用次數(shù)最多的前十名。這篇論文因簡(jiǎn)化了生物學(xué)家計(jì)算基因在不同條件(如藥物處理前后)下活性變化的方法而受歡迎。DESeq2 是一個(gè)可以使用該論文描述的 RNA 測(cè)序數(shù)據(jù)進(jìn)行基因活性變化計(jì)算的軟件程序,其相關(guān)論文在引用榜單上排名第 18。

另一個(gè)在榜單中被高度引用的軟件論文(排名第五)由已故英國(guó)化學(xué)家 George Sheldrick 撰寫(xiě)。Sheldrick 于今年二月去世,他創(chuàng)建了 SHELX 計(jì)算機(jī)程序套件,用于分析 X 射線通過(guò)分子晶體后的散射圖案,從而揭示分子的原子結(jié)構(gòu)。在 2008 年,Sheldrick 撰寫(xiě)了一篇評(píng)論文章,建議在使用 SHELX 程序時(shí)引用此文;該文章的引用次數(shù)約為 70000 至 90000 次,具體數(shù)值因數(shù)據(jù)庫(kù)而異。

統(tǒng)計(jì)軟件

統(tǒng)計(jì)軟件領(lǐng)域中的高被引論文通常與特定的統(tǒng)計(jì)或編程軟件相關(guān)。例如,一篇關(guān)于 scikit-learn 的論文獲得了顯著關(guān)注。scikit-learn 是一個(gè)免費(fèi)開(kāi)源的機(jī)器學(xué)習(xí)庫(kù),專為 Python 編程語(yǔ)言用戶設(shè)計(jì),包含豐富的預(yù)編碼函數(shù)和技術(shù)。這篇論文的引用次數(shù)超過(guò) 50000 次,根據(jù) Google Scholar 的數(shù)據(jù)可能高達(dá) 100000 次,在引用榜單中排名第 15。

另一篇被大量引用的論文來(lái)自 2015 年,探討了 lme4 軟件包。lme4 是一個(gè)使用 R 編程語(yǔ)言開(kāi)發(fā)的免費(fèi)軟件包,用于分析特定統(tǒng)計(jì)模型的數(shù)據(jù),其排名略高于前述 scikit-learn 的論文。此外,還有關(guān)于 G*Power 的論文,該軟件是一個(gè)免費(fèi)工具,為生物學(xué)家提供計(jì)算實(shí)驗(yàn)規(guī)模以獲得統(tǒng)計(jì)顯著性結(jié)果的便捷方法,也是高被引的。

然而,盡管 R 編程軟件被科學(xué)界廣泛使用和引用,它并未出現(xiàn)在這些高被引榜單中。OpenAlex 記錄顯示,描述 R 的「研究工作」獲得了超過(guò) 300000 次引用,但其他數(shù)據(jù)庫(kù)沒(méi)有相關(guān)記錄。這可能是因?yàn)?R 的開(kāi)發(fā)者建議用戶引用軟件所在的存儲(chǔ)庫(kù)網(wǎng)站(www.r-project.org),而未針對(duì)其撰寫(xiě)過(guò)正式的研究論文。OpenAlex 錯(cuò)誤地將這些引用視作研究論文,導(dǎo)致該「研究工作」在 OpenAlex 引文記錄中排名靠前,卻在其他數(shù)據(jù)庫(kù)中缺席。

就引文文化和記錄的變幻無(wú)常,這個(gè)例子說(shuō)明了問(wèn)題。德國(guó)科學(xué)計(jì)量學(xué)家 Robin Haunschild 為《自然》雜志的分析提供了建議。他指出:「第一課:如果你編寫(xiě)了一個(gè)有影響力的程序 —— 請(qǐng)為它撰寫(xiě)一篇論文。」

責(zé)任編輯:張燕妮 來(lái)源: 機(jī)器之心
相關(guān)推薦

2024-04-22 11:40:50

2017-09-11 10:37:56

編程語(yǔ)言名單

2023-08-16 15:50:00

科學(xué)計(jì)算

2013-05-21 16:20:40

2022-11-14 12:38:29

2013-06-03 09:36:24

21世紀(jì)代碼寫(xiě)代碼

2019-10-08 10:35:53

編譯Linux內(nèi)核

2013-06-03 10:18:59

WindowsLinux微軟Office

2011-04-20 13:14:33

BlackBerry黑莓RIM

2012-10-09 13:41:09

數(shù)據(jù)科學(xué)家職業(yè)

2020-03-23 13:43:00

數(shù)據(jù)科學(xué)家大數(shù)據(jù)數(shù)據(jù)

2020-04-10 10:11:15

數(shù)據(jù)泄露漏洞信息安全

2020-12-22 09:42:47

生物識(shí)別網(wǎng)絡(luò)安全

2025-02-14 11:09:47

2021-11-03 21:00:19

智能建筑物聯(lián)網(wǎng)

2011-02-17 14:27:16

WindowsMac

2022-06-07 16:40:09

區(qū)塊鏈數(shù)字貨幣分布式賬本

2015-01-22 10:20:03

網(wǎng)絡(luò)連接

2020-01-08 13:40:01

戴爾

2013-11-20 11:35:44

SAP中國(guó)商業(yè)同略會(huì)
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)