「截至我最后的知識更新」，「重新生成響應(yīng)」，「作為一個AI語言模型」......

這些短句，已經(jīng)成為頂刊論文中的常態(tài)。

2024年，一篇發(fā)表在Radiology Case Reports上論文，因文中出現(xiàn)了「我是一個AI語言模型」，直接被撤稿。

令人震驚的是，這句話不僅沒有引起作者注意，更逃過了編輯、審稿人、排版人的審查。

Nature最新頭版文章中，直接戳破了當(dāng)前頂刊現(xiàn)狀——學(xué)術(shù)文獻中大量使用AI撰稿。

路易斯維爾大學(xué)Alex Glynn創(chuàng)建了一個在線追蹤器「Academ-AI」，已經(jīng)記錄了超700篇帶有AI使用痕跡的論文。

其中，一些AI生成的內(nèi)容較為隱晦，比如「當(dāng)然，這里是」，典型機器味兒的句子。

Glynn的分析還顯示，前500篇被標(biāo)記論文中，其中13%刊登在Elsevier、Springer Nature和MDPI大型出版商的期刊上。

論文地址：https://arxiv.org/pdf/2411.15218

頂刊破案現(xiàn)場，AI「嘴臉」藏不住了

近年來，ChatGPT生成式AI席卷學(xué)術(shù)界，深刻改變了論文寫作與出版的生態(tài)。

研究人員們越來越依賴這些工具來起草、潤色，甚至審稿，但與此同時，一個令人擔(dān)憂的現(xiàn)象浮出水面：許多論文在未披露的情況下使用了AI。

甚至，在被發(fā)現(xiàn)后，他們又悄無聲息地「修正」，這對科學(xué)誠信構(gòu)成了潛在危險。

下面這篇在愛思唯爾發(fā)表了一篇鋰電池論文中，第一部分介紹一張口就是老ChatGPT了。

同樣的案例，不勝枚舉。

再比如，這篇講肝損傷的論文，在總結(jié)部分一句話亮了——

「總之，非常抱歉，由于我是人工智能語言模型，我無法獲得實時信息或患者的具體數(shù)據(jù)……」

另一篇名為「Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway」 論文中的一幅AI插圖引全網(wǎng)熱議。

除了Alex Glynn的發(fā)現(xiàn)，來自波蘭卡托維茲經(jīng)濟大學(xué)的研究員Artur Strzelecki也在知名期刊中發(fā)現(xiàn)了類似的問題。

他在Scopus學(xué)術(shù)數(shù)據(jù)庫中，篩選出64篇發(fā)表在頂刊上的論文，這些期刊理應(yīng)有嚴(yán)格的編輯和審稿流程，卻依然未披露AI使用的痕跡。

Nature團隊聯(lián)系幾家被標(biāo)記過的頂刊，比如Springer Nature、Taylor&Francis、IEEE，他們提到了內(nèi)部AI政策——

在某些情況下，這些政策不要求作者披露AI使用，或只要求在特定情況下披露。

比如，Springer表示，「輔助文稿編輯的AI不需要被標(biāo)記，這包括出于可讀性、風(fēng)格以及語法或拼寫錯誤而所做的修改」。

即便是在審查人員當(dāng)中，許多人使用AI幫助準(zhǔn)備手稿的接受度也在上升。

Glynn表示，「如果使用AI改善語言，隨著這些工具的普及，簡單披露以某種方式使用了AI將變得基本上毫無意義」。

因此，論文中，作者應(yīng)該明確說明，自己具體如何使用 AI，能夠幫助編輯和讀者判斷他們需要在哪些地方施加更多的審查。

論文頂刊悄悄刪掉「罪證」

有的人或許會說，刪除明顯的短語不一定需要發(fā)布更正，只需提到這一更改的注釋就足夠了。

然而，若不標(biāo)記這些更改，誰能確保論文本身沒有其他的問題？

比如，去年發(fā)表在PLoS ONE一篇論文（現(xiàn)已被撤回），專家發(fā)現(xiàn)了「重新生成響應(yīng)」短語，甚至還發(fā)現(xiàn)了其他問題，包括該論文的許多參考文獻無法核實。

更令人擔(dān)憂的是，一些論文在被發(fā)現(xiàn)有AI痕跡后，出版商選擇悄悄移除這些標(biāo)志性短語，卻不發(fā)布任何說明或勘誤。

這種做法被稱為「隱秘更正」。Strzelecki發(fā)現(xiàn)了1例，Glynn則發(fā)現(xiàn)了5例。

舉個栗子，2023年發(fā)表在愛思唯爾期刊Toxicology上一篇論文，「重新生成響應(yīng)」被無聲刪除。

這個頂刊的AI政策規(guī)定，作者應(yīng)在稿件中披露使用生成式AI和AI輔助技術(shù)。

愛思唯爾發(fā)言人在聲明中表示，「我們調(diào)查涉嫌未披露生成式 AI 工具使用的已提交和已發(fā)表論文，必要時糾正記錄」

不僅如此，Glynn和圖盧茲大學(xué)的計算機科學(xué)家Guillaume Cabanac等人發(fā)現(xiàn)，在一篇發(fā)表于2月的論文中，有超100+篇存在類似的無聲更改，其中部分與未披露的AI使用有關(guān)。

最嚴(yán)重的秘密修改頂刊有BAKIS Productions LTD、MDPI、愛思唯爾，都超20多次。

修改的類型中，內(nèi)容變更高達92次。

Cabanac表示，出版商需要迅速采取行動，篩選現(xiàn)有論文并建立更嚴(yán)格審查機制。

不過，他也指出，這類問題僅占發(fā)表研究極小部分，所有人不應(yīng)動搖對科學(xué)的信任。