?ChatGPT誕生才兩個月，但它給全世界投下的「重磅炸彈」就沒停下來過。

雖然在很多學(xué)校，老師們防ChatGPT如洪水猛獸，卻還是屢禁不止。

一項調(diào)查顯示，現(xiàn)在美國89%的大學(xué)生都是用ChatGPT做作業(yè)的。

89%的學(xué)生用ChatGPT做作業(yè)

89%？沒錯，甚至，真實的比例更高。

雖然此前，紐約的教育系統(tǒng)全面封殺了ChatGPT?，但憑學(xué)生們的聰明才智，怎么可能真正把它禁掉呢？

果然，現(xiàn)在教育工作者們不得不直面現(xiàn)實：學(xué)生們已經(jīng)在用ChatGPT肆無忌憚地作弊了。

比如，北密歇根大學(xué)哲學(xué)教授Antony Aumann在為自己的世界宗教課評分時發(fā)現(xiàn)，全班第一的論文竟然是用ChatGPT寫的。?

在線課程供應(yīng)商Study.com向1,000名18歲以上的學(xué)生中發(fā)起一項調(diào)查，詢問了他們在課堂上使用ChatGPT的情況。

結(jié)果顯示——

• 每10個學(xué)生中就有超過9個知道ChatGPT，遠(yuǎn)遠(yuǎn)超過小學(xué)教育工作者
• 超過89%的學(xué)生使用ChatGPT來完成家庭作業(yè)
• 48%的學(xué)生用ChatGPT完成小測驗，53%的學(xué)生用ChatGPT寫論文，22%的學(xué)生用ChatGPT生成論文大綱
• 令人驚訝的是，72%的大學(xué)生認(rèn)為ChatGPT應(yīng)該在大學(xué)網(wǎng)絡(luò)中被禁

這些高得驚人的數(shù)據(jù)，令我們不得不正視這個現(xiàn)象：AI已經(jīng)融入了人類的社會結(jié)構(gòu)，且產(chǎn)生了廣泛而深遠(yuǎn)的后果。

有趣的是，雖然有將近90%的學(xué)生在家里用ChatGPT做作業(yè)，但也有將近四分之三的學(xué)生希望ChatGPT在學(xué)校被禁。

也就是說，不患寡而患不均，無論是在哪個場景，學(xué)生們都希望站在同一起跑線上。

要么大家一起用，要么就都不用。

老師們怎么看？

同時，Study.com也調(diào)查了100多名教育工作者，以便深入了解他們對ChatGPT的感受。

• 了解ChatGPT的大學(xué)教授中有72%擔(dān)心它對作弊的影響，而小學(xué)教育工作者中這一比例為58%
• 超過三分之一 (34%) 的教育工作者認(rèn)為ChatGPT應(yīng)該在學(xué)校中被禁，剩下66%的則支持學(xué)生使用

看來，老師們遠(yuǎn)比我們想象得開明。那么他們打算如何使用ChatGPT呢？

根據(jù)Study.com的調(diào)查，已經(jīng)有21%的老師開始用ChatGPT輔助教學(xué)工作了——

• 7%使用ChatGPT提供寫作提示
• 5%使用 ChatGPT來幫助授課
• 4%使用ChatGPT來制定課程計劃
• 4%使用ChatGPT教授寫作風(fēng)格
• 3%使用ChatGPT作為數(shù)字導(dǎo)師

可以看到，與我們的印象不同，參與調(diào)查的老師中，大部分人對于AI的態(tài)度是相對開明的，66%的人認(rèn)為ChatGPT可以作為幫助學(xué)生的資源。

與之相比，反倒是學(xué)生們自己的信任度要低得多，高達(dá)72%的人認(rèn)為ChatGPT在學(xué)校里應(yīng)該被禁。

在整個人類歷史上，一項新事物的誕生，往往伴隨著諸多爭議。

很顯然，面對ChatGPT這個誕生兩個月的「新生兒」，教師團(tuán)隊內(nèi)部也并沒有統(tǒng)一意見。

其中一部分教師，對于學(xué)生使用ChatGPT的態(tài)度非常鮮明——就是純純的作弊！

紐約大學(xué)教授：要像避瘟神一樣躲開ChatGPT！

這幾天，美國的很多學(xué)校開學(xué)了，師生中最熱門的話題，無疑就是ChatGPT。

在紐約大學(xué)，教學(xué)大綱的「學(xué)術(shù)誠信」部分已經(jīng)明確把使用AI視為作弊行為，明令禁止。

此外，學(xué)生們在上課第一天也收到了教授的警告。

在紐約大學(xué)Tisch藝術(shù)學(xué)院的一堂課上，教授在教學(xué)大綱上直截了當(dāng)?shù)貙懙馈?/p>

「問：使用ChatGPT或其他生成文本或內(nèi)容的AI工具是否視為作弊？答：是的?！?

即使在不需要寫論文的課上，教授也提出了ChatGPT警告。

一份宏觀經(jīng)濟(jì)學(xué)教學(xué)大綱這樣寫道：「我們刻意把時間限制得很緊，所以你不可能有時間查閱書籍、ChatGPT或其他資源，同時還能完成測試。在測驗的24小時中，學(xué)生不得與任何人（包括 ChatGPT）交流。」

當(dāng)然，眾所周知ChatGPT面對數(shù)學(xué)題時常犯蠢，因此數(shù)學(xué)系的教授們倒是免了這一層擔(dān)憂。

紐約大學(xué)文理學(xué)院副院長Jenni Quilter表示，現(xiàn)在教授們都在擔(dān)心學(xué)生會使用ChatGPT作弊。

據(jù)Quilter介紹，早在12月，就有學(xué)生使用ChatGPT的事件發(fā)生。

「在未經(jīng)允許的情況下使用ChatGPT，后果等同于任何學(xué)術(shù)剽竊事件，處理結(jié)果包括重做作業(yè)、扣分、寫檢查?！?/p>

紐約大學(xué)古典學(xué)教授David Levene表示，他正在密切關(guān)注所有與ChatGTP相關(guān)的剽竊行為。

「我已經(jīng)明確警告學(xué)生，除非有我的許可，否則無論以任何形式使用ChatGPT，都是作弊?！?

「我還跟他們說，我已經(jīng)試過用ChatGPT寫論文，它的最好成績是B-，最差是F。所以如果他們想得到比B-更高的成績，就應(yīng)該像避瘟神一樣避開它！」

紐約大學(xué)教授們的擔(dān)心并非杞人憂天。

根據(jù)斯坦福日報進(jìn)行的一項調(diào)查，17%的學(xué)生曾使用ChatGPT來完成秋季學(xué)期的作業(yè)和考試。

不過，比起Study.com的89%和48%，斯坦福這邊的比例顯然要低了很多。

AI會讓學(xué)生「大腦萎縮」？

很多教授在擔(dān)心，AI聊天機(jī)器人會對教育產(chǎn)生災(zāi)難性影響。

「僅僅因為有一臺機(jī)器可以幫助我舉起啞鈴，并不意味著我的肌肉就會發(fā)達(dá)，」西華盛頓大學(xué)歷史學(xué)教授Johann Neem接受《華爾街日報》采訪時說。?

「同樣地，有一臺可以寫論文的機(jī)器并不意味著我的思維就會發(fā)展?！?/p>

但其他教授認(rèn)為，應(yīng)該利用ChatGPT強(qiáng)大的技術(shù)，讓學(xué)生為新的現(xiàn)實做好準(zhǔn)備。

韋伯州立大學(xué)教授Alex Lawrence表示：「我希望它能給你足夠的啟發(fā)和教育，讓你想要學(xué)習(xí)如何利用這些工具，而不僅僅是學(xué)會更好地作弊。」

而賓夕法尼亞大學(xué)的Ethan Mollick說，他希望自己文學(xué)系的學(xué)生能夠利用技術(shù)「寫得更多」和「寫得更好」。

「ChatGPT是寫作的力量倍增器，」Mollick補(bǔ)充道。「我希望他們使用它?！?/p>

谷歌可以，ChatGPT就不行？

雖然引發(fā)了學(xué)術(shù)誠信的風(fēng)暴，但許多專家認(rèn)為，這項技術(shù)只是一個新學(xué)習(xí)時代的開始——AI寫作工具是學(xué)習(xí)的未來。

迪肯大學(xué)數(shù)字研究中心主任Phillip Dawson表示：「我認(rèn)為這是人類能力提升的一個重大時刻?！?/p>

「在我看來，五年后畢業(yè)的學(xué)生比現(xiàn)在的學(xué)生能做的事情要多得多，因為他們有這些AI工具?！?/p>

他把寫論文的學(xué)生與駕駛現(xiàn)代飛機(jī)的飛行員做了類比?！甘堑?，你必須學(xué)會使用所有的儀器，你需要知道這些儀器是如何工作的，但你也需要在儀器出現(xiàn)故障時駕駛飛機(jī)。」

阿德萊德大學(xué)計算機(jī)與數(shù)學(xué)學(xué)院講師Cheryl Pope博士表示，ChatGPT非常適合編寫初稿，但無法取代人工編輯和事實核查的需求?！改阈枰斫膺@個話題，才能評論它產(chǎn)生的答案。」

ChatGPT能讓你走出幾步，但不能讓你獲得高分。但它的可能性讓人興奮，能讓我們走向更高的標(biāo)準(zhǔn)。就像我們對兩個小時的筆試和兩個月寫出的論文有不同的期待。

還有一個原因是，獲得幫助需要大量的社會資源。

問別人一個蠢問題，會讓人很羞愧，但是面對AI，我們永遠(yuǎn)不會有這樣的擔(dān)心。

斯坦福最強(qiáng)檢測器：DetectGPT

有攻就有防，能為老師們解憂的AI作弊檢測工具，也火速誕生了。

最近，來自斯坦福大學(xué)的研究團(tuán)隊就提出了一種用于檢測AI生成文本的全新方法——DetectGPT。

概括來說：

• DetectGPT通過利用模型的對數(shù)概率函數(shù)的局部曲率（由LLM生成的往往占據(jù)負(fù)曲率區(qū)域），來檢測文本是否出自預(yù)訓(xùn)練語言模型。
• DetectGPT只使用興趣模型計算出的對數(shù)概率和來自另一個通用預(yù)訓(xùn)練語言模型（如T5）的隨機(jī)擾動，無需訓(xùn)練單獨的分類器，收集真實或生成的段落數(shù)據(jù)集，或給生成文本加水印。
• DetectGPT的檢測效果比現(xiàn)有的零樣本（zero-shot）方法更好，特別是將20B參數(shù)GPT-NeoX生成的假新聞的檢測率從0.81 AUROC提高到了0.95 AUROC。

論文地址：https://arxiv.org/abs/2301.11305

我們可以觀察到，機(jī)器生成的文本（左）有位于對數(shù)負(fù)曲率區(qū)域的趨勢，而附近的樣本平均具有較低的模型對數(shù)概率。

相比之下，人類的文本（右）則不會明顯占據(jù)負(fù)對數(shù)概率曲率區(qū)域。

接下來，想要確定一段文字是否由一個特定的LLM產(chǎn)生，如GPT-3。

首先需要DetectGPT使用一個通用的預(yù)訓(xùn)練模型（如T5）對該段落產(chǎn)生輕微的擾動。然后再讓DetectGPT比較原始樣本與每個擾動樣本的對數(shù)概率。

如果平均對數(shù)比很高，則該樣本很可能來自源模型。

具體的測試結(jié)果如下：

此外，經(jīng)過真實和生成文本的大型數(shù)據(jù)集訓(xùn)練的有監(jiān)督檢測模型，在分布式文本上的表現(xiàn)與DetectGPT一樣，甚至更好。（上）

然而，對于新的領(lǐng)域，如PubMed醫(yī)學(xué)文本和來自WMT16的德國新聞數(shù)據(jù)，zero-shot是開箱即用的，而有監(jiān)督的檢測方法則會由于過度的分布偏移而垮掉。（下）

不過，DetectGPT自身也存在著明顯的限制。

首先，DetectGPT基于的是白盒假設(shè)，即我們可以評估有關(guān)模型的對數(shù)概率。對于那些API背后的模型（如GPT-3），評估概率還需要花錢。

其次，DetectGPT需要獲得一個合理的擾動函數(shù)。雖然在這項工作中，作者使用了現(xiàn)成的掩碼模型，如T5和mT5（用于非英語語言），但如果現(xiàn)有的模型不能很好地對空間進(jìn)行表征，那么DetectGPT在一些領(lǐng)域的性能就可能會降低。

最后，DetectGPT比其他檢測方法的計算量更大，因為它需要對每個候選段落的擾動集進(jìn)行抽樣和評分，而不是僅僅對候選段落進(jìn)行評分。

雖然DetectGPT現(xiàn)階段還沒開放，但問題不大。

畢竟，市面上還有很多工具可以直接使用。

尤其是GPTZero，不僅免費，而且效果拔群。

小編親測發(fā)現(xiàn)，最新版本的GPTZero甚至可以明確地指出一段文字中，哪段是AI生成的，哪段是人類寫的。

體驗鏈接：https://gptzero.me/

原理上，GPTZero主要靠「困惑度」（文本的隨機(jī)性）和「突發(fā)性」（困惑度的變化）作為指標(biāo)進(jìn)行判斷。

在每次測試中，GPTZero還會挑選出困惑度最高的那個句子，也就是AI寫出的最像人話的句子。

參考資料：

https://study.com/resources/perceptions-of-chatgpt-in-schools

https://stanforddaily.com/2023/01/22/scores-of-stanford-students-used-chatgpt-on-final-exams-survey-suggests/

https://www.vice.com/en/article/n7zxe7/nyu-professors-tell-their-students-do-not-use-chatgpt

https://www.vice.com/en/article/xgyjm4/ai-writing-tools-like-chatgpt-are-the-future-of-learning-and-no-its-not-cheating

https://arxiv.org/abs/2301.11305