12月，ChatGPT大紅大紫之際，就有諸多學(xué)者和研究人員發(fā)出警告：ChatGPT很可能「殺死」大學(xué)論文。最近，紐約市教育局就正式對(duì)ChatGPT下了封殺令。

無(wú)獨(dú)有偶，在很多互聯(lián)網(wǎng)大廠(chǎng)，ChatGPT也遭到了封殺。很多已經(jīng)習(xí)慣向ChatGPT咨詢(xún)代碼問(wèn)題的碼農(nóng)們，原地爆哭……

大廠(chǎng)封殺ChatGPT，碼農(nóng)哭了

近日，一位碼農(nóng)在網(wǎng)上發(fā)帖稱(chēng)，在自己所在的大廠(chǎng)，辦公室wifi禁用了ChatGPT。這直接把他整崩潰了。

博主表示，自己一名初級(jí)軟件工程師，而在團(tuán)隊(duì)中，前輩們總是很忙，沒(méi)有時(shí)間給他解釋問(wèn)題。

每當(dāng)他在工作中卡住時(shí)，ChatGPT都是他的救星。

但是昨天，當(dāng)他在辦公室坐下時(shí)，忽然發(fā)現(xiàn)沒(méi)法訪(fǎng)問(wèn)ChatGPT了！他瞬間破防。

在他的帖子下，熱心網(wǎng)友紛紛獻(xiàn)計(jì)。

比如，買(mǎi)一個(gè)便宜的VPS和域名并設(shè)置一個(gè)反向代理到ChatGPT官網(wǎng)；在瀏覽器中啟用DoH和ECH；使用一個(gè)在線(xiàn)代理；或者在手機(jī)上通過(guò)電子郵件將輸出結(jié)果發(fā)送給自己等等。

當(dāng)然，有網(wǎng)友對(duì)公司的這個(gè)操作表示贊同：「你司禁用ChatGPT是很有道理的，好好想想，如果你解決公司問(wèn)題的代碼可以很輕易地被競(jìng)爭(zhēng)對(duì)手獲得，會(huì)產(chǎn)生什么后果吧。」

「不要向ChatGPT，或者從ChatGPT上復(fù)制粘貼代碼。在法律上，公司或客戶(hù)的代碼并不屬于你。而且你也沒(méi)有ChatGPT上代碼的版權(quán)。如果你這么做，會(huì)讓你面臨訴訟，被解雇?！?/span>

的確，已經(jīng)有大廠(chǎng)向員工發(fā)送電子郵件稱(chēng)：「ChatGPT不是不能用，但是如果你往里面上傳代碼，你就會(huì)面臨被解雇的風(fēng)險(xiǎn)，因?yàn)槲覀兊拇a非常敏感。」

不過(guò)，也有網(wǎng)友給出了扎心回復(fù)：「如果一個(gè)初級(jí)開(kāi)發(fā)者在沒(méi)有ChatGPT的情況下，就無(wú)法完成工作，那么他對(duì)公司來(lái)說(shuō)，真的是可有可無(wú)?！?/span>

紐約頒布禁令，師生全都禁用

就在1月3日，擁有全美最大公立學(xué)校系統(tǒng)的紐約市，正式頒布了「ChatGPT禁令」。

也就是說(shuō)，不管是老師還是學(xué)生，都無(wú)法在紐約市公立學(xué)校的網(wǎng)絡(luò)和設(shè)備上使用ChatGPT。

最近，洛杉磯和巴爾的摩的學(xué)區(qū)也加入到了這個(gè)行列。

紐約市教育局發(fā)言人Jenna Lyle表示，雖然ChatGPT可以提供快速和簡(jiǎn)單的問(wèn)題答案，但它不能培養(yǎng)學(xué)生批判性思維和解決問(wèn)題的能力，而這些對(duì)于學(xué)術(shù)和終身成功來(lái)說(shuō)至關(guān)重要。

當(dāng)然，如果學(xué)校的目的是研究ChatGPT背后的技術(shù)，還是可以申請(qǐng)?jiān)L問(wèn)的。

目前，ChatGPT將對(duì)論文作弊的風(fēng)險(xiǎn)產(chǎn)生什么影響還有待觀(guān)察，因?yàn)閷W(xué)生仍然可以在校外訪(fǎng)問(wèn)自己的設(shè)備和網(wǎng)絡(luò)。

而佐治亞州的科布縣的態(tài)度，不僅沒(méi)那么強(qiáng)硬，甚至還對(duì)采用ChatGPT頗有興趣。

該學(xué)區(qū)的一位發(fā)言人表示，「在高素質(zhì)的科布縣教師手中，ChatGPT可以成為補(bǔ)充學(xué)生對(duì)學(xué)術(shù)內(nèi)容理解的寶貴工具，并可以幫助學(xué)生發(fā)展批判性思維能力。」

對(duì)此，在紐約精英高中Brooklyn Tech任教的Adam Stevens也認(rèn)為，禁用ChatGPT反而會(huì)帶來(lái)消極的影響。

畢竟在15、20年前，當(dāng)學(xué)生可以「在網(wǎng)上找到答案」時(shí)，這些人也是這么針對(duì)谷歌的。

Stevens認(rèn)為，培養(yǎng)學(xué)生批判性寫(xiě)作技能的最好方法是「邀請(qǐng)他們探索值得了解的事情」，并遠(yuǎn)離基于嚴(yán)格的評(píng)分標(biāo)準(zhǔn)的公式化寫(xiě)作教學(xué)。

「當(dāng)然，如果你更看重學(xué)期末的分?jǐn)?shù)，那么ChatGPT確實(shí)是一個(gè)威脅?！?/span>

同樣，俄勒岡州桑迪市的一名高中英語(yǔ)老師也有類(lèi)似的看法。

Shields老師有25年教齡，她認(rèn)為，其實(shí)大可不必「談ChatGPT色變」，這款A(yù)I完全可以被用來(lái)幫助學(xué)生產(chǎn)生想法、組織思路，甚至撰寫(xiě)整篇論文。

在她看來(lái)，教師們應(yīng)該接受，AI是學(xué)生可以使用的一種工具，就像每個(gè)老師都教學(xué)生如何使用搜索引擎一樣。

很多學(xué)生苦于無(wú)話(huà)可寫(xiě)，此時(shí)教師可以使用ChatGPT向?qū)W生展示如何生成提示，來(lái)刺激他們的寫(xiě)作。

Shields老師曾讓ChatGPT以7年級(jí)生、10年級(jí)生和大學(xué)生的風(fēng)格寫(xiě)同一個(gè)主題的文章，每個(gè)級(jí)別之間的句法差異程度令人震驚。因而，完全可以使用這種AI生成的反饋，來(lái)向?qū)W生展示如何改進(jìn)他們的寫(xiě)作。

ICML發(fā)文澄清：主要為防止抄襲，不影響潤(rùn)色文章

前兩天，國(guó)際機(jī)器學(xué)習(xí)會(huì)議ICML 2023突然宣布：禁止使用大規(guī)模語(yǔ)言模型（如ChatGPT）生成論文的內(nèi)容，除非這些文本是實(shí)驗(yàn)分析的一部分。

要求一經(jīng)提出，便引發(fā)了眾多研究人員的不滿(mǎn)：拼寫(xiě)檢查和文本預(yù)測(cè)基于的就是語(yǔ)言模型，為啥不讓我們用？

對(duì)此 ，圖靈獎(jiǎng)得主Yann LeCun評(píng)論道：「大型語(yǔ)言模型不能用，意思是換成中型和小型語(yǔ)言模型就行咯？」

隨后還不忘陰陽(yáng)一句：「明年的ICML道德準(zhǔn)則應(yīng)該變成：研究人員必須徒手完成各種計(jì)算，不能借助計(jì)算機(jī)；各類(lèi)圖形必須用筆和紙手繪；從今天起，ICML的官方語(yǔ)言變?yōu)槿鸬湔Z(yǔ)（瑞典：？）?！?/span>

由于引發(fā)的討論太過(guò)激烈，ICML不得不單獨(dú)發(fā)一條長(zhǎng)文來(lái)解釋這個(gè)規(guī)定。概括來(lái)說(shuō)，有三個(gè)要點(diǎn)：

• 政策禁止完全由LLM「生成」的文本，但這并影響作者使用LLM來(lái)編輯或潤(rùn)色自己寫(xiě)的文本。
• 政策主要是防止使用LLM可能會(huì)出現(xiàn)的潛在問(wèn)題，比如抄襲。
• 目前，政策僅適用于ICML2023。隨著我們對(duì)LLM及其對(duì)科學(xué)出版的影響有了更深入的了解，這一政策可能會(huì)在未來(lái)的會(huì)議中發(fā)生變化。

公告鏈接：https://icml.cc/Conferences/2023/llm-policy

大規(guī)模語(yǔ)言模型，爭(zhēng)議叢生

在過(guò)去的幾年里，大規(guī)模語(yǔ)言模型（LLM）的發(fā)展非常迅速。最近，這一進(jìn)展不僅沒(méi)有放緩，甚至還更快了。

正如大家看到的，過(guò)去幾個(gè)月發(fā)布的LLM，如OpenAI的ChatGPT，已經(jīng)能夠生成難以與人類(lèi)相區(qū)分的文本片段。毫無(wú)疑問(wèn)，這是自然語(yǔ)言處理和生成方面令人興奮的進(jìn)展。

但這種快速的進(jìn)展往往伴隨著意想不到的后果以及無(wú)法解答的問(wèn)題。比如，由模型生成的文本和圖像是新穎的，還是現(xiàn)有工作的衍生品？

此外，文本片段、圖像以及其他由這些模型產(chǎn)生的內(nèi)容，又應(yīng)該歸誰(shuí)所有：是生成模型的用戶(hù)，還是訓(xùn)練模型的開(kāi)發(fā)者，抑或是制作訓(xùn)練數(shù)據(jù)的內(nèi)容創(chuàng)作者？

可以肯定的是，隨著大規(guī)模生成模型被更廣泛地應(yīng)用，這些問(wèn)題都將隨著時(shí)間的推移得到解答，但現(xiàn)在還不行。尤其是距離ChatGPT的發(fā)布才過(guò)了不到2個(gè)月（2022年11月底）。

而對(duì)于ICML來(lái)說(shuō)，他們并沒(méi)有足夠的時(shí)間來(lái)觀(guān)察和調(diào)研ChatGPT將會(huì)對(duì)論文審稿和發(fā)表過(guò)程，產(chǎn)生何種影響。

考慮到針對(duì)這項(xiàng)新技術(shù)所采用的策略，會(huì)直接關(guān)系到研究人員的職業(yè)生涯。因此ICML表示，自己只能更加謹(jǐn)慎，甚至還會(huì)有些保守。

時(shí)有錯(cuò)漏，但碼農(nóng)依然愛(ài)不釋手

其實(shí)，雖然ChatGPT經(jīng)常因?yàn)椤阜复馈苟怀?，但自它誕生一個(gè)多月來(lái)，很多碼農(nóng)的工作習(xí)慣，確實(shí)被它改變了。

在12月初，ChatGPT亮相后，碼農(nóng)們發(fā)現(xiàn)可以用它生成代碼，立馬沸騰了。

ChatGPT不僅可以回答任何領(lǐng)域的問(wèn)題，而且生成的答案，有很大的概率非常精確和詳細(xì)。

比如，當(dāng)你問(wèn)到「How to iterate over an keys and values array in Javascript」時(shí)，它生成了很完美的答案。

錦上添花的是，ChatGPT還能通過(guò)一個(gè)支持性的例子和解釋?zhuān)嬖V你這個(gè)JavaScript中常見(jiàn)問(wèn)題的最佳解決方案：

甚至，還可以用它給代碼糾錯(cuò)。

不過(guò)隨后，碼農(nóng)們馬上發(fā)現(xiàn)，ChatGPT生成的代碼，其實(shí)有不少問(wèn)題。

ChatGPT會(huì)「犯蠢」，背后原因其實(shí)很簡(jiǎn)單——AI的輸出，是概率性的。ChatGPT沒(méi)有任何標(biāo)記了對(duì)錯(cuò)的內(nèi)部記錄，它其實(shí)是一個(gè)統(tǒng)計(jì)模型，這個(gè)模型中，是在不同上下文中的語(yǔ)言組合。

而上下文的基礎(chǔ)，就是GPT-3訓(xùn)練所用的整體數(shù)據(jù)集，來(lái)自ChatGPT的RLHF訓(xùn)練的額外上下文，prompt和之前的對(duì)話(huà)，以及很快就會(huì)有的反饋。

ChatGPT的答案，本質(zhì)上就是從構(gòu)成GPT-3的互聯(lián)網(wǎng)數(shù)據(jù)語(yǔ)料庫(kù)中收集的概率結(jié)果。在10秒內(nèi)，ChatGPT做出了結(jié)果的最佳猜測(cè)，這個(gè)猜測(cè)很可能是正確的。

當(dāng)然，也有錯(cuò)誤的概率。

這就是為什么，網(wǎng)友用ChatGPT生成的代碼在Stack Overflow上瘋狂灌水、錯(cuò)誤答案滿(mǎn)天飛時(shí)，后者連夜發(fā)布了官方封殺令。

雖然ChatGPT寫(xiě)代碼的能力被很多人詬病，但其實(shí)，用還是可以用的。

其實(shí)，ChatGPT最合適的定位，應(yīng)該是編碼輔助工具。在ChatGPT的發(fā)布方OpenAI看來(lái)，ChatGPT的重要用途之一，正是幫助程序員檢查代碼。

對(duì)于開(kāi)發(fā)者而言，它就是日益豐富的工具板中的一個(gè)工具。而且，就像任何自學(xué)模型一樣，ChatGPT也會(huì)隨著時(shí)間的推移，不斷學(xué)習(xí)，不斷自我糾正和改進(jìn)。

很多時(shí)候，與其在Stack OverFlow上為相對(duì)簡(jiǎn)單的問(wèn)題（如何在Flutter中觸發(fā)HookConsumerWidget的重建）等待幾天，不如直接向ChatGPT提問(wèn)。

因?yàn)樵贑hatGPT上，開(kāi)發(fā)者們有很大概率，得到一個(gè)可以用于解決問(wèn)題的起點(diǎn)——