程序員問答平臺 Stack Overflow 版主罷工,抗議公司允許 AI 生成內(nèi)容涌入網(wǎng)站
6 月 7 日消息,Stack Overflow 是一個由 Stack Exchange 運(yùn)營的知名軟件開發(fā)者論壇,用戶可以在上面提問和回答各種編程問題。
版主們在一封公開信中寫道:“Stack Overflow 公司已經(jīng)下令禁止對 AI 生成的內(nèi)容進(jìn)行任何審查…… 默認(rèn)允許在 Stack Exchange 網(wǎng)絡(luò)上出現(xiàn)不正確的信息(‘幻覺’)和肆無忌憚的剽竊。這對平臺和其內(nèi)容的完整性和可信度構(gòu)成了重大威脅。為了抗議這個以及其他一些近期和即將到來的政策和平臺變化,我們決定立即在 Stack Overflow 和 Stack Exchange 網(wǎng)絡(luò)上發(fā)起一場全面的版主罷工?!?/p>
該政策于 5 月底實(shí)施,要求版主停止僅僅因?yàn)閮?nèi)容是由 AI 生成而進(jìn)行審查。然而,版主們認(rèn)為,如果不對 AI 生成的內(nèi)容進(jìn)行適當(dāng)?shù)墓芾恚琒tack Exchange 網(wǎng)站上的信息質(zhì)量和準(zhǔn)確性將會迅速下降。
版主們在 Meta Stack Exchange 上發(fā)表了一篇文章,進(jìn)一步解釋了他們的訴求。文章中寫道,“AI 聊天機(jī)器人就像鸚鵡,例如,ChatGPT 并不理解它給你的回答;它只是根據(jù)給定的提示和它能夠訪問的信息來復(fù)述看起來合理的句子。它無法驗(yàn)證它提供給你的回答是否準(zhǔn)確。ChatGPT 不是一個作家、一個程序員、一個科學(xué)家、一個物理學(xué)家,或者我們網(wǎng)站所依賴的任何其他類型的專家。當(dāng)被詢問時,它只是根據(jù)它所接受的訓(xùn)練來拼湊單詞。它不明白自己在說什么?!?/p>
文章還稱,“這會允許用戶在不理解自己說什么的情況下復(fù)述 ChatGPT 的回答,這違背了我們網(wǎng)站的目標(biāo):成為一個高質(zhì)量問答內(nèi)容的庫?!?/p>
版主們稱另一個問題是,公司在制定這一政策時缺乏透明度。他們在文章中寫道,去年 12 月,網(wǎng)站實(shí)施了一個臨時政策,禁止所有 ChatGPT 的使用,因?yàn)樗捌毡椴粶?zhǔn)確”,并且違反了網(wǎng)站的引用要求。這一政策得到了志愿版主和 Stack Exchange 員工的支持,并導(dǎo)致了許多帖子被刪除和用戶被封禁。
然而,在 5 月 29 日,版主們寫道,公司私下實(shí)施了一項(xiàng)新政策,要求“立即停止因?yàn)?AI 生成的內(nèi)容而對用戶進(jìn)行封禁,并且停止僅僅基于這一原因而對 AI 生成的內(nèi)容進(jìn)行管理。”第二天,公開發(fā)布了一個稍有不同的政策版本,沒有包含要求版主停止限制所有 AI 內(nèi)容的語言。
“新政策推翻了社區(qū)已經(jīng)達(dá)成的共識,沒有與任何社區(qū)成員進(jìn)行討論,對版主和公眾都進(jìn)行了誤導(dǎo)性的宣傳,并且是基于未經(jīng)審查和無法審查的數(shù)據(jù)分析得出的毫無根據(jù)的說法,”Meta Stack Exchange 的文章寫道。
版主們還要求公司對網(wǎng)站的非 AI 相關(guān)的問題進(jìn)行改進(jìn)。“這次罷工也在很大程度上是關(guān)于 Stack Exchange 公司最近表現(xiàn)出來的一種行為模式,”文章寫道,“公司再次無視了社區(qū)的需求和已有的共識,而是把重點(diǎn)放在了商業(yè)轉(zhuǎn)型上,犧牲了自己的社區(qū)經(jīng)理。”他們列舉的一個例子是網(wǎng)站的聊天功能,他們說這個功能已經(jīng)過時了,但是多年來一直被忽視。
IT之家之家注意到,這次罷工是針對 AI 生成內(nèi)容涌入在線網(wǎng)站的首個重大行動,其他論壇上的版主也有類似的擔(dān)憂。Reddit 上的一些版主已經(jīng)為大量 AI 生成的帶有錯誤信息的帖子做好了準(zhǔn)備。一位不愿透露姓名的 Reddit 版主告訴 Motherboard,Reddit 上由 ChatGPT 驅(qū)動的機(jī)器人問題“相當(dāng)嚴(yán)重”,并且已經(jīng)有幾百個賬號被手動從網(wǎng)站上刪除,因?yàn)?Reddit 的自動系統(tǒng)難以應(yīng)對 AI 生成的內(nèi)容。
版主們希望公司撤回并修改 AI 政策,解決公開和私下版本之間的不一致問題,并為此道歉。Stack Overflow 社區(qū)副總裁 Philippe Beaudette 在一份聲明中告訴 Motherboard 說,“Stack Overflow 網(wǎng)絡(luò)上有一小部分版主(11%)已經(jīng)停止參與一些活動,包括管理內(nèi)容。這次行動的主要原因是對我們在 AI 生成內(nèi)容檢測工具方面的立場不滿。Stack Overflow 進(jìn)行了一項(xiàng)分析,發(fā)現(xiàn)版主之前使用過的 ChatGPT 檢測工具有驚人高的誤報率。”版主們在文章中寫道,他們知道檢測工具存在問題?!拔覀儓猿治覀円蟀嬷魍V故褂弥肮ぞ叩臎Q定,”Beaudette 繼續(xù)說,“我們相信我們會找到一個前進(jìn)的道路。我們遺憾事態(tài)發(fā)展到了這一步,社區(qū)管理團(tuán)隊正在評估當(dāng)前情況,同時努力在短期內(nèi)穩(wěn)定局面?!?/p>