作者 | 徐杰承
全球最受歡迎的開發(fā)者問答論壇之一Stack Overflow又出了個不小的事！最近，它陷入了一場新的危機——超過700位版主已于近日聯(lián)名宣布，將舉行集體罷工以抗議Stack Overflow推出的關于人工智能生成內(nèi)容監(jiān)管的新政策。
根據(jù)新政描述，在絕大多數(shù)情況下，Stack Overflow版主將不再擁有修改或刪除人工智能生成內(nèi)容的權力。而這其中的兩個關鍵矛盾是，第一，由于新政策影響，版主感到無法履行質(zhì)檢職責；第二，這項新政是在沒有經(jīng)過協(xié)商的條件下強制執(zhí)行的。
1、AI新政：權力收回，對齊AI內(nèi)容評判標準
在官方文件中，Stack Overflow表示，我們最近對人工智能生成內(nèi)容的審核方法進行了分析。結果表明，人工智能生成內(nèi)容沒有在網(wǎng)站中得到正確認知，尤其是當檢測器誤報率非常高時，將導致人們對網(wǎng)站內(nèi)容產(chǎn)生偏見并造成大量貢獻者流失。
為了緩解這個問題，Stack Overflow要求版主在決定修改、刪帖及禁言用戶時，需使用非常嚴格的證據(jù)標準確定帖子是否由AI生成——版主此前慣用的基于寫作風格，以及論壇行為等判斷標準將不再可用。且由于GPT檢測器誤判率過高，官方也決定將檢測器結果排除在判斷指標之外。
總而言之，新規(guī)之下，Stack Overflow對版主的權力進行了大量限制。只有經(jīng)過嚴格審查并有證據(jù)表明帖子存在違法內(nèi)容的情況下，版主才有權對帖子或發(fā)帖者進行干預。然而更令人感到不滿的是，新政并沒有給出更多可行的評判建議，僅是對此前的標準進行了一刀切式的限制。
2、超700位版主集體罷工：心血不能白流
在此之前，Stack Overflow曾為了保障社區(qū)內(nèi)容質(zhì)量的和準確性，賦予了版主封禁疑似發(fā)布ChatGPT等AI生成內(nèi)容賬號及刪帖的權利。然而此番推出新政，Stack Overflow無疑是親自在自己腦門上貼上了“出爾反爾”的標簽。
面對這項未經(jīng)協(xié)商的強制政策，大量Stack Overflow的版主與用戶也紛紛表達了自己的不滿，甚至有人提出，新政的頒布簡直是對人工智能所生成的幻覺信息和抄襲行為的默許，當用戶打開Stack Overflow，他們將看到大量的錯誤信息，這將破壞用戶長期以來對平臺的信任。
為了對Stack Overflow官方強加的新政進行抗議，一些版主及用戶撰寫了一封公開信，并表示將以罷工的形式提醒Stack Overflow公司重視平臺及內(nèi)容的完整性和可信度。
公開信提到，我們正在籌劃一場罷工以抵抗Stack Overflow強加給我們的種種政策和即將發(fā)生的變化。我們將以最后的手段保護投入十多年心血的平臺。Stack Exchange network的核心使命是:以問答形式建立高質(zhì)量的信息庫。Stack Overflow公司最近采取的行動將對這一目標造成傷害。
不再允許刪除人工智能生成的答案，將導致幻覺信息和抄襲在平臺中泛濫，破壞用戶對平臺的信任，且這些政策完全無視了機構群體的共識。因此，在官方收回或修改政策前，我們呼吁全面審核罷工，作為保護平臺免受價值損失的最后手段。
截止目前，這封公開信已收到了超過700位版主的簽名支持，并且這一數(shù)字仍在持續(xù)增長。
3、Stack Overflow的真正目的
根據(jù)內(nèi)部之情人士透露，Stack Overflow本次頒布新政的原因很復雜，但其核心目的應該可以肯定是為了提升網(wǎng)站的流量，畢竟由于ChatGPT和GitHub Copilot的影響，該網(wǎng)站的流量在過去幾個月中始終呈現(xiàn)下降趨勢。
其實在ChatGPT剛問世的幾周中，便有大量用戶開始將AI生成內(nèi)容搬運到Stack Overflow平臺。然而即便ChatGPT生成的答案通?？雌饋砗芎?，但其中卻總是存在著一些錯誤，并且大量的答案涌現(xiàn)給負責內(nèi)容審核的志愿者造成了很大負擔。
為解決這些問題，彼時的Stack Overflow頒布了禁令，宣布禁止在其網(wǎng)站發(fā)布人工智能生成的代碼內(nèi)容。雖然這在一定程度上保護了平臺內(nèi)容的完整性和可信度。但隨著ChatGPT、GitHub Copilot等AI生成工具的不斷成熟與用戶數(shù)量的激增，越來越多的用戶開始拋棄Stack Overflow。
即便這些AI生成工具所返回的內(nèi)容有時并不完全準確或符合用戶需求，但通常答案也非常接近，可以被塑造和調(diào)整為可行的解決方案。這與在Stack Overflow上找其他人提問并沒有太大區(qū)別，甚至在效率方面要比傳統(tǒng)的問答形式更高。
因此，為了提高網(wǎng)站內(nèi)容產(chǎn)出效率，并吸引更多用戶加入，Stack Overflow才會頒布新政，以提高審核標準為名，默許用戶將AI生成內(nèi)容發(fā)布到平臺之中。但顯然，這個想法并沒有得到所有人的認可，對于版主而言，他們所付出的無償勞動是為了提高平臺的內(nèi)容質(zhì)量，而不是網(wǎng)站的流量水平。
4、網(wǎng)友評論：三思而后行
對于Stack Overflow所頒布的新政以及廣大版主的罷工反抗行為，不少網(wǎng)友也在各大論壇上分享了自己的觀點和建議。
一位名為fungiblecog的網(wǎng)友在Reddit上留言表示：“人們將兩個不同的問題混為一談，政策應當是什么以及如何處理AI生成內(nèi)容充斥平臺。在沒有萬無一失的方法前，唯一的辦法是驗證其真實性，并在內(nèi)容泛濫造成惡性影響前將其作為單獨問題解決掉?！?/p>
而另一位網(wǎng)友則在Stack Overflow論壇中發(fā)帖表示：“Stack Overflow內(nèi)容的客觀性意味著如果一個答案的任何部分是錯誤的，那它在客觀上就是錯誤的。為了保持統(tǒng)一的標準，我們應當選擇正確的和可靠的信息來源，在GPT足以讓網(wǎng)站用戶相信答案是有價值的之前，我們不應該冒這個險?！?/p>
此外，還有網(wǎng)友提到：“現(xiàn)在我使用Stack Overflow采取的是‘信任但需驗證’的方式。我會默認用戶的答案是可信的，但在重要的時候我仍會進行驗證。而對于AI生成內(nèi)容，如果我們采取‘不信任且要驗證’的方式。到那時，為什么還要使用Stack Overflow呢？”
5、寫在最后：Stack不再Overflow
歸根結底，Stack Overflow一直以來都是一個建立在信任基礎上的社區(qū)。社區(qū)相信用戶所提交的答案反映了他們實際所了解的準確內(nèi)容，并且用戶之間會通過互相幫助驗證和確認這些答案的準確性并以此提高自己的知識和技能。
而對于目前的人工智能生成工具來說，在沒有徹底解決幻覺問題前，它們所能提供的信息并不符合Stack Overflow的一貫標準，也無助與建立一個值得用戶信賴的社區(qū)環(huán)境，當用戶在無法驗證GPT所提供的答案準確性的情況下將這些信息粘貼到代碼中時，社區(qū)長期以來建立的用戶信任就會被打破。
就Stack Overflow而言，雖然在生成式AI的沖擊之下，目前網(wǎng)站的流量和營收受到了影響，但無論在任何交易之中，都不應該將用戶信任與核心準則作為籌碼。就像一位網(wǎng)友所言：有時當我拿不準Copilot生成內(nèi)容的準確性時，會在Stack Overflow上找人提問，但如果以后Stack Overflow上的答案也是由AI生成的，那我又該去哪里尋找答案呢？
參考鏈接：
https://devclass.com/2023/06/05/stack-overflow-volunteer-moderators-down-tools-over-secret-new-policy-that-obstructs-removal-of-ai-generated-content/?td=rt-3a
https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned
https://meta.stackexchange.com/questions/389582/what-is-the-network-policy-regarding-ai-generated-content
https://meta.stackexchange.com/questions/389811/moderation-strike-stack-overflow-inc-cannot-consistently-ignore-mistreat-an
