Stack Overflow 大規(guī)模封禁賬號：只因大量用戶反對與 OpenAI 的合作 原創(chuàng)
編譯丨諾亞
出品 | 51CTO技術(shù)棧（微信號：blog51cto）
久負(fù)盛名的開發(fā)者論壇Stack Overflow最近宣布其與OpenAI達(dá)成合作，ChatGPT 將使用 Stack Overflow 的數(shù)據(jù)，而 OpenAI 的模型也將應(yīng)用于 OverflowAI。
消息一經(jīng)傳出，就迎來了巨大聲浪。大量用戶強(qiáng)烈反對利用該網(wǎng)站的論壇帖子來訓(xùn)練ChatGPT。很多人為了防止自己的問題和答案被用來訓(xùn)練AI，紛紛選擇刪除或重新編輯這些內(nèi)容，而這些行為卻招致了網(wǎng)站版主的封禁。
1.開發(fā)者自述：我試圖避免自己的勞動成果被竊取，卻被封號7天
Stack Overflow的一位用戶Ben在Mastodon平臺上詳細(xì)描述了自己的遭遇。他提到，為了避免自己的勞動成果被OpenAI竊取，他開始重新編輯過往的高分回答。
圖片
Ben解釋說，之前他投入了大量時(shí)間和精力在Stack Overflow上編寫詳盡且有用的回答，目的是幫助其他開發(fā)者解決問題并促進(jìn)技術(shù)社區(qū)的成長。然而，得知自己的貢獻(xiàn)可能未經(jīng)明確同意就被用來訓(xùn)練像ChatGPT這樣的大模型時(shí)，他感到非常不安。
在他看來，這樣的數(shù)據(jù)使用不僅侵犯了用戶的原創(chuàng)權(quán)利，也可能導(dǎo)致AI生成的內(nèi)容未來在互聯(lián)網(wǎng)上混淆視聽，進(jìn)一步模糊原創(chuàng)與衍生內(nèi)容之間的界限。
出于這些擔(dān)憂，Ben決定采取行動，開始系統(tǒng)性地審查和修改他在Stack Overflow上的高分答案，移除那些可能對AI模型訓(xùn)練特別有價(jià)值的獨(dú)特見解和示例代碼。他盡量保留問題的核心信息，以便繼續(xù)為尋求幫助的人提供價(jià)值，但同時(shí)努力避免直接貢獻(xiàn)于一個(gè)他并不支持的技術(shù)發(fā)展方向。
遺憾的是，Ben和其他采取類似措施的用戶很快發(fā)現(xiàn)，他們的這一行為并未得到Stack Overflow管理層的理解。相反，許多用戶因“破壞內(nèi)容”或“濫用平臺”而遭到臨時(shí)或永久封禁。這種處理手段也引發(fā)了更多反彈。社區(qū)內(nèi)關(guān)于版權(quán)、數(shù)據(jù)倫理及用戶權(quán)限的討論愈發(fā)激烈。
2.自毀還是自救？Stack Overflow“慷他人之慨”的背后真相
盡管很多人將Stack Overflow與OpenAI的合作視作自毀根基。但實(shí)際上Stack Overflow與人工智能之間的關(guān)系相當(dāng)復(fù)雜。
首先，隨著代碼編輯期內(nèi)AI輔助工具的普及，Stack Overflow的流量下降不可避免，同時(shí)社區(qū)活躍度的降低又必然會削弱其數(shù)據(jù)價(jià)值。其次，根據(jù)政策規(guī)定，使用生成式AI發(fā)布Stack Overflow答案是被禁止的。但禁令之下，依舊有大量貢獻(xiàn)者發(fā)布AI生成答案的情況，其中不乏資深成員。
而Stack Overflow與OpenAI 的合作一旦達(dá)成，OpenAI 將利用 OverflowAPI基于Stack Overflow的公共數(shù)據(jù)集來訓(xùn)練其模型。公告中還暗示 OpenAI 支付了一筆可觀的金額，稱該協(xié)議將“使 Stack Overflow 能夠繼續(xù)投資于社區(qū)驅(qū)動的功能”。此外，由于GitHub Copilot 已采用 OpenAI 的技術(shù)和模型，因此這一合作很可能會增強(qiáng) Copilot 編碼功能與 Stack Overflow 答案之間的集成。
由此可以看到，與OpenAI的合作至少能讓Stack Overflow收獲如下好處：
其一，資金支持：合作帶來的資金，有助于平臺的持續(xù)發(fā)展和社區(qū)功能的增強(qiáng)。
其二，技術(shù)進(jìn)步：利用OpenAI的技術(shù)提升用戶體驗(yàn)，例如通過集成到GitHub Copilot等工具。
其三，生態(tài)共建：一方面，OpenAI使用Stack Overflow的公共數(shù)據(jù)集來訓(xùn)練模型，可以提升AI模型的準(zhǔn)確性和實(shí)用性；另一方面，與OpenAI這樣的領(lǐng)頭羊合作，可以提升Stack Overflow在技術(shù)社區(qū)中的市場地位。
當(dāng)然，從用戶的大片反對之聲中也可以看到：合作弊端也是顯而易見的。
首當(dāng)其沖的就是版權(quán)和倫理問題。合作引發(fā)了關(guān)于版權(quán)、數(shù)據(jù)倫理和用戶權(quán)限的討論，大量用戶可能對使用他們的內(nèi)容進(jìn)行AI訓(xùn)練感到不安。
另外一個(gè)爭議焦點(diǎn)則集中在對內(nèi)容質(zhì)量的擔(dān)憂上。本身Stack Overflow的社區(qū)標(biāo)準(zhǔn)和信任是建立在用戶之間的互動和對彼此貢獻(xiàn)的認(rèn)可上。如果AI生成的內(nèi)容大量涌入，可能會侵蝕這種標(biāo)準(zhǔn)，影響用戶參與度和社區(qū)的長期健康。更可怕的是，如果AI生成的內(nèi)容被用于進(jìn)一步訓(xùn)練AI，可能會導(dǎo)致模型輸出的異常。久而久之，還可能導(dǎo)致用戶難以區(qū)分哪些內(nèi)容是由人類專家編寫的，哪些是由AI生成的，從而影響用戶對Stack Overflow內(nèi)容的信任度。
另外，從用戶利益考慮，不可回避的事實(shí)是：一些貢獻(xiàn)者擔(dān)心他們無法從與OpenAI的交易中獲益，或者希望選擇不讓自己的內(nèi)容用于喂養(yǎng)AI答案。
最后，從Stack Overflow的立場來說亦有風(fēng)險(xiǎn)。通過與GitHub Copilot等服務(wù)的集成也可能減少開發(fā)者訪問需求，進(jìn)一步加速Stack Overflow自身的衰落。
3.開源知識共享≠拿來即用：“推動技術(shù)進(jìn)步”與“尊重創(chuàng)作者意愿”理應(yīng)雙軌并行
從上述多種視角來看，很難說清Stack Overflow到底是窮途末路時(shí)的自掘根基還是絕地求生時(shí)的另辟蹊徑。
Stack Overflow 并非唯一一個(gè)為了利潤而改變其對AI原則立場的平臺。此前Valve公司也悄然解除了Steam上對AI生成式作品的禁令。在他們的官方博客中，Valve明確表示，開發(fā)者在發(fā)布游戲時(shí)可以使用AIGC但需要明確披露其中使用的人工智能技術(shù)。
Stack Overflow與OpenAI的合作也算順應(yīng)時(shí)潮。OpenAI近期正在加速推動更多合作，諸多標(biāo)志性交易的達(dá)成（比如他們與微軟共同宣布將斥資1000億美元建設(shè)數(shù)據(jù)中心）讓其生態(tài)圈的構(gòu)建愈發(fā)順?biāo)臁?/p>
不過，Stack Overflow大量封號事件卻也暴露了開源知識共享與新興AI技術(shù)應(yīng)用之間日益緊張的關(guān)系，也促使人們反思如何在促進(jìn)技術(shù)進(jìn)步的同時(shí)，更好地保護(hù)和尊重創(chuàng)作者的權(quán)利與意愿。
在聲勢浩大的AI市場中，對技術(shù)與利益的狂熱追逐固然令人興奮，但同時(shí)也應(yīng)當(dāng)有所節(jié)制。種種發(fā)展態(tài)勢一直在提醒我們，在擁抱技術(shù)革新帶來的機(jī)遇時(shí)，也需要謹(jǐn)慎考慮其雙面性，確保科技進(jìn)步與可持續(xù)發(fā)展并行不悖。
參考鏈接：
??https://devclass.com/2024/05/08/stack-overflow-signs-deal-with-openai/??
本文轉(zhuǎn)載自??51CTO技術(shù)棧??，作者：伊風(fēng)
