整理丨諾亞

外媒The Verge于北京時(shí)間今日凌晨報(bào)道，在生成式AI的瘋狂競賽中，字節(jié)跳動(dòng)一直在秘密利用OpenAI的技術(shù)“走捷徑”，直指字節(jié)跳動(dòng)在中國使用GPT生成的數(shù)據(jù)來訓(xùn)練自己的大模型，違反了微軟和OpenAI的開發(fā)者許可。不久后，OpenAI發(fā)言人Niko Felix發(fā)表聲明，確認(rèn)字節(jié)跳動(dòng)的賬戶已被暫停并將做進(jìn)一步調(diào)查。

1、“他們想確保一切都合法，但他們真的只是不想被抓住” 

外媒稱，字節(jié)跳動(dòng)此舉違反了OpenAI的有關(guān)服務(wù)條款。該條款規(guī)定，其模型輸出不能用于“開發(fā)任何與我們的產(chǎn)品和服務(wù)競爭的人工智能模型”。字節(jié)跳動(dòng)正在通過微軟購買OpenAI的使用權(quán)，微軟也有同樣的政策。

但是記者Alex Heath表示，從他看到的字節(jié)跳動(dòng)內(nèi)部文檔可以證實(shí)，在幾乎每個(gè)開發(fā)階段，包括訓(xùn)練和評估模型，字節(jié)跳動(dòng)都依賴OpenAI API來開發(fā)其基礎(chǔ)大模型，代號(hào)為“種子計(jì)劃（Project Seed）”。

報(bào)道提到，自從大約一年前字節(jié)跳動(dòng)內(nèi)部啟動(dòng)“種子計(jì)劃”以來，它已成為一項(xiàng)高度優(yōu)先的秘密計(jì)劃。從事這項(xiàng)工作的員工必須簽署單獨(dú)的保密協(xié)議。參與其中的員工也很清楚此事曝光的影響。Alex Heath在飛書國際版Lark的內(nèi)部溝通記錄上看到過關(guān)于如何通過“數(shù)據(jù)脫敏”來“粉飾”證據(jù)的對話，“濫用如此猖獗，以至于種子計(jì)劃的員工經(jīng)常達(dá)到 API 訪問的上限”。

內(nèi)部文件顯示，在種子計(jì)劃的早期階段，對于OpenAI平臺(tái)的使用更為肆無忌憚。但幾個(gè)月前，字節(jié)跳動(dòng)命令該團(tuán)隊(duì)在“模型開發(fā)的任何階段”停止使用GPT生成的文本。也就是在這個(gè)時(shí)候，字節(jié)跳動(dòng)獲得了中國監(jiān)管部門的批準(zhǔn)，通過AI大模型“豆包”讓種子計(jì)劃上線。

Alex稱，盡管如此，這種API的使用方式仍然違反了OpenAI和微軟的服務(wù)條款，包括評估在豆包背后的模型的性能。文中引用了一位聲稱對字節(jié)跳動(dòng)內(nèi)部情況有深入了解的爆料者的話，“他們說他們想確保一切都是合法的，但他們真的只是不想被抓住”。

2、OpenAI的回應(yīng)：暫停賬號(hào)，作進(jìn)一步調(diào)查

對于該報(bào)道，來自字節(jié)跳動(dòng)、微軟以及OpenAI三方的發(fā)言人均給出了回應(yīng)。

字節(jié)跳動(dòng)發(fā)言人Jodi Seth在回應(yīng)這篇報(bào)道中詳細(xì)列出的事實(shí)時(shí)表示，GPT生成的數(shù)據(jù)在種子計(jì)劃的早期開發(fā)中被用于注釋模型，并且在今年年中左右就從字節(jié)跳動(dòng)的訓(xùn)練數(shù)據(jù)中刪除了它。

她提到:“字節(jié)跳動(dòng)獲得了微軟使用GPT API的許可?！薄拔覀兪褂肎PT為非中國市場的產(chǎn)品和功能提供動(dòng)力，但使用我們自主開發(fā)的模式為豆包提供動(dòng)力，而豆包只在中國提供?！?/p>

微軟發(fā)言人Frank Shaw則在一份聲明中表示:“微軟人工智能解決方案(如Azure OpenAI Service)是我們有限訪問框架的一部分，這意味著所有客戶必須申請并獲得微軟批準(zhǔn)才能訪問。”“我們還制定標(biāo)準(zhǔn)并提供資源，幫助我們的客戶在遵守服務(wù)條款的情況下負(fù)責(zé)任地使用這些技術(shù)，并制定了適當(dāng)?shù)牧鞒虂頇z測濫用，并在公司違反我們的行為準(zhǔn)則時(shí)停止訪問權(quán)限?！?/p>

OpenAI發(fā)言人Niko Felix則向該報(bào)道的作者表示，確認(rèn)字節(jié)跳動(dòng)的賬戶已被暫停:“所有API客戶必須遵守我們的使用政策，以確保我們的技術(shù)得到善用。雖然字節(jié)跳動(dòng)對我們API的使用很少，但我們在進(jìn)一步調(diào)查期間暫停了他們的賬戶。如果我們發(fā)現(xiàn)他們的使用不遵守這些政策，我們將要求他們做出必要的改變或終止他們的賬戶?！?/p>

3、灰色地帶：瘋狂競賽中的鋌而走險(xiǎn) 

今年以來，在OpenAI掀起的這場生成式AI競賽中，無論是巨頭還是初創(chuàng)企業(yè)，都被卷入了某種“瘋狂”的漩渦中。時(shí)不我待的焦慮感成為了每個(gè)人頭上的緊箍咒。于是乎，灰色地帶應(yīng)運(yùn)而生。

使用專有的人工智能模型（尤其是OpenAI的模型）來幫助構(gòu)建競爭產(chǎn)品已經(jīng)成為小公司的普遍做法。這通常被視為一個(gè)法律灰色地帶，因?yàn)镺penAI和微軟還沒有公開對任何一個(gè)違規(guī)者做出“嚴(yán)懲”。正如Databricks負(fù)責(zé)生成式人工智能的副總裁Naveen Rao所說：“現(xiàn)在很多初創(chuàng)公司都在冒這個(gè)風(fēng)險(xiǎn)?！?/p>

外媒強(qiáng)調(diào)，在此次事件中，對于像字節(jié)跳動(dòng)這樣體量的公司來說，這種行為是非常不尋常的。這表明種子計(jì)劃團(tuán)隊(duì)承受著快速交付的巨大壓力。

據(jù)報(bào)道，種子計(jì)劃正在開發(fā)的兩款主打產(chǎn)品，一是豆包，目前在中國上線的AI聊天機(jī)器人，另一個(gè)是以商業(yè)為中心的機(jī)器人平臺(tái)，正在開發(fā)中，將通過字節(jié)跳動(dòng)的云部門銷售。種子計(jì)劃與TikTok無關(guān)，它是在中國的服務(wù)器上開發(fā)的。項(xiàng)目負(fù)責(zé)人是字節(jié)跳動(dòng)的搜索主管朱文佳，他向公司最高工程負(fù)責(zé)人楊震原匯報(bào)工作。

雖然員工們被告知，種子計(jì)劃的目標(biāo)是像 OpenAI 一樣，最終構(gòu)建通用人工智能，但真正的目標(biāo)似乎是盡快成為中國的 ChatGPT。該團(tuán)隊(duì)已接到命令，即在今年年底前與 GPT-3.5 的性能相匹敵，并在 2024 年年中之前與 GPT-4 相匹敵。當(dāng)前的 Seed 模型大約有 2000 億個(gè)參數(shù)。相比之下，GPT-3.5 有 1750 億個(gè)參數(shù)，而GPT-4 的參數(shù)規(guī)模尚未公布。   

濫用GPT來打造競爭對手并非個(gè)案。今年早些時(shí)候，谷歌的一名研究人員曾辭職以示抗議，因?yàn)橐恍﹩T工試圖使用來自一個(gè)網(wǎng)站的數(shù)據(jù)，該網(wǎng)站包含人們上傳的與ChatGPT的對話。雖然那次事件并沒有發(fā)酵產(chǎn)生輿情，但也被內(nèi)部視為恥辱。

4、衍生問題：大模型幻覺的加劇

當(dāng)前OpenAI正在致力于識(shí)別API的輸出，以防止?jié)撛诘恼`用、濫用，但潘多拉之匣已然開啟。目前尚不清楚字節(jié)跳動(dòng)這樣的行為是否會(huì)進(jìn)一步加劇中美之間高度緊張的關(guān)系，畢竟兩國都將人工智能視為國家安全問題。

另一個(gè)必須關(guān)注的問題是，當(dāng)大模型越來越多地幫助構(gòu)建其他大模型時(shí)，在線信息的質(zhì)量會(huì)發(fā)生什么變化。由于基礎(chǔ)模型已經(jīng)在非事實(shí)的、人工創(chuàng)建的數(shù)據(jù)上進(jìn)行了訓(xùn)練，因此使用它們來構(gòu)建更多的大模型只會(huì)放大幻覺問題。在鋼絲上行走的同時(shí)又要警惕陷入更為濃稠的迷霧，人工智能的前路到底會(huì)走向何方？我們或許也只有在迷茫中繼續(xù)前行，在更深度的博弈中尋找答案。

參考鏈接：

https://www.theverge.com/2023/12/15/24003151/bytedance-china-openai-microsoft-competitor-llm

https://www.theverge.com/2023/12/15/24003542/openai-suspends-bytedances-account-after-it-used-gpt-to-train-its-own-ai-model