當(dāng)金錢砸來(lái)時(shí)，你是否還能堅(jiān)持初心？

OpenAI 成立于 2015 年，是一家非營(yíng)利性研究機(jī)構(gòu)，它的愿景是構(gòu)建出安全、對(duì)人類有益的通用人工智能（AGI），由伊隆 · 馬斯克、Sam Altman 等人宣布出資 10 億美元成立。

然而到了 2019 年，OpenAI 轉(zhuǎn)變成了一家名為 OpenAI LP 的營(yíng)利性公司，由名為 OpenAI Inc 的母公司控制。此時(shí)的 OpenAI 是一種「利潤(rùn)上限」結(jié)構(gòu)，將投資回報(bào)限制在原始金額的 100 倍。如果你投資 1000 萬(wàn)美元，最多你會(huì)得到 10 億美元?？雌饋?lái)回報(bào)率不錯(cuò)。

改變幾個(gè)月后，微軟宣布注資 10 億美元。正如我們?cè)?GPT-3 和 Codex 上看到的那樣，OpenAI 與微軟的合作伙伴關(guān)系意味著允許后者將部分技術(shù)商業(yè)化。

在科技領(lǐng)域中，OpenAI 是引領(lǐng)人類走向美好未來(lái)的最大希望之一，如今卻被成本和算力的需求打回了現(xiàn)實(shí)。我們還能相信它將會(huì)帶領(lǐng)我們找到真正的人工智能嗎？

AI Lab，盈利優(yōu)先

首先，OpenAI 是一個(gè)人工智能研究實(shí)驗(yàn)室，它的雄心和自身所擁有的資源相比天差地別。在 GPT-3 論文橫空出世之后，外界的一個(gè)流行圍觀方式就是幫他們算成本，據(jù)估計(jì) OpenAI 訓(xùn)練 GPT-3 耗費(fèi)了 1200 萬(wàn)美元——僅僅是訓(xùn)練。如果沒(méi)有要求后期更大回報(bào)的金主，這家公司如何可以寫一篇論文就花這么多錢？所以當(dāng) OpenAI 需要投資的時(shí)候，他們和擁有云服務(wù)的微軟形成了合作。至于代價(jià)，就是一種未公開(kāi)的，將其系統(tǒng)商業(yè)化的晦澀許可。

MIT Technology Review 記者 Karen Hao 的一篇調(diào)查文章披露了 OpenAI 口是心非的地方，為什么一家以確保所有人擁有更美好未來(lái)為愿景的公司突然決定為「stay relevant」吸收大量私有資金？從非盈利到盈利的轉(zhuǎn)變引發(fā)了公眾甚至公司內(nèi)部的強(qiáng)烈批評(píng)。

艾倫人工智能研究所負(fù)責(zé)人 Oren Etzioni 表達(dá)了懷疑的態(tài)度：「我不同意非盈利組織無(wú)法具備競(jìng)爭(zhēng)力的觀點(diǎn)…… 如果規(guī)模更大、資金更充裕就能做得更好，那么今天 IBM 仍將是世界第一?！?/p>

曾為 Vice News 撰稿的 Caroline Haskins 則不相信 OpenAI 仍會(huì)忠于它的使命：「人類從未因?yàn)橐揽匡L(fēng)投機(jī)構(gòu)而變得更好?！?/p>

從技術(shù)角度來(lái)看，OpenAI 當(dāng)前的研究方向是更大的神經(jīng)網(wǎng)絡(luò)，這就需要更大的算力和巨量數(shù)據(jù)。只有比肩科技巨頭的投入才能在這條道路上走下去。但正如 Etzioni 所說(shuō)的，這并不是在 AI 領(lǐng)域里實(shí)現(xiàn)最先進(jìn)成果的唯一途徑，有時(shí)你需要?jiǎng)?chuàng)造性地思考新的想法，而不能只想著大力出奇跡。

OpenAI 是如何把路走窄的

GPT-2、GPT-3「危險(xiǎn)」語(yǔ)言生成器

在 2019 年初，已是一家盈利公司的 OpenAI 推出了 GPT-2，這是一種強(qiáng)大的語(yǔ)言生成模型，能夠生成接近人類的自然語(yǔ)言文本。研究人員認(rèn)為 GPT-2 在當(dāng)時(shí)是一個(gè)巨大的飛躍，但太危險(xiǎn)所以不能開(kāi)源出來(lái)。工程師們擔(dān)心 GPT-2 會(huì)被用來(lái)生成假新聞、垃圾信息和誤導(dǎo)信息。但在不久之后，OpenAI 又認(rèn)為不存在明顯被濫用的證據(jù)，因而將其開(kāi)源出來(lái)。

羅格斯大學(xué)教授 Britt Paris 表示：「這看起來(lái)就像是 OpenAI 在利用圍繞人工智能的恐慌?！褂胁簧偃税?GPT-2 的報(bào)道視為一種宣傳策略，他們認(rèn)為該系統(tǒng)其實(shí)并不像 OpenAI 聲稱的那樣強(qiáng)大。從營(yíng)銷的角度來(lái)看這確實(shí)可以吸引注意力，但 OpenAI 否認(rèn)了這些指控。

如果 GPT-2 沒(méi)有 OpenAI 宣稱的那么強(qiáng)大，那為什么要讓它看起來(lái)比實(shí)際更危險(xiǎn)呢？如果它真的性能強(qiáng)大，為什么僅僅因?yàn)椤笡](méi)有發(fā)現(xiàn)被濫用的有力證據(jù)」而完全開(kāi)源？無(wú)論如何，OpenAI 似乎都沒(méi)有遵循自己的道德標(biāo)準(zhǔn)。

2020 年 6 月，GPT-3 的論文被傳上了 arXiv，隨后以 API 的形式向外界提供。OpenAI 似乎認(rèn)為這個(gè)比 GPT-2 大 100 倍，更強(qiáng)大的新系統(tǒng)足夠安全，可以與世界分享。他們?cè)O(shè)置條款逐個(gè)審查每個(gè)訪問(wèn)請(qǐng)求，但他們?nèi)匀粺o(wú)法控制系統(tǒng)最終用于什么目的。

他們甚至承認(rèn) GPT-3 若落入壞人之手可能發(fā)生一些問(wèn)題，從誤導(dǎo)性信息、垃圾郵件、網(wǎng)絡(luò)釣魚、濫用法律、政府內(nèi)容，到學(xué)術(shù)欺詐、社會(huì)工程，再到性別、種族和宗教偏見(jiàn)。

他們認(rèn)識(shí)到了這些問(wèn)題，但仍然決定讓用戶付費(fèi)測(cè)試。為什么要通過(guò) API 發(fā)布它而不是開(kāi)源模型？OpenAI 回答說(shuō)，這是為他們正在進(jìn)行的人工智能研究、安全和政策努力提供資金。

所以總結(jié)一下就是：負(fù)責(zé)保護(hù)我們免受有害 AI 傷害的公司決定讓人們使用一個(gè)能夠制造虛假信息和危險(xiǎn)偏見(jiàn)的系統(tǒng)，這樣他們就可以負(fù)擔(dān)昂貴的維護(hù)費(fèi)用。看起來(lái)這并不是什么「對(duì)所有人有益的價(jià)值」。

因此，社交網(wǎng)絡(luò)上出現(xiàn) GPT-3 有害的討論就是順理成章的了。Facebook 人工智能負(fù)責(zé)人 Jerome Pesenti 寫了一條推文，他舉了一個(gè)例子

在一項(xiàng)利用 GPT-3 獨(dú)特性的嘗試中，加州大學(xué)伯克利分校的學(xué)生 Liam Porr 讓系統(tǒng)寫了一篇關(guān)于生產(chǎn)力的文章，并將其分享了出來(lái)（但沒(méi)說(shuō)是 AI 生成的）。這篇文章騙過(guò)了很多人，甚至登上了 Hacker News 的榜首。試想，如果像他這樣沒(méi)有惡意的學(xué)生都能夠用 AI 寫的文章騙過(guò)所有人，一群懷有惡意的人會(huì)用它做什么？比如傳播假新聞？

Liam Porr 的文章。鏈接 https://adolos.substack.com/p/feeling-unproductive-maybe-you-should

「在檢測(cè) GPT-3 175B 生成的長(zhǎng)文章時(shí)，人類的平均準(zhǔn)確率僅略高于 52%。這表明，對(duì)于 500 字左右的新聞，GPT-3 能夠持續(xù)生成以假亂真的作品?！?/p>

Codex、Copilot 侵權(quán)風(fēng)波

前段時(shí)間，GitHub、微軟和 OpenAI 發(fā)布了 Copilot，這是一個(gè)由 Codex 提供支持的 AI 系統(tǒng)，可以自動(dòng)生成代碼。然而，Copilot 的出現(xiàn)遭到了強(qiáng)烈的批評(píng)，因?yàn)樗敲つ渴褂脕?lái)自公共 GitHub 庫(kù)的開(kāi)源代碼進(jìn)行訓(xùn)練的。

有位網(wǎng)友指出了一些問(wèn)題

AI 生成的代碼究竟屬于我還是屬于 GitHub？

生成的代碼適用于哪種許可證？

如果生成的代碼成為侵權(quán)的理由，誰(shuí)該為此受罰？

在推特上，一位開(kāi)發(fā)者分享了一個(gè) Copilot 剽竊一整塊有版權(quán)的代碼的例子：

Copilot 原樣復(fù)制了《雷神之錘》里的經(jīng)典代碼，連吐槽注釋也沒(méi)落下。

有網(wǎng)友在底下回帖說(shuō)，「我們有 Copilot 直接復(fù)制 GPL 整塊代碼的證據(jù)，這說(shuō)明在商業(yè)環(huán)境中，Copilot 是一個(gè)非常危險(xiǎn)的工具。」

再深入一點(diǎn)，即使 Copilot 沒(méi)有逐詞復(fù)制代碼，這里也有一個(gè)道德問(wèn)題：GitHub 或 OpenAI 這些公司借助數(shù)千名開(kāi)發(fā)者寫出的開(kāi)源代碼訓(xùn)練這些系統(tǒng)，然后再向同一批開(kāi)發(fā)者售賣這些系統(tǒng)，這合適嗎？

對(duì)此，程序員兼游戲設(shè)計(jì)師 Evelyn Woods 表示，「感覺(jué)這像在嘲笑開(kāi)源?！?/p>

我們應(yīng)該把希望寄托于 OpenAI 嗎？

OpenAI 現(xiàn)在的真實(shí)愿景到底是什么？他們是不是與微軟緊密相連，以至于忘記了自己「為人類進(jìn)步」而奮斗的初衷？還是說(shuō)他們真的以為自己擁有最好的工具和頭腦來(lái)踐行這條路線，即使將靈魂出賣給一個(gè)大型科技公司也在所不惜？我們是否真的愿意讓 OpenAI 按照它的愿景來(lái)構(gòu)建未來(lái)？還是說(shuō)我們希望我們的愿景更加多樣化，并將其與經(jīng)濟(jì)利益分離？

OpenAI 正帶領(lǐng)大家走向更加復(fù)雜的人工智能，但還有很多和大公司沒(méi)有金錢關(guān)系的機(jī)構(gòu)在做相同的事情。他們可能不喜歡舒服地躺在錢堆里，因此我們有理由更加關(guān)注他們所做的工作。

最終，大型科技公司的首要任務(wù)不是滿足所謂的科學(xué)好奇心，探索通用人工智能，也不是構(gòu)建最安全、最負(fù)責(zé)、最道德的 AI，而是賺錢。他們會(huì)不惜一切做到這一點(diǎn)，即使這意味要走上一條模糊的道路，而我們大多數(shù)人都會(huì)避開(kāi)這一道路。

OpenAI 的聯(lián)合創(chuàng)始人馬斯克甚至也認(rèn)同這些批評(píng)：

馬斯克：我覺(jué)得 OpenAI 應(yīng)該再開(kāi)放一點(diǎn)。

OpenAI 的人不應(yīng)該忘記，他們不能為了達(dá)到目的不擇手段。這些手段可能會(huì)損害更高的目的。

我們想要 AGI 嗎？從科學(xué)的角度來(lái)看，答案不可能是否定的。人們對(duì)于科學(xué)的好奇心是沒(méi)有極限的，然而，我們應(yīng)該時(shí)刻評(píng)估潛在的危險(xiǎn)。核聚變是非凡的，但核彈不是。

我們想不惜一切代價(jià)實(shí)現(xiàn) AGI 嗎？從道德的角度來(lái)看，答案不可能是肯定的。這些快速發(fā)展的技術(shù)將對(duì)我們所有人產(chǎn)生影響，所以我們應(yīng)該注意到這個(gè)問(wèn)題。

或早或晚，那些只關(guān)注眼前利益的人終將為后果承擔(dān)重要責(zé)任。