?繼ChatGPT成當(dāng)紅炸子雞后，微軟、谷歌、Meta等大廠紛紛入局。

隨之而來(lái)的是，人們對(duì)其廣泛應(yīng)用也產(chǎn)生了擔(dān)憂。

前Alphabet執(zhí)行董事Eric Schmidt和其他合著者在WSJ發(fā)表的文章中稱，

生成式人工智能提出了自啟蒙運(yùn)動(dòng)以來(lái)從未經(jīng)歷過(guò)的哲學(xué)挑戰(zhàn)和實(shí)踐挑戰(zhàn)。

就在昨日，OpenAI首席執(zhí)行官Sam Altman發(fā)文，分享了OpenAI對(duì)通用人工智能（AGI）的當(dāng)前和后續(xù)規(guī)劃。

文章強(qiáng)調(diào)，OpenAI的使命是確保AGI造福全人類(lèi)。

OpenAI愿景：確保AGI造福全人類(lèi)

文中，提出了OpenAI最關(guān)心的三原則。

如果AGI最終成功構(gòu)建，這項(xiàng)技術(shù)不僅可以帶來(lái)更多可能性，推動(dòng)全球經(jīng)濟(jì)發(fā)展，還能改變新興科學(xué)知識(shí)的發(fā)現(xiàn)，從方方面面幫助人類(lèi)提升生活水平。

AGI可以賦予每個(gè)人不可思議的新能力。

在AGI觸手可及的世界，所有人都可以獲得幾乎所有認(rèn)知能力的幫助，AGI或許能成為人類(lèi)才智和創(chuàng)造力的巨大力量增幅器。

但另一方面，正如一些人所擔(dān)心的，通用人工智能也會(huì)造成嚴(yán)重的濫用、意外和社會(huì)混亂。

然而，AGI的益處令人驚嘆，我們不能諱疾忌醫(yī)，讓社會(huì)永遠(yuǎn)停止發(fā)展；相反，社會(huì)和AGI開(kāi)發(fā)者必須要想辦法把它做好。

與通用人工智能共同生活的未來(lái)圖景難以預(yù)測(cè)，當(dāng)前AI的進(jìn)展可能會(huì)遭遇新的挑戰(zhàn)，但在ChatGPT獲得成功的當(dāng)下，我們列出了公司最關(guān)心的幾項(xiàng)原則：

1. 希望AGI可以為人類(lèi)賦能，使人類(lèi)能夠在宇宙中實(shí)現(xiàn)最大程度的繁榮。我們不希望未來(lái)成為一個(gè)虛假的烏托邦，但我們希望將技術(shù)好的一面最大化，壞的一面最小化，讓AGI成為人類(lèi)善意的放大器。

2. 希望以公平的方式，更廣泛地分享AGI的益處、獲取和治理。

3. 要正確應(yīng)對(duì)潛在風(fēng)險(xiǎn)。在面對(duì)這些風(fēng)險(xiǎn)時(shí)，理論上似乎正確的事情在實(shí)踐中往往比預(yù)期更難以控制。我們必須通過(guò)部署功能較弱的技術(shù)版本來(lái)不斷學(xué)習(xí)和適應(yīng)，以最大程度地減少「無(wú)可挽回」的情況。

短期目標(biāo)：為AGI做好三項(xiàng)準(zhǔn)備

因此在短期內(nèi)，OpenAI計(jì)劃做到以下幾件事。

首先，隨著公司不斷構(gòu)建出更為強(qiáng)大的AI系統(tǒng)，我們希望快速部署AGI，以積累在相應(yīng)的應(yīng)用經(jīng)驗(yàn)。

在OpenAI看來(lái)，謹(jǐn)慎管理AGI的最佳方式應(yīng)該是逐漸過(guò)渡到AGI普及的世界。我們期望的未來(lái)，強(qiáng)大的人工智能技術(shù)能夠加快世界進(jìn)步的速度，

漸進(jìn)的方式讓大眾、政策制定者和研究機(jī)構(gòu)有時(shí)間了解AGI技術(shù)帶來(lái)的改變，親身體驗(yàn)這些系統(tǒng)的好處和缺點(diǎn)，調(diào)整經(jīng)濟(jì)組織形式，并實(shí)施有效監(jiān)管。

同時(shí)，漸進(jìn)的發(fā)展方式還能促使社會(huì)和AI共同進(jìn)步，讓人們?cè)陲L(fēng)險(xiǎn)相對(duì)較低的情況下了解自身。

OpenAI認(rèn)為，成功解決AI應(yīng)用挑戰(zhàn)的最佳方法是采用快速學(xué)習(xí)和謹(jǐn)慎迭代的緊密反饋循環(huán)。在新技術(shù)的沖擊下，社會(huì)將面臨「人工智能系統(tǒng)被允許做什么、如何消除偏見(jiàn)、如何處理工作崗位流失」等重大問(wèn)題。

增加AI技術(shù)的使用大有裨益，OpenAI希望成為推廣該技術(shù)的一員，通過(guò)將模型放入服務(wù)API中，將它們開(kāi)源等方式實(shí)現(xiàn)。

OpenAI表示，隨著其開(kāi)發(fā)的系統(tǒng)越來(lái)越接近AGI，該機(jī)構(gòu)在模型的創(chuàng)建和部署方面都變得越來(lái)越謹(jǐn)慎。

OpenAI需要權(quán)衡使用大模型的利弊。一方面，使用先進(jìn)的大模型標(biāo)志著重要的科技進(jìn)展；另一方面，使用模型之后，公司和機(jī)構(gòu)也需要考慮如何限制惡意行為者、避免對(duì)社會(huì)和經(jīng)濟(jì)造成不良影響等問(wèn)題。

其次，OpenAI正在努力創(chuàng)建更加一致和可控的模型。從GPT-3的第一個(gè)版本到InstructGPT和ChatGPT，這一步步的轉(zhuǎn)變都彰顯OpenAI在AI安全性方面所做的努力。

值得注意的是，人類(lèi)社會(huì)需要就如何使用人工智能達(dá)成極其廣泛的界限。隨著模型變得更強(qiáng)大，OpenAI將需要開(kāi)發(fā)新的對(duì)齊技術(shù)。

OpenAI的短期計(jì)劃是使用AI來(lái)幫助人類(lèi)評(píng)估更復(fù)雜模型的輸出并監(jiān)控復(fù)雜系統(tǒng)，而從長(zhǎng)遠(yuǎn)來(lái)看，OpenAI將會(huì)使用AI來(lái)幫助獲得更好的對(duì)齊技術(shù)。

OpenAI認(rèn)為，人工智能安全和能力同樣重要，二者不應(yīng)該分開(kāi)談?wù)?。OpenAI表示其最安全的工作出自其最有能力的模型之手。也就是說(shuō)，提高人工智能的安全性對(duì)AI研究進(jìn)步非常重要。

第三，OpenAI 希望全球范圍內(nèi)解決三個(gè)關(guān)鍵問(wèn)題：人工智能系統(tǒng)的治理問(wèn)題，AI系統(tǒng)產(chǎn)生的收益的分配問(wèn)題，以及訪問(wèn)權(quán)限的共享問(wèn)題。

此外，根據(jù)OpenAI公司章程，OpenAI需協(xié)助其他組織提高安全性，不能在后期AGI開(kāi)發(fā)中與對(duì)手競(jìng)爭(zhēng)。

OpenAI投資規(guī)則中對(duì)股東可以獲得的回報(bào)設(shè)定了上限，這樣研究機(jī)構(gòu)本身就不會(huì)被引誘去嘗試無(wú)限制地獲取價(jià)值，也不會(huì)冒險(xiǎn)使用具有災(zāi)難性危險(xiǎn)的技術(shù)。

OpenAI由非營(yíng)利組織管理，以保證該機(jī)構(gòu)是為人類(lèi)的利益而運(yùn)行，并且可以凌駕于任何營(yíng)利利益之上。

最后，OpenAI認(rèn)為全球政府應(yīng)對(duì)超過(guò)一定規(guī)模的機(jī)器學(xué)習(xí)訓(xùn)練保持監(jiān)管。

長(zhǎng)遠(yuǎn)目標(biāo)：更加繁榮的超級(jí)智能世界

相比于短期計(jì)劃，OpenAI的AGI長(zhǎng)遠(yuǎn)發(fā)展顯得更為宏大。

OpenAI相信人類(lèi)的未來(lái)應(yīng)該由人類(lèi)自己決定，與公眾分享有關(guān)進(jìn)步的信息至關(guān)重要。因此，應(yīng)該對(duì)所有AGI發(fā)展項(xiàng)目進(jìn)行嚴(yán)格審查，并在重大決策上面向公眾進(jìn)行咨詢。

在OpenAI看來(lái)，第一個(gè)AGI只會(huì)是人工智能持續(xù)發(fā)展中的一個(gè)小節(jié)點(diǎn)，然后從這個(gè)節(jié)點(diǎn)開(kāi)始不斷衍生出新的進(jìn)展。公司預(yù)測(cè)，AI的未來(lái)發(fā)展可能會(huì)在很長(zhǎng)一段時(shí)間內(nèi)和我們過(guò)去十年的進(jìn)展速度類(lèi)似。

也許有一天，世界會(huì)發(fā)生翻天覆地的變化，科技的進(jìn)步也可能帶給人類(lèi)很大的風(fēng)險(xiǎn)。一個(gè)「錯(cuò)位的」超級(jí)智能AGI可能會(huì)對(duì)世界造成嚴(yán)重的傷害。

因此，OpenAI認(rèn)為放緩AGI的發(fā)展速度更容易確保安全。即使技術(shù)的進(jìn)展讓我們有迅速發(fā)展AGI的能力，但保持減速能讓社會(huì)有足夠的時(shí)間來(lái)適應(yīng)。

成功過(guò)渡到一個(gè)擁有超級(jí)智能的世界可能是人類(lèi)歷史上最重要、最有希望，但也最可怕的項(xiàng)目。沒(méi)人能保證這一天何時(shí)到來(lái)，但人們已經(jīng)探明的利害關(guān)系有助于將所有人團(tuán)結(jié)起來(lái)。

無(wú)論如何，那將是一個(gè)繁榮到超乎想象的世界。而OpenAI希望為世界貢獻(xiàn)一個(gè)與這種繁榮相一致的通用人工智能。

ChatGPT預(yù)示著一場(chǎng)智力革命

近日，前美國(guó)務(wù)卿Henry Kissinger、前Alphabet執(zhí)行董事Eric Schmidt、麻省理工蘇世民計(jì)算機(jī)學(xué)院首任院長(zhǎng)Daniel Huttenlocher撰寫(xiě)了一篇「ChatGPT預(yù)示著一場(chǎng)智力革命」的文章。

文章中透露了他們對(duì)當(dāng)前生成式人工智能的擔(dān)憂：

生成式人工智能提出了自啟蒙運(yùn)動(dòng)以來(lái)從未經(jīng)歷過(guò)的哲學(xué)和實(shí)踐挑戰(zhàn)。

文章開(kāi)頭便闡述了當(dāng)前ChatGPT對(duì)人類(lèi)的影響。

一項(xiàng)新技術(shù)旨在改變?nèi)祟?lèi)的認(rèn)知過(guò)程，因?yàn)樗杂∷⑿g(shù)發(fā)明以來(lái)從未動(dòng)搖過(guò)。

1455年印刷古騰堡圣經(jīng)的技術(shù)使抽象的人類(lèi)思想得以普遍而迅速地傳播。但今天的這項(xiàng)新技術(shù)逆轉(zhuǎn)了這一過(guò)程。

印刷機(jī)造成了現(xiàn)代人類(lèi)思想的大量涌現(xiàn)，而新技術(shù)則實(shí)現(xiàn)了對(duì)它的提煉和闡述。

在這一過(guò)程中，它在人類(lèi)知識(shí)和人類(lèi)理解之間造成了差距。

如果我們要成功地駕馭這種轉(zhuǎn)變，就需要發(fā)明人類(lèi)思想和與機(jī)器交互的新概念。這就是人工智能時(shí)代的基本挑戰(zhàn)。

這項(xiàng)新技術(shù)被稱為生成性人工智能，最具代表性的便是OpenAI研究實(shí)驗(yàn)室開(kāi)發(fā)的ChatGPT。

隨著它的能力變得變得更加廣泛，它們將重新定義人類(lèi)的知識(shí)，加速我們現(xiàn)實(shí)結(jié)構(gòu)的變化，并重組政治和社會(huì)。

生成式人工智能同樣將為人類(lèi)理性開(kāi)辟革命性的道路，為鞏固知識(shí)開(kāi)辟新的視野。

但兩者之間也存在著明顯的區(qū)別。啟蒙知識(shí)是逐步實(shí)現(xiàn)的，每一步都是可測(cè)和可教的。

AI系統(tǒng)，如ChatGPT，可以存儲(chǔ)和提煉大量現(xiàn)有信息，并能夠在不解釋其過(guò)程情況下輸出結(jié)果，這是人類(lèi)無(wú)法做到的。

此外，人工智能的能力不是一成不變的，而是隨著技術(shù)的進(jìn)步呈指數(shù)級(jí)增長(zhǎng)。

我們迫切需要開(kāi)發(fā)一種復(fù)雜的辯證法，使人們能夠挑戰(zhàn)生成式人工智能的交互性，不僅要證明或解釋人工智能的答案，還要對(duì)其進(jìn)行審問(wèn)。

帶著一致的懷疑態(tài)度，我們應(yīng)該學(xué)會(huì)有條不紊地探索人工智能，并評(píng)估它的答案是否值得信任，以及在何種程度上值得信任。這將需要有意識(shí)地減少我們無(wú)意識(shí)的偏見(jiàn)，進(jìn)行嚴(yán)格的訓(xùn)練和大量的實(shí)踐。

問(wèn)題仍然存在：我們能不能足夠快地學(xué)會(huì)挑戰(zhàn)而不是服從？還是我們最終將不得不服從？我們所認(rèn)為的錯(cuò)誤是故意設(shè)計(jì)的一部分嗎？如果人工智能中出現(xiàn)了惡意的因素怎么辦？

另一個(gè)關(guān)鍵任務(wù)是，反思哪些問(wèn)題必須留給人類(lèi)思考，哪些問(wèn)題可以冒險(xiǎn)交給自動(dòng)化系統(tǒng)。

然而，即使有了強(qiáng)化的懷疑主義和審問(wèn)技巧，ChatGPT也證明了生成技術(shù)的精靈已經(jīng)離開(kāi)了瓶子。我們必須對(duì)我們所問(wèn)的問(wèn)題進(jìn)行深思熟慮。

隨著該技術(shù)得到更廣泛的理解，它將對(duì)國(guó)際關(guān)系產(chǎn)生深遠(yuǎn)的影響。除非知識(shí)的技術(shù)是普遍共享的，否則帝國(guó)主義可能專(zhuān)注于獲取和壟斷數(shù)據(jù)，以達(dá)到人工智能的最新進(jìn)展。

模型可能會(huì)根據(jù)收集的數(shù)據(jù)產(chǎn)生不同的結(jié)果。社會(huì)的不同演變可能會(huì)在日益不同的知識(shí)基礎(chǔ)的基礎(chǔ)上演變，從而對(duì)挑戰(zhàn)的認(rèn)識(shí)也會(huì)不同。

文末提出了讓人們值得深思的兩個(gè)問(wèn)題：

如果不能完全控制這項(xiàng)技術(shù)會(huì)怎樣？

如果總是有辦法編造謊言、制作虛假圖片和視頻，而人們永遠(yuǎn)無(wú)法學(xué)會(huì)不相信他們的所見(jiàn)所聞，那該怎么辦？

Meta首席AI科學(xué)家LeCun回答道，

-人們將學(xué)會(huì)更好地追蹤來(lái)源，并評(píng)估他們所見(jiàn)所聞的可靠性，這很可能是在新技術(shù)的幫助下。

-當(dāng)前的自回歸LLM是出了名的不可控，但新的AI系統(tǒng)在需要時(shí)是可控的、真實(shí)的并且無(wú)毒的。

還有網(wǎng)友引用了Andy Grove的話「有兩種選擇：適應(yīng)或死亡」。

要是你會(huì)怎么做？

參考資料：

https://openai.com/blog/planning-for-agi-and-beyond/

https://www.wsj.com/articles/chatgpt-heralds-an-intellectual-revolution-enlightenment-artificial-intelligence-homo-technicus-technology-cognition-morality-philosophy-774331c6

https://twitter.com/ericschmidt/status/1629361652574621701