出品 | 51CTO技術(shù)棧（微信號：blog51cto）
本周巴黎人工智能行動峰會之前，許多科技界知名人士都提前亮出了他們對人工智能未來的愿景。
OpenAI 首席執(zhí)行官 Sam Altman 也不例外， 今天更新了個人博客，提出了一些新概念或者新提法：比如“計算預(yù)算”（ compute budget），再比如“2035 年，任何人都應(yīng)該能夠調(diào)動與 2025 年所有人的智能總和”。
“技術(shù)進(jìn)步的歷史影響表明，我們關(guān)心的大多數(shù)指標(biāo)（健康結(jié)果、經(jīng)濟(jì)繁榮等）在平均水平和長期來看都會有所改善，但促進(jìn)平等似乎并非由技術(shù)決定，要做到這一點(diǎn)可能需要新的想法，”Altman寫道?！疤貏e是，資本和勞動力之間的權(quán)力平衡似乎很容易被打亂，這可能需要及早干預(yù)?！?/span>
這不是 Altman 第一次聲稱通用人工智能 (AGI) 即將問世。他將其定義為“能夠在眾多領(lǐng)域以人類水平解決日益復(fù)雜的問題的AI系統(tǒng)”。
Altman 警告說，無論采用何種形式，這種 AGI 都不會完美，因為它可能“需要大量的人類監(jiān)督和指導(dǎo)”。奧特曼寫道：“AGI 系統(tǒng)不會有最偉大的新想法，它在某些方面會很出色，但在其他方面卻出奇地糟糕?！?/span>
但 Altman 斷言，AGI 的真正價值將來自于大規(guī)模運(yùn)行這些系統(tǒng)。與 OpenAI 競爭對手 Anthropic 的首席執(zhí)行官 Dario Amodei 類似，Altman 設(shè)想將有數(shù)千甚至數(shù)百萬個超能力 AI 系統(tǒng)處理“知識工作各個領(lǐng)域的任務(wù)”。
人們可能會認(rèn)為實(shí)現(xiàn)這一愿景的成本很高。事實(shí)上，Altman 觀察到，“你可以花費(fèi)任意數(shù)量的資金，并獲得持續(xù)且可預(yù)測的收益”來提高人工智能的性能。這或許就是為什么 OpenAI 據(jù)報道正在商談在一輪融資中籌集高達(dá) 400 億美元的資金，并承諾與合作伙伴一起在一個龐大的數(shù)據(jù)網(wǎng)絡(luò)上投資高達(dá) 5000 億美元。
然而，Altman 還指出，使用“一定水平的人工智能”的成本每 12 個月下降約 10 倍。
換句話說，推動人工智能技術(shù)的邊界不會變得更便宜，但用戶將在此過程中獲得越來越強(qiáng)大的系統(tǒng)。
中國人工智能初創(chuàng)公司 DeepSeek 和其他公司推出的強(qiáng)大且價格低廉的人工智能模型似乎支持了這一觀點(diǎn)。有證據(jù)表明，訓(xùn)練和開發(fā)成本也在下降，但 Altman 和 Amodei 都認(rèn)為，要實(shí)現(xiàn) AGI 級甚至更高級別的人工智能，需要大量投資。
至于 OpenAI 計劃如何發(fā)布 AGI 級別的系統(tǒng)（假設(shè)它確實(shí)可以創(chuàng)建這些系統(tǒng)），Altman 表示，該公司可能會做出“一些與 AGI 安全相關(guān)的不受歡迎的重大決定和限制”。OpenAI曾承諾，出于對安全的擔(dān)憂，它將承諾停止與任何“價值觀一致”、“安全意識強(qiáng)”、在它之前接近建立 AGI 的項目競爭，并開始協(xié)助這些項目。
當(dāng)然，當(dāng)時 OpenAI 打算保持非營利性。該公司正在將其企業(yè)結(jié)構(gòu)轉(zhuǎn)變?yōu)楦鼈鹘y(tǒng)的、以利潤為導(dǎo)向的組織。據(jù)報道， OpenAI 的目標(biāo)是到 2029 年實(shí)現(xiàn) 1000 億美元的收入，相當(dāng)于 Target 和雀巢目前的年銷售額。
鑒于此，Altman 補(bǔ)充說，OpenAI 在構(gòu)建更強(qiáng)大的人工智能時的目標(biāo)是“更加傾向于賦予個人權(quán)力”，同時防止“獨(dú)裁政府利用人工智能通過大規(guī)模監(jiān)視和喪失自主權(quán)來控制其人口”。
Altman 最近表示，他認(rèn)為 OpenAI 在開源技術(shù)方面站在了歷史的錯誤一邊。雖然 OpenAI 過去曾開源過技術(shù)，但該公司通常傾向于專有的閉源開發(fā)方法。
“人工智能將滲透到經(jīng)濟(jì)和社會的各個領(lǐng)域；我們期望一切都變得智能，”Altman 說。“我們中的許多人預(yù)計需要給予人們比過去更多的技術(shù)控制權(quán)，包括更多的開源，并接受安全和個人賦權(quán)之間的平衡，這需要權(quán)衡?！?/span>
Altman 在腳注中還補(bǔ)充了OpenAI跟微軟的合同關(guān)系，OpenAI 實(shí)際上并不打算通過使用 AGI 一詞來在短期內(nèi)結(jié)束與密切合作伙伴兼投資者微軟的關(guān)系。據(jù)報道，微軟和 OpenAI 對 AGI 有一個合同定義——可以產(chǎn)生 1000 億美元利潤的人工智能系統(tǒng)——一旦滿足這一定義，OpenAI 就可以協(xié)商更有利的投資條款。然而，Altman 表示，OpenAI“完全期待與微軟長期合作”。
以下是Altman博客全文：
我們的使命是確保人工通用智能（AGI）造福全人類。
開始指向AGI的系統(tǒng)已初現(xiàn)端倪，因此我們認(rèn)為有必要理解我們所處的時刻。AGI是一個定義較為模糊的術(shù)語，但一般來說，我們將其視為能夠在多個領(lǐng)域以人類水平解決日益復(fù)雜問題的系統(tǒng)。
人類是工具制造者，天生就有理解和創(chuàng)造的驅(qū)動力，這使得世界變得對我們所有人都更好。每一代人都在前一代人的發(fā)現(xiàn)基礎(chǔ)上，創(chuàng)造出更強(qiáng)大的工具——電力、晶體管、計算機(jī)、互聯(lián)網(wǎng)，以及即將到來的AGI。
隨著時間的推移，盡管過程時斷時續(xù)，但人類創(chuàng)新的穩(wěn)步發(fā)展帶來了前所未有的繁榮水平，并幾乎改善了人們生活的每一個方面。
從某種意義上說，AGI只是我們在共同構(gòu)建的人類進(jìn)步的不斷增高的腳手架中的另一種工具。從另一種意義上說，它標(biāo)志著一種很難不說“這次不一樣”的事物的開始；我們面前的經(jīng)濟(jì)增長看起來令人驚嘆，我們現(xiàn)在可以想象一個世界，在那里我們治愈所有疾病，有更多時間與家人共度，并充分實(shí)現(xiàn)我們的創(chuàng)造力。
在十年內(nèi)，也許地球上的每個人都能完成比今天最具影響力的人更多的事情。
我們繼續(xù)看到人工智能開發(fā)的快速發(fā)展。以下是關(guān)于人工智能經(jīng)濟(jì)學(xué)的三個觀察結(jié)果：
1.人工智能模型的智能大致等于用于訓(xùn)練和運(yùn)行它的資源的對數(shù)。這些資源主要是訓(xùn)練計算能力、數(shù)據(jù)和推理計算能力。似乎你可以投入任意數(shù)量的資金并獲得持續(xù)且可預(yù)測的收益；預(yù)測這一點(diǎn)的擴(kuò)展定律在多個數(shù)量級上都是準(zhǔn)確的。
2.使用給定水平人工智能的成本大約每12個月下降10倍，而更低的價格會導(dǎo)致使用量大幅增加。你可以從2023年初的GPT-4到2024年中期的GPT-4o的代幣成本中看到這一點(diǎn)，在這段時間內(nèi)，每個代幣的價格下降了大約150倍。摩爾定律以每18個月2倍的速度改變了世界；這簡直令人難以置信地強(qiáng)大。
3.線性增長的智能所帶來的社會經(jīng)濟(jì)價值呈超指數(shù)級增長。由此產(chǎn)生的一個結(jié)果是，我們看不到指數(shù)級增長的投資在不久的將來會停止的理由。
如果這三個觀察結(jié)果繼續(xù)成立，對社會的影響將是巨大的。
我們現(xiàn)在開始推出人工智能代理，這些代理最終會讓人感覺像是虛擬同事。
讓我們設(shè)想一下軟件工程代理的情況，這是一種我們預(yù)計特別重要的代理。設(shè)想這個代理最終將能夠完成大多數(shù)在頂級公司有幾年經(jīng)驗的軟件工程師能夠完成的大部分任務(wù)，對于長達(dá)幾天的任務(wù)也是如此。它不會有最大的新想法，它需要大量的人類監(jiān)督和指導(dǎo)，它會在某些事情上表現(xiàn)出色，但在其他事情上卻出人意料地糟糕。
然而，設(shè)想它是一個真實(shí)但相對初級的虛擬同事?，F(xiàn)在設(shè)想有1000個這樣的代理?；蛘?00萬個?，F(xiàn)在設(shè)想在知識工作的每個領(lǐng)域都有這樣的代理。
在某些方面，人工智能可能會像晶體管在經(jīng)濟(jì)上一樣——一項能夠大規(guī)模擴(kuò)展并滲透到經(jīng)濟(jì)幾乎每一個角落的重大科學(xué)發(fā)現(xiàn)。我們不太會去想晶體管，或者晶體管公司，而這些收益是非常廣泛地分布的。但我們確實(shí)期望我們的電腦、電視、汽車、玩具等能夠創(chuàng)造奇跡。
世界不會一下子改變；它從未如此。在短期內(nèi)，生活大多會保持不變，2025年的人們大多會像2024年一樣度過時間。我們?nèi)匀粫嬋霅酆?、組建家庭、在網(wǎng)上爭吵、徒步旅行等。
但未來將以一種無法忽視的方式向我們襲來，對我們社會和經(jīng)濟(jì)的長期變化將是巨大的。我們會發(fā)現(xiàn)新的事情去做，新的方式為彼此提供幫助，以及新的競爭方式，但它們可能與今天的工作看起來非常不同。
自主性、意志力和決心可能會極其有價值。正確決定做什么以及如何應(yīng)對不斷變化的世界將具有巨大價值；韌性和適應(yīng)性將是值得培養(yǎng)的技能。AGI將是人類意志力有史以來最大的杠桿，它將使個人能夠比以往任何時候都產(chǎn)生更大的影響，而不是更少。
我們預(yù)計AGI的影響將是不均衡的。盡管一些行業(yè)可能變化不大，但科學(xué)進(jìn)步可能會比今天快得多；AGI的這一影響可能會超過其他一切。
許多商品的價格最終將大幅下降（目前，智能和能源的成本限制了許多事情），而奢侈品和一些固有有限資源（如土地）的價格可能會更加戲劇性地上升。
從技術(shù)角度來看，我們面前的道路看起來相當(dāng)清晰。但公眾政策和我們?nèi)绾螌GI融入社會的集體意見非常重要；我們提前推出產(chǎn)品的一個原因就是為社會和技術(shù)提供共同進(jìn)化的空間。
人工智能將滲透到經(jīng)濟(jì)和社會的所有領(lǐng)域；我們將期望一切都能變得智能化。我們中的許多人期望需要比以往歷史上給予人們更多的對技術(shù)的控制權(quán)，包括更多地開源，并接受安全與個人賦能之間需要權(quán)衡的事實(shí)。
盡管我們永遠(yuǎn)不想魯莽行事，而且可能會有一些與AGI安全相關(guān)的重大決策和限制措施會不受歡迎，但從方向上來說，隨著我們越來越接近實(shí)現(xiàn)AGI，我們相信傾向于更多地賦予個人權(quán)力是重要的；我們能看到的另一條可能的道路是，人工智能被威權(quán)政府用來通過大規(guī)模監(jiān)控和失去自主性來控制其人口。
確保AGI的利益廣泛分配至關(guān)重要。技術(shù)進(jìn)步的歷史影響表明，我們關(guān)心的大多數(shù)指標(biāo)（健康結(jié)果、經(jīng)濟(jì)繁榮等）平均而言和從長期來看都會變得更好，但促進(jìn)平等似乎并不是由技術(shù)決定的，而要實(shí)現(xiàn)這一點(diǎn)可能需要新的想法。
特別是，資本和勞動之間的權(quán)力平衡很容易被破壞，這可能需要早期干預(yù)。我們對一些聽起來奇怪的想法持開放態(tài)度，比如給予每個人一些“計算預(yù)算”，以便地球上每個人都能使用大量人工智能，但我們也能看到很多方法，通過不斷將智能成本降低到盡可能低的水平，也能達(dá)到理想的效果。
到2035年，任何人都應(yīng)該能夠調(diào)動相當(dāng)于2025年所有人智力總和的智力能力；每個人都應(yīng)該能夠獲得無限的智慧，并按照他們能想象的任何方式加以利用。目前有很多人才沒有足夠的資源來充分展現(xiàn)自己，如果我們改變這一點(diǎn)，世界由此產(chǎn)生的創(chuàng)造性產(chǎn)出將為我們所有人帶來巨大的好處。
特別感謝 Josh Achiam、Boaz Barak 和 Aleksander Madry 審閱本文草稿。
*我們在這里使用 AGI 一詞，旨在清晰地溝通，我們無意改變或解釋定義我們與微軟關(guān)系的定義和流程。
我們完全期待與微軟長期合作。這個腳注看起來很愚蠢，但另一方面，我們知道有些記者會試圖通過寫一些愚蠢的東西來獲得點(diǎn)擊量，所以我們在這里先發(fā)制人……
