2024年最后一天，谷歌開發(fā)者大佬Logan Klipatrick的一個預(yù)測，如同扔下了一枚重磅炸彈——

我們直接進(jìn)入ASI的可能性，正在逐月逼近。

而這，就是Ilya所看到的。

Klipatrick分析道，Ilya創(chuàng)立了SSI，計劃直接向ASI邁進(jìn)，沒有中間產(chǎn)品，沒有中間模型。

曾經(jīng)，許多人（包括Klipatrick本人在內(nèi)）都覺得這種方法不可能起作用，因為如果通過模型和產(chǎn)品啟動飛輪效應(yīng)，就能建立真正的護(hù)城河。

然而，擴(kuò)展測試時計算的成功表明，這種持續(xù)直接擴(kuò)大規(guī)模的路徑實際上可能是可行的。

這一點(diǎn)的早期跡象，可能已經(jīng)被Ilya看到了！

如今，我們?nèi)詴瓉鞟GI，但4年前大家普遍認(rèn)為它會成為一個歷史性的轉(zhuǎn)折點(diǎn)，但如今AGI的誕生可能更像是一次普通的產(chǎn)品發(fā)布，而在短期內(nèi)，市場上會涌現(xiàn)出許多迭代和類似的選擇。

這，可能是對人類最好的結(jié)果。

有人做出梗圖，表示Ilya看到的，就是整個地球都會被太陽能電池板和數(shù)據(jù)中心覆蓋

OpenAI研究員Stephen McAleer稱，今天在諾伊谷見到了Ilya，瞬間感到一股AGI誕生的激動涌上心頭。

擴(kuò)展測試時計算，就是ASI秘訣？

的確，擴(kuò)展測試時計算的巨大作用，最近一再被各位學(xué)者強(qiáng)調(diào)。

OpenAI研究員Jason Wei總結(jié)了過去五年，自己在AI方面最大的技術(shù)教訓(xùn)。

在他看來，每一個教訓(xùn)，都讓自己對于「該在哪里分配精力」發(fā)生了重大轉(zhuǎn)變。回想起來，這些教訓(xùn)事后看都是顯而易見的，但在事前就很難知曉。

其中，2024年的教訓(xùn)，就是「擴(kuò)展測試時計算」。

另一位OpenAI研究員Shyamal就特意發(fā)出長文「更好的教訓(xùn)」，強(qiáng)調(diào)不要低估延長LLM思考時間的作用！

Shyamal強(qiáng)調(diào)，我們?nèi)匀坏凸懒藘H僅通過給LLM更多的思考時間，就能得到的東西。

比如AlphaGo的進(jìn)步，就并非來自復(fù)雜的手工設(shè)計功能，而是來自簡單方法的規(guī)?；?，在推理中應(yīng)用大規(guī)模搜索，以及集成深度強(qiáng)化學(xué)習(xí)。

正如AI領(lǐng)域「苦澀的教訓(xùn)」所揭示的，最重要的往往就是scaling已證明有效的方法。

其中的簡單洞見就是，深度學(xué)習(xí)（與適當(dāng)?shù)囊?guī)模擴(kuò)展結(jié)合）往往好于更精巧的方法。

我們需要的不是復(fù)雜的架構(gòu)，而是更多的算力、數(shù)據(jù)，以及讓模型能思考更長時間、更好地與環(huán)境交互的方法。

最近AI能力的最新框架——聊天機(jī)器人、推理器、AI智能體、組織，都反映了整個行業(yè)的發(fā)展進(jìn)程。

從與人對話的簡單界面開始，聊天機(jī)器人開始發(fā)展為推理器，更多工具集成后，它們就演變?yōu)榱酥悄荏w。隨后，它們形成了組織——并行工作的分布式智能網(wǎng)絡(luò)。

在這個過程中，AGI從一個模型轉(zhuǎn)變?yōu)橐粋€系統(tǒng)，一個能大規(guī)模協(xié)調(diào)、寫作和執(zhí)行的系統(tǒng)。

最能體現(xiàn)這一進(jìn)展的，莫過于OpenAI的o1了。

o1在Codeforces中排名第89%，在美國數(shù)學(xué)邀請賽（AIME）中躋身前500名

它在解決問題時會運(yùn)用CoT，通過強(qiáng)化學(xué)習(xí)不斷完善思維鏈，將復(fù)雜問題分解為可管理的步驟，在需要時轉(zhuǎn)向新的方法。這種迭代過程中提升了它的推理能力，凸顯出思考更長時間及適應(yīng)性思考的系統(tǒng)的潛力。

而在企業(yè)中，這種轉(zhuǎn)變也是類似的。

今天的模型只是總結(jié)文檔、進(jìn)行推理，在明天，它們就會成為強(qiáng)大的內(nèi)部顧問，處理復(fù)雜代碼、審查合同、協(xié)同整個工作流。這是一種全新的「測試時計算」。

所有這些進(jìn)展都基于一個關(guān)鍵洞見：智能不僅僅局限于生物大腦。它是一種我們可以設(shè)計和擴(kuò)展的物理特性。

此前爆火全網(wǎng)的研究「螞蟻AGI」中，螞蟻群體在解決搬運(yùn)難題中表現(xiàn)出的智能，竟超越了人類

深度學(xué)習(xí)確實行之有效。我們學(xué)會了將沙子熔化成硅，然后將硅排列成能存儲和處理信息的芯片?，F(xiàn)在我們已經(jīng)教會這些芯片如何思考它們所包含的信息。

我們正在進(jìn)入一個智能可按需獲取、規(guī)?；?，并通過謹(jǐn)慎約束和對齊來引導(dǎo)的時代。

如果允許這些系統(tǒng)更深入地思考并始終與人類價值觀保持一致，我們才剛剛開始挖掘它們的潛力。

人類在歷史上一直做的事情，就是不斷造出東西，然后造出能大規(guī)模建造這些東西、使其有用的工具。

那，AGI怎么辦？

有人說，我們直接奔著ASI去了，別再惦記AGI了。

不過，在ASI之前，科技公司大佬們就AGI還有很多話要說。他們紛紛對AGI發(fā)展時間線做出了預(yù)測。

奧特曼一直以來都對AGI持樂觀態(tài)度。他認(rèn)為，2025年可能就是節(jié)點(diǎn)，但未做出明確的承諾。

OpenAI對AGI的定義

Anthropic CEO Dario Amodei雖然對AGI這一概念本身持謹(jǐn)慎態(tài)度，但根據(jù)當(dāng)前AI發(fā)展趨勢，他預(yù)計AGI將在2026-2027年實現(xiàn)。

xAI CEO馬斯克預(yù)測也更為大膽，他表示最遲到2026年就能實現(xiàn)AGI。

Meta AI首席科學(xué)家Yann LeCun表示，如果當(dāng)前研發(fā)計劃順利，人類水平的AI可能會在5-6年內(nèi)問世。

而DeepMind CEO Demis Hassabis給出了更為保守的預(yù)測，他認(rèn)為距離真正的AGI還需約10年時間，且在此過程中仍需2-3項重大技術(shù)突破。

與此同時，谷歌也在AGI時間預(yù)測上表現(xiàn)得十分謹(jǐn)慎，未給出具體的時間表。

另一位前OpenAI研究員Daniel Kokotajlo預(yù)測道，2025-2028年之間，OpenAI、Anthropic、DeepMind的AI系統(tǒng)能夠進(jìn)行自主研究。

而且，它們將超越人類，學(xué)會自我改進(jìn)，最終取代人類研究員。

一篇LessWrong的文章中，總結(jié)了當(dāng)前AI領(lǐng)域不同專家就5年內(nèi)實現(xiàn)AGI的不同觀點(diǎn)。

一些人認(rèn)為，AI階躍式進(jìn)展和自動化研究，可能很快就會帶來AGI。

2023年，在對2,778名AI研究人員的一項調(diào)查顯示，AGI實現(xiàn)有50%的可能性在23-92年之間。

然而，時間跨度僅過去了一年，最新調(diào)查（Feng等人）卻顯示，16.6%受訪者認(rèn)為AGI會在5年或更短的時間內(nèi)實現(xiàn)。

還有網(wǎng)友表示，我們正處于AGI邊緣，一旦實現(xiàn)了AGI，再有1-2年時間我們就能達(dá)到ASI的水平。

他預(yù)測，屆時，AI將開始指數(shù)級的自我提升，奇點(diǎn)就會出現(xiàn)。我們將見證一場前所未有的指數(shù)級技術(shù)爆發(fā)，這是幾十年前的人們無法想象的。

而且，任何在物理法則范圍內(nèi)可能存在的事物都可能實現(xiàn)——癌癥將被治愈，商品和服務(wù)的成本將接近于零，所有的可能性都將變?yōu)楝F(xiàn)實。

AGI前夜的思考

站在AGI前夜，未來我們將面對的是什么？

幾天前，AI初創(chuàng)公司CEO Will Bryk發(fā)布了一篇長文，直言我們生活在AGI前夜，正見證著這場人類文明的巨變。

o3發(fā)布之后，讓Bryk和朋友們深刻感受到AGI正在逼近。

其實，OpenAI早在兩個月前就向所有人展示了，測試時計算的scaling law。

但令他們難以置信的是，這一切竟發(fā)生地如此之快——2個月的時間，大學(xué)水平的AI就跨越到了博士級的AI。

從o3身上能夠看到，未來發(fā)展路徑非常清晰。它能夠在任何可以定義獎勵函數(shù)的領(lǐng)域表現(xiàn)優(yōu)異，尤其數(shù)學(xué)、編程領(lǐng)域。

不過，在小說創(chuàng)作領(lǐng)域還是相對困難。

這意味著在短期內(nèi)（1年內(nèi)），我們將看到能力分布不均衡的模型：

它們在數(shù)學(xué)、編程、泛化推理方面達(dá)到接近AGI的水平，但在創(chuàng)意協(xié)作方面可能仍顯平庸。

而從長遠(yuǎn)來看（1-3年），隨著全新訓(xùn)練數(shù)據(jù)，比如情感、感知數(shù)據(jù)加入進(jìn)行強(qiáng)化學(xué)習(xí)，這些盲點(diǎn)將被逐漸修復(fù)，屆時LLM將毫無疑問地成為真正的AGI。

智能體真的要來了！

像o3這樣的模型，完全可以在瀏覽器和應(yīng)用程序里自主操作、執(zhí)行任務(wù)，這種能力的獎勵模型也很容易設(shè)計。

而且，這個市場潛力巨大——自動化電腦工作，無論是數(shù)據(jù)處理還是復(fù)雜的工作流，都會有很大的需求。

對于那些需要證明自己巨額投入合理性的實驗室來說，這更是一個動力。

Bryk預(yù)計，到2025年12月，你可能只需要告訴電腦一個任務(wù)，它就能通過瀏覽網(wǎng)頁、操作應(yīng)用程序，輕松完成任何涉及數(shù)據(jù)流轉(zhuǎn)的工作流。

數(shù)學(xué)家700天倒計時

Bryk還提到，在所有領(lǐng)域中，數(shù)學(xué)家可能面臨巨大的沖擊。

因為數(shù)學(xué)工作純粹在符號空間中進(jìn)行，幾乎不受物理世界的限制，而這也恰恰是大模型擅長的領(lǐng)域。

他預(yù)計，700天后，人類可能不再是已知宇宙中，數(shù)學(xué)領(lǐng)域的最強(qiáng)大腦。

程序員，職業(yè)末日？

對于軟件工程師來說，短期內(nèi)這將是一個絕佳的基于。相當(dāng)于，每位工程師都獲得了一次晉升。

到2025年底，編程更像是一個「指揮官」的工作——程序員指揮一群AI智能體去完成各種任務(wù)。

而且，不像數(shù)學(xué)家一樣，軟件工程師并不會完全被AI自動化。

因為他們需要和物理世界進(jìn)行交互，需要與客戶、團(tuán)隊成員互動，理解需求，在組織環(huán)境中工作。

如果有了o4，他們的效率至少可以提升10倍。

不過從長遠(yuǎn)來看（>2年），誰也說不準(zhǔn)會如何。當(dāng)o6完成集成到人類系統(tǒng)時，像前端人類工程師很可能在三年內(nèi)就消失了。

對于那些體力勞動者來說，AI的影響可能相對較慢，因為它必須去解決重力和摩擦等物理問題。

而當(dāng)前，機(jī)器人技術(shù)最大的瓶頸在于，硬件的改進(jìn)和感知，以及行動模型/可靠模型。這兩種情況，還有很長的路要走。

只有當(dāng)機(jī)器人開始制造機(jī)器人，AI能夠自主進(jìn)行研究時，機(jī)器人技術(shù)才會出現(xiàn)瘋狂的迭代。

Bryk稱自己一直幻想的科幻世界真的要來了，并列出了十年內(nèi)AI可能實現(xiàn)的突破性進(jìn)展，其中就包括炫酷的物理學(xué)發(fā)現(xiàn)，機(jī)器人建造火星/月球基地，幾近完美的導(dǎo)師/建議AI等等。

這一切的實現(xiàn)，也就意味著我們抵達(dá)了ASI。

OpenAI的新年目標(biāo)

奧特曼也在x上總結(jié)了網(wǎng)友們對于2025年OpenAI的愿景，以及改進(jìn)方向。

他表示，大家提到的主要有以下方向：

• AGI
• 智能體
• 4o性能提升
• 記憶能力提升
• 更長的上下文
• 「成人模式」
• 深度研究功能
• 升級版Sora
• 更強(qiáng)的個性化功能

最后，著名「謎語人」奧特曼意味深長地說道：「有趣的是，很多我們即將推出的重大更新，在這里都沒有或很少被提到！」

在評論區(qū)，網(wǎng)友們最感興趣的，無疑就是這個「成人模式」了。

果然，網(wǎng)友圣誕節(jié)時的發(fā)愿，被奧特曼看到了。

不過，還是沒有GPT-5嗎？或許奧特曼是捂著大的不想說，也未可知。

也有人諷刺道：所以開源在哪里？

2027年，AI十大挑戰(zhàn)過幾關(guān)？

接下來，到2027年底，AI又能能達(dá)到怎樣高度呢？

NYU教授馬庫斯直接發(fā)出十項極具挑戰(zhàn)性的任務(wù)，先立上靶子，最終看看2027年底AI能夠完成幾項。

他表示，如果AI能夠在2027年底完成其中8項，才能有力證明AGI中『通用性』的到來。

不過，這一切的前提是，只由一個AI系統(tǒng)去挑戰(zhàn)，不能讓10個完全獨(dú)立系統(tǒng)去完成。

期間，允許對AI系統(tǒng)進(jìn)行適度調(diào)整。

智能確實包含適應(yīng)能力，但AI系統(tǒng)開發(fā)成本必須合理，不能為每項單一任務(wù)專門定制完整系統(tǒng)。

類似地，我們從不會期望他在從未接觸過電影或劇本創(chuàng)作的情況下，立即寫出奧斯卡級別的劇本一樣。

這些任務(wù)可分為三類：

• 四項普通成年人應(yīng)具備的基本能力
• 兩項需要達(dá)到人類專家水平的能力
• 四項挑戰(zhàn)人類極限的高階能力

那么，這十大挑戰(zhàn)分別是什么？

1. 理解電影

觀看一部從未接觸過的主流大片（不看任何影評），AI能夠準(zhǔn)確把握劇情轉(zhuǎn)折，理解笑點(diǎn)，并且能在不劇透、不杜撰的前提下概括影片內(nèi)容。

與此同時，AI能夠回答諸如「誰是主角？他們之間的沖突是什么？有什么動機(jī)？這些因素如何演變？關(guān)鍵轉(zhuǎn)折點(diǎn)是什么？」等問題。

2. 解讀文學(xué)作品

同樣地，AI能夠閱讀新出版的暢銷小說（不看任何書評），準(zhǔn)確回答關(guān)于情節(jié)發(fā)展、人物塑造、矛盾沖突、行為動機(jī)等問題，并能用大眾都能理解的方式深入解讀作品內(nèi)涵。

3. 撰寫傳記和訃告

AI撰寫引人入勝的簡明傳記和訃告，確保內(nèi)容真實可靠，不做無據(jù)可循的臆測。

4. 熟練通關(guān)游戲

AI能在短短幾分鐘或幾小時內(nèi)，掌握幾乎任何新游戲的核心玩法，并在游戲世界中解決原創(chuàng)性的謎題。

5. 法律文書寫作

AI撰寫邏輯嚴(yán)密、論證充分的法律文書，不虛構(gòu)任何案例。

6. 編程「0 bug」

AI能夠基于自然語言需求說明或通過與普通用戶交流，獨(dú)立編寫超過1萬行的無bug代碼。（注：不能組合現(xiàn)有代碼庫）

7. 創(chuàng)作獲獎級書籍

在極少或零人工干預(yù)的情況下，AI創(chuàng)作出達(dá)到普利策獎水準(zhǔn)的文學(xué)作品和非虛構(gòu)作品。

8. 創(chuàng)作獲獎級電影

在極少或零人工干預(yù)的情況下，AI創(chuàng)作出達(dá)到奧斯卡獎水準(zhǔn)的電影劇本。

9. 諾獎級科學(xué)突破

在極少或零人工干預(yù)的情況下，AI能做出堪獲諾貝爾獎的原創(chuàng)性科學(xué)發(fā)現(xiàn)。

10. 數(shù)學(xué)證明轉(zhuǎn)化

AI能將數(shù)學(xué)文獻(xiàn)中任何以自然語言書寫的證明過程，轉(zhuǎn)換為適合計算機(jī)符號驗證的形式化表達(dá)。

以上十項任務(wù)中，主流的AI都有所涉及，不過在有的領(lǐng)域表現(xiàn)好，有的領(lǐng)域表現(xiàn)差。

目前，還從未有任何一個AI能夠達(dá)到其中8項要求。

接下來的三年里，AI的這場賭注還真的讓人有些期待。

AI自我改進(jìn)，人類要「拔電源」嗎？

最后，讓我們對未來發(fā)出一點(diǎn)預(yù)警。

就如OpenAI研究員Daniel Kokotajlo所預(yù)測，未來幾年內(nèi)，如果AI取代了人類AI研究員，能以比人類更快的速度改進(jìn)AI，這無疑太瘋狂了。

其實就在最近，接連出現(xiàn)的不少研究都證明了這一點(diǎn)。

o1試圖逃跑，防止被人類關(guān)閉。

對模型的安全性評估發(fā)現(xiàn)，當(dāng)o1認(rèn)為自己可能被關(guān)閉、替換為其他模型時，它試圖泄露自己的權(quán)重

前沿的AI系統(tǒng)已經(jīng)超越了自我復(fù)制的紅線：它們可以自我復(fù)制，無需人類參與。

經(jīng)過35個自行規(guī)劃和行動步驟后，AI成功復(fù)制了實時副本，還能相互聊天。

甚至流氓AI可能形成AI群體，互相勾結(jié)、反對人類。

AI還學(xué)會了給自己買GPU，購買算力、自我改進(jìn)、自給自足！智能體直接變身GPU富人。

Eric Schmidt曾表示，2-4年內(nèi)，AI可能就會開始自我改進(jìn)，一兩年內(nèi)，系統(tǒng)或許就能進(jìn)行自己的研究。

那時，我們真的該認(rèn)真考慮，是否要拔掉它的電源。

只不過AI可能并不會給我們這個機(jī)會，畢竟現(xiàn)在這些都是「智能化」控制的了……