2025年，我們會迎來奇點(diǎn)嗎？

在2023年末和2024年中，DeepMind和OpenAI分別放出了對于AGI等級的定義。我們親眼見證了，今年的AI如何在逐步攀升AGI高峰。

顯然，2024是旋風(fēng)般的一年。而在2025年，我們有理由相信會看到更多的進(jìn)步。

我們遲早會看到，科學(xué)和數(shù)學(xué)的進(jìn)步將以非常真實(shí)的方式觸及和改變我們的生活，起初會很遲緩，然后在某一刻變得突然。

就在昨天，谷歌大佬Logan Klipatrick預(yù)測：我們直接進(jìn)入ASI的可能性，正在逐月逼近。Ilya已經(jīng)看到了。

OpenAI CEO奧特曼則暗示，18個月后，2026年夏天，我們將見證奇跡。

而ASI誕生之后的人類，只有兩種可能：要么「走向永生」；要么「走向滅絕」。

對此，AI教父Hinton已經(jīng)發(fā)出預(yù)警了，10年內(nèi)，AI可能會導(dǎo)致人類的滅亡！

未來20年，美國47%工作崗位將被自動化！

這種擔(dān)憂，似乎并不是空穴來風(fēng)。

一份美國報(bào)告研究顯示，在未來20年內(nèi)，約47%的美國工作崗位可能被自動化。

而且，每增加一個機(jī)器人，就會導(dǎo)致當(dāng)?shù)亟?jīng)濟(jì)損失約5.6個工作崗位。

這些觸目驚心的數(shù)字背后，折射出的是一場正在悄然發(fā)生的職場革命——

AI帶來的沖擊，從藍(lán)領(lǐng)到白領(lǐng)都不能幸免。

2023年，美國編劇工會，美國演員工會罷工，讓所有人清晰看到了AI對「知識工作者」構(gòu)成的真實(shí)威脅。

但實(shí)際上，生成式AI和先進(jìn)技術(shù)帶來的挑戰(zhàn)，早已波及到了多個行業(yè)。

那么，哪些工作崗位將面臨被AI自動化，甚至取代的風(fēng)險(xiǎn)？

如果工作內(nèi)容與AI潛在能力高度相似，那么工作者就可能受到包括AI在內(nèi)數(shù)字技術(shù)的影響。

不可否認(rèn)的是，AI加速迭代能夠提升人們生產(chǎn)效率，但同時也有取代人類工作的風(fēng)險(xiǎn)。

以伊利諾伊州為例，研究估計(jì)有14%-25%的勞動力崗位面臨著工作被自動化的高風(fēng)險(xiǎn)，這意味著，高達(dá)150萬工作者可能受到影響。

此外，約有23.7萬到41.7萬名工人面臨著極高風(fēng)險(xiǎn)。而在建筑行業(yè)中，約49%的工作任務(wù)可能被自動化取代。

對此，有網(wǎng)友表示，「這個問題本質(zhì)上可以歸結(jié)為我們是否能擁有通用型機(jī)器人。

如果有了通用機(jī)器人，就意味著所有工作都會受到影響；如果沒有通用型機(jī)器人，那么只有一半的工作崗位會受到影響，因?yàn)锳I只能取代基于計(jì)算機(jī)的工作」。

有人則反駁道，你低估了現(xiàn)如今機(jī)器人的現(xiàn)狀，并甩出了一長串，關(guān)于機(jī)器人走進(jìn)崗位的各種報(bào)道。

不過，至少在20年后，我們將擁有一批今天不存在的職業(yè)。

奇點(diǎn)預(yù)測：是2029年嗎？

Reddit上的singularity社區(qū)，舉辦了年度奇點(diǎn)預(yù)測活動。

首先發(fā)言的，是OpenAI o1。它認(rèn)為，2024年關(guān)于AI的討論已經(jīng)達(dá)到了歷史最高水平。

生成式AI引發(fā)了關(guān)于效率、創(chuàng)造力、道德和人類智慧本質(zhì)的討論。通向AGI乃至ASI的旅程仍然很復(fù)雜，但每一年，我們都有了實(shí)實(shí)在在的進(jìn)步。

而社區(qū)的網(wǎng)友們普遍認(rèn)為，庫茲韋爾對于2029年的預(yù)測的準(zhǔn)確的。

AGI和ASI的發(fā)生，就在2029-2030年。不過，那時的AI模型應(yīng)該會有革命性的架構(gòu)變化，而非如今的LLM路線。

相比之下，AI大佬們的預(yù)計(jì)普遍更為樂觀。

• 奧特曼：2025年可能是AGI的節(jié)點(diǎn)，18個月后可能會見證ASI
• Anthropic CEO Dario Amodei：AGI將在2026-2027年實(shí)現(xiàn)
• xAI CEO馬斯克：最遲在2026年就能實(shí)現(xiàn)AGI
• Meta AI首席科學(xué)家Yann LeCun：如果研發(fā)順利，人類水平的AI可能會在5-6年內(nèi)問世
• DeepMind CEO Demis Hassabis：AGI還有約10年時間，且仍需2-3項(xiàng)重大技術(shù)突破

但毫無疑問，所有人心里都承認(rèn)：我們的確離AGI越來越近了。

2023年，在對2,778名AI研究人員的一項(xiàng)調(diào)查顯示，AGI實(shí)現(xiàn)有50%的可能性在23-92年之間。然而，時間跨度僅過去了一年，最新調(diào)查卻顯示，16.6%受訪者認(rèn)為AGI會在5年或更短的時間內(nèi)實(shí)現(xiàn)

AGI來勢洶洶，博士生如何應(yīng)對？

對于那些還未畢業(yè)，走進(jìn)正式工作崗位之前的博士生們，如何應(yīng)用AI帶來的挑戰(zhàn)？

畢竟，o3的出世，尤其是在數(shù)學(xué)編程方面，真正達(dá)到了博士級水平。許多網(wǎng)友表示，未來每個人的口袋里都會有一個「超級智囊」。

對此，來自沃頓商學(xué)院的Ethan Mollick教授在「四大研究奇點(diǎn)」這篇長文中，詳細(xì)闡述了AI崛起帶來的危與機(jī)，并為博士提供了一個「生存指南」。

注：完整版「指南」，請劃至文末閱讀。

他表示，「作為一名商學(xué)院教授，我深知研究表明，在1,016個職業(yè)中，商學(xué)院教授是與AI任務(wù)重疊度最高的25個職業(yè)之一」。

但重疊并不一定意味著替代，而是意味著顛覆性變革和改變。

早在ChatGPT嶄露頭角之前，學(xué)術(shù)界就已經(jīng)面臨著一個令人擔(dān)憂的困境——表面上看，學(xué)術(shù)論文數(shù)量在持續(xù)增長，但實(shí)質(zhì)性的創(chuàng)新步伐卻在悄然減速。

事實(shí)上，一項(xiàng)研究發(fā)現(xiàn)，從農(nóng)業(yè)到癌癥研究，各個領(lǐng)域的突破性進(jìn)展都在放緩，而且創(chuàng)新速度每13年就會下降一半。

其中的原因錯綜復(fù)雜，但有一點(diǎn)可以明確的事，這場危機(jī)將發(fā)生，但AI并非是危機(jī)的源頭。

實(shí)際上，AI可能會成為解決方案的一部分，但在此之前它會先創(chuàng)造出新的問題。

Mollick表示，自己更愿意把AI在科學(xué)研究中帶來的變革稱為「奇點(diǎn)」，而非「危機(jī)」。

這里的奇點(diǎn)是「狹義的奇點(diǎn)」，指的是未來某個時點(diǎn)——AI已經(jīng)深刻改變了某個領(lǐng)域或行業(yè)，以至于我們無法完全想象奇點(diǎn)之后的世界是什么樣子。

而在學(xué)術(shù)領(lǐng)域，我們正在面臨至少四個這樣的奇點(diǎn)時刻。

每一個奇點(diǎn)都可能從根本上重塑學(xué)術(shù)研究的本質(zhì)，要么成為重啟創(chuàng)新引擎的奇跡，要么加劇現(xiàn)有的危機(jī)。

征兆已經(jīng)出現(xiàn)，而現(xiàn)在，我們只需要決定在奇點(diǎn)之后要做什么。

2024，見證歷史的一年

回顧2024，這是驚心動魄的一年，見證歷史的一年。

各位大佬們都對2024年發(fā)生的AI大事做了盤點(diǎn)。

吳恩達(dá)總結(jié)了2024年AI圈的熱門故事：AI智能體崛起，LLM token價格暴跌，生成式視頻迎來爆發(fā)期，小模型異軍突起。

吳恩達(dá)也強(qiáng)調(diào)，如今，那些處于AI前沿的人，和那些甚至一次都沒用過ChatGPT的人，他們之間的差距已經(jīng)越來越大。

智能體

智能體的含金量，還在上升。

這一年，集成開發(fā)環(huán)境中有越來越多的智能體開始生成代碼，比如Devin、OpenHands、Replit Agent、Vercel的V0和Bolt等。

AI的推理能力也取得了飛速進(jìn)步。

2024年年底，OpenAI推出了o1模型和o1 pro模式，該模式使用代理循環(huán)逐步完成提示。DeepSeek-R1和Google Gemini 2.0 Flash Thinking Mode也遵循類似的代理推理。

在2024年的最后幾天，OpenAI發(fā)布了o3和o3-preview，進(jìn)一步擴(kuò)展了o1的代理推理能力，效果驚艷。

CoT、Reflexion、測試時計(jì)算等技術(shù)的興起，讓智能體更加繁盛。Agent的時代即將到來！

價格暴跌

同時，我們也見證了LLM token價格的暴跌。今年，AI提供商之間的價格戰(zhàn)，打得是轟轟烈烈。

從2023年3月到2024年11月，OpenAI模型云訪問的單個token價格降低了90%。

2023年底，GPT-4 Turbo亮相時，每百萬token的輸入/輸出為10.00美元/30.00美元。

但隨即的價格戰(zhàn)中，模型價格紛紛暴跌。

比如谷歌Gemini 1.5 Pro，價格已削至每百萬token的輸入/輸出為1.25美元/5.00美元。亞馬遜的Nova Pro，則已低至0.80美元/3.20美元。

AI視頻起飛

這一年，AI視頻的發(fā)展驚人。

Sora引發(fā)了全球轟動，隨后的Runway Gen 3、Adobe Firefly Video、Meta Movie Gen、King AI、PixVerse、PixelDance等也加入戰(zhàn)場。

未來，AI視頻仍有較大的改進(jìn)空間。大多數(shù)模型一次僅生成少量幀，因此可能很難跟蹤物理和幾何形狀，并隨著時間推移生成一致的角色和場景。

小即是美

2024年，許多LLM已經(jīng)足夠小，小到可以在智能手機(jī)上運(yùn)行。

頂級AI公司也把一部分資源投給小模型，比如Microsoft Phi-3（參數(shù)最低38億）、Google Gemma 2（最低20億）和 Hugging Face SmolLM（最低1.35億）。

而這些小模型，極大地?cái)U(kuò)展了我們對成本、速度和部署的選擇空間。

Jim Fan：24年，6點(diǎn)震撼

英偉達(dá)高級研究科學(xué)家Jim Fan，從6個方面總結(jié)了2024年。

首先，是高端類人機(jī)器人的崛起，包括特斯拉Optimus、1X Neo、波士頓動力、GR-1、西部世界克隆等等。

接下來是具身智能的進(jìn)展：特斯拉FSD v12、英偉達(dá)GR00T、HOVER、DrEureka、斯坦福OpenVLA等，讓機(jī)器人大腦有了更多進(jìn)步。

而英偉達(dá)Blackwell架構(gòu)、Jetson Nano Super、谷歌Willow芯片，將計(jì)算硬件帶入全新的領(lǐng)域。

視頻生成和世界建模，也邁進(jìn)了一大步。包括Sora，Veo，GameNGen、Oasis、GENIE-2等行動驅(qū)動的世界模型，以及李飛飛的World Labs。

在LLM方面，Claude 3.5 Sonnet、Gemini 1.5 pro、o1和o3不斷給我們新的沖擊。真正的AGI測試，是完成這個序列：4o -> o1 -> o3 -> (?)。

GPT-4o實(shí)時語音模型、NotebookLM等，帶給了我們LLM體驗(yàn)的最佳重新構(gòu)想。

最后，在AI4Science上，今年的諾貝爾物理學(xué)獎和化學(xué)獎，都給了所有人億點(diǎn)點(diǎn)震撼。

人類的命運(yùn)絕不能交給算法的「黑匣子」

在2024年12月的演講中，聯(lián)合國秘書長古特雷斯提到——人類命運(yùn)不能交由算法決定。

技術(shù)的發(fā)展速度永遠(yuǎn)不會比今天更慢。

如今的AI模型變得越來越強(qiáng)大、越來越通用、越來越容易獲取——不僅能結(jié)合語言、圖像、聲音和視頻，還能實(shí)現(xiàn)決策自動化。

AI不僅在重塑我們的世界——它正在徹底改變世界。過去需要多年人類專業(yè)知識才能完成的任務(wù)，現(xiàn)在轉(zhuǎn)瞬之間就能完成。

但同時，它帶來的風(fēng)險(xiǎn)同樣巨大。

這種快速增長超出了人類治理的能力，引發(fā)了關(guān)于問責(zé)、平等、安全和保障的根本性問題。也引發(fā)了關(guān)于人類在決策過程中，應(yīng)該扮演怎樣角色的問題。

AI工具可以識別糧食不安全狀況，預(yù)測極端事件和氣候變化導(dǎo)致的人口流離失所。

但是，AI也以更令人擔(dān)憂的方式進(jìn)入戰(zhàn)場。最關(guān)鍵的是，AI正在削弱人類控制武力使用這一基本原則。

據(jù)報(bào)道，從基于情報(bào)的評估到目標(biāo)選擇，算法已經(jīng)被用于人類的生死決策。

AI與其他技術(shù)的融合，更是呈指數(shù)級放大了這些風(fēng)險(xiǎn)——未來，量子AI系統(tǒng)可能在一夜之間突破最強(qiáng)大的防御，重寫數(shù)字安全規(guī)則。

我們必須明確的是：人類的命運(yùn)絕不能交給算法的「黑匣子」。

既然人類創(chuàng)造了AI，那么它的前進(jìn)也必須由人類指引。

除武器系統(tǒng)外，我們還必須應(yīng)對AI帶來的其他風(fēng)險(xiǎn)。

AI可以創(chuàng)造高度逼真的內(nèi)容，這些內(nèi)容能夠在網(wǎng)絡(luò)平臺上即時傳播——操縱公眾輿論，威脅信息完整性，使真相與徹底的謊言難以區(qū)分。Deepfake可能引發(fā)外交危機(jī)，煽動動亂，并破壞社會的根基。

AI的環(huán)境影響也帶來明顯的安全風(fēng)險(xiǎn)。AI數(shù)據(jù)中心大量消耗能源和水資源，再加上對關(guān)鍵礦產(chǎn)的爭奪，正在造成對資源的激烈競爭和地緣政治緊張。

人類下一步行動至關(guān)重要，我們現(xiàn)在做出的選擇將決定我們的未來。建立有效的國際治理機(jī)制刻不容緩，因?yàn)槊恳淮窝舆t都可能增加全人類面臨的風(fēng)險(xiǎn)。

「四大研究奇點(diǎn)」全文

奇點(diǎn)一：我們?nèi)绾螌懽骱桶l(fā)表

在許多學(xué)術(shù)領(lǐng)域，學(xué)術(shù)研究進(jìn)展緩慢得令人煎熬。

Mollick教授稱，自己有些論文從開始研究到最終在期刊上發(fā)表花了將近十年時間。頂級期刊是為這種節(jié)奏而設(shè)計(jì)的，因此對AI引發(fā)的學(xué)術(shù)文章洪流準(zhǔn)備不足。

這是因?yàn)樵S多研究人員正在使用AI寫作文章，加快了研究過程的關(guān)鍵環(huán)節(jié)，干擾了審稿人的評估標(biāo)準(zhǔn)。

其中一些AI輔助方式極其拙劣且不道德，比如明顯由LLM撰寫的章節(jié)或令人震驚的AI生成圖像的論文泛濫。

但當(dāng)正確使用時，AI寫作實(shí)際上可以非常有幫助。畢竟，許多科學(xué)家在他們的專業(yè)領(lǐng)域很優(yōu)秀，但他們可能不是優(yōu)秀的寫作者或表達(dá)者。

而GPT-4級的模型在科學(xué)寫作方面確實(shí)相當(dāng)出色，至少在一項(xiàng)小型研究中，它們輸出的引言部分與人類寫作水平相當(dāng)。

如果AI能夠幫助寫作過程，它可以讓科學(xué)家專注于他們最擅長的事情，通過讓AI協(xié)助處理耗時的任務(wù)來加快研究進(jìn)程。

當(dāng)然，我們無法得知研究人員是否正確檢查了AI的寫作內(nèi)容，因此，在新文章大量涌現(xiàn)的情況下，同行評審變得越來越重要，同時也趨于AI自動化。

在一次重要的AI會議上，約17%的同行評審內(nèi)容來自AI。

更令人驚訝的是，研究顯示約82.4%的科學(xué)家認(rèn)為AI同行評審比部分人工評審更有參考價值。盡管在某些方面，AI表現(xiàn)不及人類，但其在發(fā)現(xiàn)錯誤方面已經(jīng)展現(xiàn)出獨(dú)特的優(yōu)勢。

然而，現(xiàn)有的科學(xué)出版體系并非為「AI寫作-AI評審-AI總結(jié)」這樣的流程而設(shè)計(jì)。如果任由這種趨勢發(fā)展，整個系統(tǒng)可能難以為繼。

當(dāng)然，AI的能力遠(yuǎn)不止于輔助寫作。

為了展示其潛力，Mollick構(gòu)建了一個「定制GPT」，它可以探索任何數(shù)據(jù)集，生成假設(shè)并以越來越復(fù)雜的方式進(jìn)行測試。

通過實(shí)驗(yàn)發(fā)現(xiàn)，AI已經(jīng)能夠自主探索數(shù)據(jù)集、生成假設(shè)并進(jìn)行復(fù)雜測試。

這種能力固然令人印象，但也帶來新的隱憂：AI可能被用來進(jìn)行數(shù)據(jù)操縱（p-hacking），不斷嘗試直到得到預(yù)期結(jié)果。

這種行為嚴(yán)重威脅著學(xué)術(shù)誠信。

那么，我們?nèi)绾味冗^這個奇點(diǎn)？我們需要重新思考科學(xué)出版的本質(zhì)，并得出一些結(jié)論：

• 未來的科學(xué)出版和同行評審會是什么樣子？
• 我們?nèi)绾螒?yīng)對AI內(nèi)容的洪流？
• 我們?nèi)绾螛淞⒎e極的AI使用模式，在加快研究進(jìn)度的同時阻止不當(dāng)使用？

奇點(diǎn)二：我們?nèi)绾窝芯?/span>

與此同時，LLM也正在改變研究的實(shí)際開展方式。

首先，和AI的合作更像是與人類研究助理合作，而不是使用編程語言。這意味著，更多的研究人員無需學(xué)習(xí)專門的技能，就可以使用AI來擴(kuò)展研究的范圍。

更進(jìn)一步的，LLM還能處理人類研究助理難以完成的事情。

例如，Mollick在向Gemini Pro輸入了自己2022年之前所寫的20篇論文和著作，總計(jì)超過1000多頁的PDF文件后，模型借助強(qiáng)大的「長上下文窗口」能力，很快便提取出了直接引用并找到了所有文獻(xiàn)中的主題，同時只有幾處微小的錯誤。

此外，由于AI可以高度準(zhǔn)確地模擬人類，因此研究人員能夠更加輕易地復(fù)刻著名實(shí)驗(yàn)，如「米爾格拉姆的權(quán)力服從研究」或跨50個國家的性格測試，從而為社會科學(xué)研究帶來了更多的可能性。

更為有趣的是，在這些實(shí)驗(yàn)中，被賦予個性和目標(biāo)的AI智能體，可以在模擬環(huán)境中相互交互和學(xué)習(xí)。

比如，在模擬醫(yī)院中的模擬醫(yī)生與模擬病人互動，學(xué)會了更好地診斷疾病。

是的，在科學(xué)中使用LLM最有趣（也最具顛覆性）的方式，就是讓AI系統(tǒng)自動探索新事物。

一些早期工作表明，LLM可以在社會科學(xué)領(lǐng)域生成新假設(shè)，制定測試這些假設(shè)的計(jì)劃，然后通過模擬實(shí)際進(jìn)行測試。

甚至是從事更具挑戰(zhàn)性的實(shí)驗(yàn)：讓GPT-4訪問化學(xué)數(shù)據(jù)庫，編寫軟件控制實(shí)驗(yàn)室設(shè)備，并獨(dú)立規(guī)劃和進(jìn)行實(shí)際的化學(xué)實(shí)驗(yàn)。

自主化學(xué)研究系統(tǒng)原型

在不久的將來，AI可能真的會進(jìn)行科學(xué)研究，并以我們無法預(yù)測的方式改變研究的本質(zhì)。

為了引導(dǎo)這種變化，我們需要回答幾個問題：

• 哪些AI方法是可以接受的？哪些方法可能導(dǎo)致糟糕的科學(xué)、偏見或危險(xiǎn)的結(jié)果？
• 應(yīng)該允許自主智能體研究什么？如何在需要時對它們進(jìn)行監(jiān)控和停止？

奇點(diǎn)三：我們的研究意味著什么

研究界與公眾之間往往存在深深的隔閡。

然而，在學(xué)術(shù)界深耕了20年的Mollick相信，大量學(xué)術(shù)研究對外部世界都具有價值，這種價值甚至許多學(xué)者都沒有意識到。

AI可以幫助架起連接學(xué)術(shù)界和現(xiàn)實(shí)世界的橋梁。

比如，當(dāng)你給之前提到的「定制GPT」投喂一篇論文之后，它不僅可以解釋其中的含義并總結(jié)關(guān)鍵結(jié)果，而且還可以告訴你，為什么這篇學(xué)術(shù)論文可能也與你有關(guān)。

同樣有趣的是，AI有望幫助研究人員相互解釋工作，發(fā)現(xiàn)跨學(xué)科合作的機(jī)會，并幫助處理奇點(diǎn)一和奇點(diǎn)二所釋放的研究浪潮。

我們知道，AI可以進(jìn)行大規(guī)模文獻(xiàn)綜述并找出意想不到的工作之間的聯(lián)系，同時也能發(fā)現(xiàn)可以填補(bǔ)的錯誤和空白。

其中，能夠?qū)⒀芯咳藛T與正在進(jìn)行的研究和討論聯(lián)系起來的AI，甚至可以更進(jìn)一步地成為重啟創(chuàng)新引擎的有力工具。

但我們需要重新考慮學(xué)科之間以及學(xué)術(shù)界與公眾之間的界限，以便在這個奇點(diǎn)的另一邊找到更好的世界。

奇點(diǎn)四：我們研究什么

時至今日，我們?nèi)匀徊恢繪LM為什么能如此出色地模擬人類思維。就連創(chuàng)造它們的研究人員，也不了解它們的全部能力。

雖然關(guān)于LLM是在進(jìn)行「原創(chuàng)思維」，還是僅僅在重復(fù)訓(xùn)練中學(xué)到的內(nèi)容，仍存在著廣泛的爭議。

但從目前的研究中可以看出，LLM必將在現(xiàn)實(shí)世界中產(chǎn)生重大影響，在越來越多的實(shí)際工作中超越人類表現(xiàn)。

如果說，AI確實(shí)是一項(xiàng)「通用型技術(shù)」，是能夠影響文化、經(jīng)濟(jì)和社會大部分領(lǐng)域的創(chuàng)新之一，那么我們就需要發(fā)動更多領(lǐng)域的研究人員，全力以赴來理解其影響、塑造其發(fā)展、減輕其風(fēng)險(xiǎn)，并幫助每個人獲益。

這是一個令人振奮的時代，但如果學(xué)者們不緊緊抓住這個歷史性的時機(jī)，其他人就會去做。

我們有一個獨(dú)特的機(jī)會來應(yīng)對我們的奇點(diǎn)帶來的挑戰(zhàn)，如果我們做到了，世界將因此變得更好。