譯者 | 劉汪洋

審校 | 重樓

大語(yǔ)言模型(LLMs)在技術(shù)發(fā)展上取得了顯著突破。OpenAI 的 o3、Google 的 Gemini 2.0和 DeepSeek 的R1展現(xiàn)出了卓越的能力：它們能處理復(fù)雜問(wèn)題、生成自然的對(duì)話內(nèi)容，甚至精確編寫代碼。業(yè)界常把這些先進(jìn)的LLMs 稱為"推理模型"，因?yàn)樗鼈冊(cè)诜治龊徒鉀Q復(fù)雜問(wèn)題時(shí)表現(xiàn)非凡。但我們需要思考一個(gè)關(guān)鍵問(wèn)題：這些模型是否真的具備推理能力，還是僅僅在規(guī)劃方面特別出色？這個(gè)差異雖然細(xì)微，卻對(duì)理解 LLMs 的本質(zhì)至關(guān)重要。

讓我們通過(guò)兩個(gè)典型場(chǎng)景來(lái)理解這種區(qū)別。一名偵探在破案時(shí)，需要整合各種矛盾的證據(jù)，識(shí)別虛假信息，并從有限線索中推導(dǎo)出合理結(jié)論。這個(gè)過(guò)程涉及推斷、矛盾處理和抽象思維。相比之下，象棋選手在計(jì)算致勝走法時(shí)，主要是在規(guī)劃最優(yōu)的行動(dòng)序列。這兩個(gè)過(guò)程都需要多步驟思考，但偵探的工作需要更深入的推理能力，要在具體案例中運(yùn)用抽象原理。而象棋選手更側(cè)重于規(guī)劃，專注于找出最優(yōu)的行動(dòng)鏈。LLMs 的工作方式，實(shí)際上更接近象棋選手而非偵探。

理解差異：推理與規(guī)劃的本質(zhì)

要理解 LLMs 為何在規(guī)劃而非推理方面表現(xiàn)出色，我們需要先明確這兩個(gè)概念的區(qū)別。推理是一個(gè)復(fù)雜的認(rèn)知過(guò)程，它通過(guò)邏輯和推斷從已知前提中得出新的結(jié)論。這包括識(shí)別和處理矛盾、生成新的見(jiàn)解而非簡(jiǎn)單重組信息、在不確定條件下做出判斷，以及理解因果關(guān)系和進(jìn)行假設(shè)性思考。

規(guī)劃則專注于構(gòu)建實(shí)現(xiàn)特定目標(biāo)的行動(dòng)序列。它依靠將復(fù)雜任務(wù)分解為可管理的步驟、應(yīng)用已知的解決方案、將學(xué)習(xí)到的模式遷移到相似問(wèn)題中，以及執(zhí)行結(jié)構(gòu)化的行動(dòng)序列。雖然這兩種能力都需要系統(tǒng)性思維，但推理要求更深層的抽象能力和推斷能力，而規(guī)劃主要是遵循既定程序，很少產(chǎn)生根本性的新認(rèn)知。

LLMs的"推理"機(jī)制

現(xiàn)代 LLMs 采用了??思維鏈(Chain of Thought, CoT)??技術(shù)來(lái)增強(qiáng)其解決問(wèn)題的能力。這種方法通過(guò)將問(wèn)題分解為多個(gè)中間步驟，模擬人類的邏輯思考過(guò)程。讓我們通過(guò)一個(gè)具體的數(shù)學(xué)問(wèn)題來(lái)分析這種機(jī)制：

如果一家商店的蘋果單價(jià) 2 美元，購(gòu)買超過(guò) 5 個(gè)時(shí)每個(gè)可優(yōu)惠 1 美元，那么購(gòu)買 7 個(gè)蘋果的總價(jià)是多少？

使用 CoT 技術(shù)的 LLM 會(huì)這樣處理：

1. 計(jì)算原始總價(jià)：7 × $2 = $14
2. 驗(yàn)證優(yōu)惠條件：7個(gè)大于5個(gè)，滿足優(yōu)惠條件
3. 計(jì)算優(yōu)惠金額：7 × $1 = $7
4. 得出最終價(jià)格：$14 - $7 = $7

這種步驟分解方法確實(shí)降低了錯(cuò)誤率，讓問(wèn)題解決過(guò)程更加可靠。但這種看似推理的過(guò)程，本質(zhì)上是一種結(jié)構(gòu)化的問(wèn)題解決方法，類似于執(zhí)行預(yù)設(shè)的流程。相比之下，真正的推理過(guò)程會(huì)直接認(rèn)識(shí)到一個(gè)普遍規(guī)律：優(yōu)惠條件滿足時(shí)，每個(gè)蘋果的實(shí)際成本就是1美元。這種直觀的推斷對(duì)人類來(lái)說(shuō)很自然，但 LLM 只能通過(guò)預(yù)設(shè)的計(jì)算步驟得出結(jié)論。

思維鏈的本質(zhì)：規(guī)劃而非推理

??思維鏈技術(shù)??雖然提升了 LLMs 在數(shù)學(xué)問(wèn)題和編程任務(wù)等領(lǐng)域的表現(xiàn)，但這并不等同于真正的邏輯推理。這是因?yàn)?CoT 主要依賴于程序性知識(shí)，遵循預(yù)設(shè)的步驟，而不是產(chǎn)生真正的新見(jiàn)解。它缺乏對(duì)因果關(guān)系和抽象概念的深入理解，這導(dǎo)致模型在處理反事實(shí)推理或需要突破訓(xùn)練數(shù)據(jù)限制的假設(shè)性場(chǎng)景時(shí)表現(xiàn)欠佳。此外，CoT 無(wú)法根本性地改變其解決問(wèn)題的方法，這限制了它在面對(duì)全新場(chǎng)景時(shí)的適應(yīng)能力。

打造真正的推理型LLMs需要什么？

要讓 LLMs 具備真正的推理能力，需要在以下關(guān)鍵領(lǐng)域取得突破：

1. 符號(hào)理解：人類通過(guò)操作抽象符號(hào)和關(guān)系進(jìn)行推理。LLMs 需要建立真正的符號(hào)推理機(jī)制，可能需要將神經(jīng)網(wǎng)絡(luò)與形式邏輯系統(tǒng)結(jié)合，形成混合模型。
2. ??因果推斷能力??：真正的推理需要理解事物之間的因果關(guān)系，而不僅僅是統(tǒng)計(jì)相關(guān)性。這要求模型能夠從數(shù)據(jù)中提煉出基本原理，而不是簡(jiǎn)單地預(yù)測(cè)下一個(gè)可能出現(xiàn)的 Token (標(biāo)記)。
3. ??自我反思??和?
4. 常識(shí)與直覺(jué)：盡管 LLMs 可以訪問(wèn)海量知識(shí)，但在基本常識(shí)推理方面仍然存在短板。這源于它們?nèi)狈π纬芍庇X(jué)的實(shí)際經(jīng)驗(yàn)，難以識(shí)別對(duì)人類來(lái)說(shuō)顯而易見(jiàn)的謬誤。改進(jìn)這一點(diǎn)可能需要整合現(xiàn)實(shí)世界感知輸入，或利用知識(shí)圖譜來(lái)幫助模型更好地理解人類的認(rèn)知方式。
5. ?

結(jié)論

雖然 LLMs 展現(xiàn)出強(qiáng)大的問(wèn)題解決能力，但它們的工作方式本質(zhì)上是依靠規(guī)劃技術(shù)，而非真正的推理。無(wú)論是解決數(shù)學(xué)問(wèn)題還是進(jìn)行邏輯分析，它們主要是以結(jié)構(gòu)化方式組織已知模式，而不是深入理解問(wèn)題的本質(zhì)原理。

認(rèn)識(shí)到規(guī)劃與推理的區(qū)別對(duì) AI 研究具有重要意義。如果我們把復(fù)雜的規(guī)劃能力誤解為真正的推理，就可能高估了 AI 系統(tǒng)的實(shí)際能力。發(fā)展真正具備推理能力的 AI 系統(tǒng)，需要在符號(hào)邏輯、因果理解和元認(rèn)知等方面實(shí)現(xiàn)突破性進(jìn)展。在此之前，LLMs 將繼續(xù)作為強(qiáng)大的結(jié)構(gòu)化問(wèn)題解決工具存在，但離真正模擬人類思維方式還有相當(dāng)距離。

譯者介紹

劉汪洋，51CTO社區(qū)編輯，昵稱：明明如月，一個(gè)擁有 5 年開(kāi)發(fā)經(jīng)驗(yàn)的某大廠高級(jí) Java 工程師。

原文標(biāo)題：??LLMs Are Not Reasoning—They’re Just Really Good at Planning??，作者：Dr. Tehseen Zia