這個(gè)研究探討了大型語(yǔ)言模型（LLMs）在執(zhí)行復(fù)雜推理任務(wù)時(shí)面臨的計(jì)算資源消耗與響應(yīng)延遲問(wèn)題。研究特別聚焦于思維鏈（Chain-of-Thought, CoT）提示范式的效率局限性。CoT雖然有效，但在推理過(guò)程中需要生成冗長(zhǎng)、詳盡的逐步推理，導(dǎo)致計(jì)算資源利用率低下且延遲顯著增加。這與人類問(wèn)題解決機(jī)制形成鮮明對(duì)比——人類傾向于通過(guò)簡(jiǎn)潔的草圖或速記筆記捕捉核心見(jiàn)解，避免冗余闡述。本研究旨在通過(guò)引入更高效的推理模式，縮小AI與人類認(rèn)知處理方式間的差距。

方法論

Chain of Draft (CoD) 是一種為大型語(yǔ)言模型（LLM）設(shè)計(jì)的創(chuàng)新推理策略，旨在通過(guò)生成簡(jiǎn)潔、高信息密度的中間輸出來(lái)模擬人類認(rèn)知過(guò)程。CoD方法論的核心特征包含多個(gè)維度：該方法鼓勵(lì)LLM將每個(gè)推理步驟限制在五個(gè)單詞以內(nèi)，顯著提高了表達(dá)的簡(jiǎn)潔性和處理效率；同時(shí)優(yōu)先保留推進(jìn)問(wèn)題解決的關(guān)鍵信息，類似于人類在處理復(fù)雜任務(wù)時(shí)的要點(diǎn)記錄行為。

CoD將復(fù)雜的推理過(guò)程濃縮為最小化的抽象表示，常將復(fù)雜問(wèn)題提煉為簡(jiǎn)潔方程或核心概念。通過(guò)抽象化非關(guān)鍵上下文細(xì)節(jié)，CoD顯著減少了token消耗，同時(shí)保持解決方案的透明度與準(zhǔn)確性。

盡管CoD追求簡(jiǎn)潔，但仍然保持了逐步推理的范式，確保在復(fù)雜推理任務(wù)中能夠?qū)崿F(xiàn)邏輯連貫的進(jìn)展。研究團(tuán)隊(duì)通過(guò)手動(dòng)構(gòu)建Chain of Draft示例用于小樣本學(xué)習(xí)，向LLM展示了所需的簡(jiǎn)潔推理風(fēng)格。值得注意的是，"每步五個(gè)單詞"的限制作為一般性指導(dǎo)原則而非嚴(yán)格規(guī)范，保留了實(shí)際應(yīng)用中的靈活性。

實(shí)驗(yàn)結(jié)果與分析

Chain of Draft (CoD)在提升計(jì)算效率的同時(shí)，在維持或超越思維鏈（CoT）提示準(zhǔn)確性方面展現(xiàn)出顯著成效。實(shí)驗(yàn)數(shù)據(jù)表明，與CoT相比，CoD使用的token數(shù)量減少至原來(lái)的7.6%，在保留基本推理邏輯的同時(shí)大幅降低了表達(dá)冗余度。在多種推理任務(wù)評(píng)估中，CoD實(shí)現(xiàn)了與CoT相當(dāng)甚至更優(yōu)的準(zhǔn)確率。

token使用量的大幅減少直接轉(zhuǎn)化為計(jì)算成本降低和響應(yīng)延遲縮短，使LLM在實(shí)際應(yīng)用場(chǎng)景中的適用性顯著提升。CoD方法已在算術(shù)計(jì)算、常識(shí)推理和符號(hào)邏輯等多樣化推理任務(wù)中驗(yàn)證了其有效性。這些實(shí)驗(yàn)結(jié)果表明，CoD提供了一種更為高效的LLM推理方法學(xué)，有潛力從根本上改變LLM在計(jì)算效率至關(guān)重要的生產(chǎn)環(huán)境中的應(yīng)用模式。

總結(jié)

Chain of Draft (CoD)作為一種新型方法論，針對(duì)性解決了大型語(yǔ)言模型（LLM）一個(gè)關(guān)鍵但常被忽視的維度：推理能力與響應(yīng)延遲之間的權(quán)衡問(wèn)題。該方法通過(guò)顯著降低LLM輸出中的冗余表達(dá)，有效減少了延遲并降低了計(jì)算成本，同時(shí)保持甚至提升了相較于思維鏈（CoT）等傳統(tǒng)方法的推理準(zhǔn)確性。通過(guò)引導(dǎo)LLM生成簡(jiǎn)潔而關(guān)鍵的推理步驟，CoD顯著降低了復(fù)雜推理任務(wù)所需的響應(yīng)時(shí)間。這一創(chuàng)新對(duì)需要低延遲與高質(zhì)量響應(yīng)并存的實(shí)時(shí)應(yīng)用場(chǎng)景尤為重要。CoD實(shí)現(xiàn)了與標(biāo)準(zhǔn)CoT提示策略相當(dāng)或更高的準(zhǔn)確率，成為在速度與精確度同等重要的實(shí)際應(yīng)用場(chǎng)景中，提升LLM效率與實(shí)用性的有力解決方案。