這個研究探討了大型語言模型（LLMs）在執行復雜推理任務時面臨的計算資源消耗與響應延遲問題。研究特別聚焦于思維鏈（Chain-of-Thought, CoT）提示范式的效率局限性。CoT雖然有效，但在推理過程中需要生成冗長、詳盡的逐步推理，導致計算資源利用率低下且延遲顯著增加。這與人類問題解決機制形成鮮明對比——人類傾向于通過簡潔的草圖或速記筆記捕捉核心見解，避免冗余闡述。本研究旨在通過引入更高效的推理模式，縮小AI與人類認知處理方式間的差距。

方法論

Chain of Draft (CoD) 是一種為大型語言模型（LLM）設計的創新推理策略，旨在通過生成簡潔、高信息密度的中間輸出來模擬人類認知過程。CoD方法論的核心特征包含多個維度：該方法鼓勵LLM將每個推理步驟限制在五個單詞以內，顯著提高了表達的簡潔性和處理效率；同時優先保留推進問題解決的關鍵信息，類似于人類在處理復雜任務時的要點記錄行為。

CoD將復雜的推理過程濃縮為最小化的抽象表示，常將復雜問題提煉為簡潔方程或核心概念。通過抽象化非關鍵上下文細節，CoD顯著減少了token消耗，同時保持解決方案的透明度與準確性。

盡管CoD追求簡潔，但仍然保持了逐步推理的范式，確保在復雜推理任務中能夠實現邏輯連貫的進展。研究團隊通過手動構建Chain of Draft示例用于小樣本學習，向LLM展示了所需的簡潔推理風格。值得注意的是，"每步五個單詞"的限制作為一般性指導原則而非嚴格規范，保留了實際應用中的靈活性。

實驗結果與分析

Chain of Draft (CoD)在提升計算效率的同時，在維持或超越思維鏈（CoT）提示準確性方面展現出顯著成效。實驗數據表明，與CoT相比，CoD使用的token數量減少至原來的7.6%，在保留基本推理邏輯的同時大幅降低了表達冗余度。在多種推理任務評估中，CoD實現了與CoT相當甚至更優的準確率。

token使用量的大幅減少直接轉化為計算成本降低和響應延遲縮短，使LLM在實際應用場景中的適用性顯著提升。CoD方法已在算術計算、常識推理和符號邏輯等多樣化推理任務中驗證了其有效性。這些實驗結果表明，CoD提供了一種更為高效的LLM推理方法學，有潛力從根本上改變LLM在計算效率至關重要的生產環境中的應用模式。

總結

Chain of Draft (CoD)作為一種新型方法論，針對性解決了大型語言模型（LLM）一個關鍵但常被忽視的維度：推理能力與響應延遲之間的權衡問題。該方法通過顯著降低LLM輸出中的冗余表達，有效減少了延遲并降低了計算成本，同時保持甚至提升了相較于思維鏈（CoT）等傳統方法的推理準確性。通過引導LLM生成簡潔而關鍵的推理步驟，CoD顯著降低了復雜推理任務所需的響應時間。這一創新對需要低延遲與高質量響應并存的實時應用場景尤為重要。CoD實現了與標準CoT提示策略相當或更高的準確率，成為在速度與精確度同等重要的實際應用場景中，提升LLM效率與實用性的有力解決方案。