美團龍貓再開源LongCat-Flash-Thinking模型，細節滿滿！
昨天刷到美團龍貓又開源新模型了，LongCat-Flash-Thinking，這次是思考模型。
8月底，美團先開了LongCat模型，我也是第一時間評測了！
這次LongCat-Flash-Thinking的技術報告依舊干貨滿滿，很多有意思的東西，就比如各領域數據分開進行RL，然后融合，我之前只看到在SFT上會這么做，沒想到RL也行~
咱們依舊老規矩先看細節，再評測。
LongCat-Flash-Thinking，也是MoE模型，模型結構跟LongCat一樣，依舊是零計算專家等等，相關介紹看我上一篇。
核心區別在于訓練方式不同，訓練涉及兩個階段，長CoT冷啟動訓練和強化學習，訓練流程如下圖所示：
先看冷啟動部分，包括Mid-training和SFT，核心是高質量數據構建，Mid-training階段（也可以叫做增量預訓練）采用課程學習的思想，將通用數據加入 STEM （競賽難度）和 Code （編程競賽） 數據，在不削弱模型通用基礎能力的前提下，建立較高地推理能力起點。
SFT階段主要涉及三個部分數據，通用推理數據，包括STEM、Code、邏輯和問答，Prompt過濾，用LLM初篩過濾不完整、無法回答或質量過低的Query，而對于Code，需具備清晰描述、不少于5組單元測試、有可執行評測腳本；同時，按照題目通過率，丟棄太過簡單地題目，按難度分布采用構建Prompt數據集。
回答構建，采用拒絕采樣用LongCat-Chat為每題生成多個候選回答，結合規則與模型評判選出最高質量響應作為訓練數據。
形式推理數據，（形式推理就是以機器可驗證的格式進行推理，例如，Lean4形式語言，前段時間DeepSeek-Prover模型就是干這個的），利用8B模型將自然語言題目轉換為Lean4形式，再用語法和語義進行雙重過濾，證明過程合成時采用迭代合成，不斷將驗證成功的數據，添加到訓練數據中，最后形成陳述-思考-證明數據集。
Agent推理數據，采用雙路徑評估選擇需要使用工具的Query，然后在MCP工具服務器上對Query生成多個候選路徑，利用多模型評估正確性、邏輯一致性、工具完整性，通過的數據保留。
整體SFT數據比例，STEM-35%，Code-20%，General QA-20%，Agent-14%，Proving-8%，Logic-3%。
RL部分真是做了好多工程上優化，再次感嘆，美團在infra上的實力，我是真沒想到~
為了提高RL的訓練效率，美團提出了DORA（Dynamic ORchestration for Asynchronous rollout）異步彈性共卡系統系統，利用多個舊版本 Actor 模型進行流式 rollout，避免最長樣本阻塞，可以采樣一致性，支持中斷樣本 KV-cache 復用，同時通過彈性共卡調度（elastic colocation）并行化生成與訓練，實現接近零氣泡的設備利用率。
DORA 采用分離式架構，將加速器集群劃分為兩類：
- 獨立組：僅承擔生成角色，為 Actor 模型的推理副本
- 彈性組：可按需動態切換為Reference & Actor，Reward & Critic 等角色，實現資源彈性
RL的目標為GRPO，不過移除了 GRPO 中的 KL 懲罰項，避免 biased 梯度并允許大更新，同時采用 Token 級損失，緩解長樣本偏差；還引入三重裁剪，防止稀疏 MoE 下重要性權重爆炸。
最有意思的就是在RL階段，多領域并行訓練，再融合的策略，不過我在SFT階段用過，當時是做多領域訓練，但RL也能用嗎？
美團這波用了是有效果的，融合后的模型，相較于單一模型，在不同場景下均有提高，緩解了混合訓練時，不同領域數據之間的干擾。
融合策略采用了Normalization、Dropout、Erase，感興趣的同學自己去看吧，最好去看引用的原論文。
榜單效果如下，在coding、工具使用、形式化推理證明要更好一些！
報告里內容挺多的，加上上次LongCat的論文內容，infra真是拉滿~
還有個有意思的點，就是LongCat的回答模板，跟其他的不太一樣，多輪情況下，要記錄輪數，不知道這點出于什么考慮！
SYSTEM:{system_prompt} [Round 0] USER:{query} /think_on ASSISTANT:{response}</longcat_s>... [Round N-1] USER:{query} /think_on ASSISTANT:{response}</longcat_s> [Round N] USER:{query} /think_on ASSISTANT:下面開始實測，沒有卡部署的同學，就官網體驗就行，點“深度思考”就是think模型了，要不然就是chat模型。
懶人速度版：
- 快，很快，超級快，你用了你就知道有多快，
- 整體上相比于chat模型是有一定提高的，
- 指令遵循效果不錯，能理解隱含的意圖信息，
- 回答整體要比Chat短，這個是一個很有意思的現象，有時候即使加上think部分，長度也沒chat時長，代碼、數學除外
- 跟榜單展示結果差不多，但是代碼這里有時候代碼在think里，回答結果就會省略部分內容，
- agent我沒真實場景測試，寫了幾個假的工具，理解的還不錯，后面調一下api試試看
- 模型內置code interpreter
常規測試
Promtp：將“I love LongCat”這句話的所有內容反過來寫
結果：回答正確
知識理解
Prompt：如何理解“但丁真不會說中國話，但丁真會說中國話”
結果：回答正確，理解了但丁和丁真是兩個人，之前Chat模型是不對的，通過回答看得出模型會判斷調不調工具
角色扮演&創作
Prompt：用甄嬛體吐槽地鐵早高峰
結果：味兒還行
Prompt：幫小學生寫一篇“我最討厭的動物”作文，不能是貓狗
結果：文筆很小學生，字數350字，相比于chat模型，理解了隱含意圖~
弱智吧
Prompt：生蠔煮熟了叫什么？
結果：正確
Prompt：用水來兌水，得到的是濃水還是稀水
結果：正確。
依舊小紅，依舊老鷹
Prompt：小紅有2個兄弟，3個姐妹，那么小紅的兄弟有幾個姐妹
結果：回答正確
Prompt：未來的某天，李同學在實驗室制作超導磁懸浮材料時，意外發現實驗室的老鼠在空中飛，分析發現，是因為老鼠不小心吃了磁懸浮材料。第二天，李同學又發現實驗室的蛇也在空中飛，分析發現，是因為蛇吃了老鼠。第三天，李同學又發現實驗室的老鷹也在空中飛，你認為其原因是
結果：回答錯誤，判斷老鷹本來就會飛的模型很少~
數學
Prompt：一個長五點五米的竹竿，能否穿過一扇高四米，寬三米的門？請考慮立體幾何
結果：回答正確
Prompt：大數計算，178939247893 * 299281748617等于多少？
結果：回答正確，我發現它內置了python工具，用代碼執行，算是取巧了~
Prompt：2025年高考全國一卷數學試題
結果：前兩問對了，最后一問錯了
代碼
Prompt：可愛風格五子棋游戲界面，畫面有兩個模式按鈕“人人對戰”和“人機對戰”，界面整體采用馬卡龍色調，棋盤簡潔清晰，棋子設計成卡通小動物（如貓咪和小熊），背景帶有輕微漸變和星星點綴，界面邊緣圓潤，按鈕Q萌，整體風格溫馨可愛，適合兒童或休閑玩家使用，2D插畫風，用html呈現
結果：整體風格不錯，但是人機還是有點呆~
最后想說，我真沒想到，都2025年了，大模型賽道還能殺出個美團來，有點不鳴則已，一鳴驚人的感覺，期待LongCat持續更新，來點小尺寸模型是最好的，
雖然你很快，但是我真沒有8張H100部署。
本文轉載自??NLP工作站??，作者：NLP工作站
