千億參數(shù)內(nèi)最強(qiáng)推理大模型，剛剛易主了。

32B——DeepSeek-R1的1/20參數(shù)量；免費(fèi)商用；且全面開源——模型權(quán)重、訓(xùn)練數(shù)據(jù)集和完整訓(xùn)練代碼，都開源了。

這就是剛剛亮相的Skywork-OR1 (Open Reasoner 1)系列模型——

通用32B尺寸（Skywork-OR1-32B）完全超越同規(guī)模阿里QwQ-32B；代碼生成媲美DeepSeek-R1，但性價(jià)比更高。

△Skywork-OR1-32B-Preview

數(shù)學(xué)推理方面：7B、32B都達(dá)到同規(guī)模最優(yōu)，數(shù)學(xué)專項(xiàng)模型（Skywork-OR1-Math-7B）表現(xiàn)更突出。

Skywork，天工是也，來(lái)自AIGC巨頭玩家昆侖萬(wàn)維。

Skywork-OR1系列模型現(xiàn)已全面開源，模型權(quán)重、訓(xùn)練數(shù)據(jù)集和完整訓(xùn)練代碼，所有資源均已上傳至GitHub和Huggingface平臺(tái)。配套的技術(shù)博客已發(fā)布于Notion平臺(tái)，詳細(xì)闡述了數(shù)據(jù)處理流程、訓(xùn)練方法和關(guān)鍵技術(shù)發(fā)現(xiàn)，為社區(qū)提供了完全可復(fù)現(xiàn)的實(shí)踐參考。

• Skywork-OR1系列開源地址：https://github.com/SkyworkAI/Skywork-OR1 （包含模型，代碼，數(shù)據(jù)）

• 昆侖萬(wàn)維天工團(tuán)隊(duì)更多開源項(xiàng)目：https://huggingface.co/Skywork

目前Skywork-OR1-7B和Skywork-OR1-32B的能力還在持續(xù)提升，在兩周內(nèi)會(huì)發(fā)布兩個(gè)模型的正式版本，同時(shí)也會(huì)推出更為系統(tǒng)詳盡的技術(shù)報(bào)告，分享推理模型訓(xùn)練中的經(jīng)驗(yàn)與洞察。

3款模型全量開源

Skywork-OR1 (Open Reasoner 1) 系列開源共有3款模型：

• Skywork-OR1-Math-7B：專注數(shù)學(xué)領(lǐng)域的專項(xiàng)模型，同時(shí)也具有較強(qiáng)的代碼能力。
• Skywork-OR1-7B-Preview：融合數(shù)學(xué)與代碼能力，兼顧通用與專業(yè)性
• Skywork-OR1-32B-Preview：面向高復(fù)雜度任務(wù)、具備更強(qiáng)推理能力的旗艦版本

團(tuán)隊(duì)對(duì)比了Skywork-OR1系列在AIME24、AIME25、LiveCodeBench上的表現(xiàn)。

AIME24/25是美國(guó)數(shù)學(xué)邀請(qǐng)賽基準(zhǔn)測(cè)試，LiveCodeBench主要評(píng)估大語(yǔ)言模型代碼生成和編程能力。

在評(píng)測(cè)方面，Skywork-OR1系列模型引入avg@k作為核心評(píng)估指標(biāo)，用于衡量模型在進(jìn)行k次嘗試時(shí)成功解決問題的平均表現(xiàn)。

傳統(tǒng)的pass@k指標(biāo)僅關(guān)注“至少一次成功”，相對(duì)而言avg@k更關(guān)注模型的穩(wěn)定性和整體推理能力，為模型實(shí)際落地提供更全面真實(shí)的參考。

在數(shù)學(xué)方面，通用模型Skywork-OR1-7B-Preview和Skywork-OR1-32B-Preview在AIME24與AIME25數(shù)據(jù)集上均實(shí)現(xiàn)了同參數(shù)規(guī)模下最優(yōu)表現(xiàn)，32B整體表現(xiàn)基本與DeepSeek-R1齊平。

編程方面，通用模型Skywork-OR1-7B-Preview與Skywork-OR1-32B-Preview在LiveCodeBench上均取得了同等參數(shù)規(guī)模下的最優(yōu)性能。

整體而言，Skywork-OR1-32B-Preview甚至與DeepSeek-R1的差距非常微小。要知道后者的參數(shù)規(guī)模是前者的20倍，這意味著Skywork-OR1能帶來(lái)更具性價(jià)比的性能表現(xiàn)。

由此綜合來(lái)看，Skywork-OR1-32B-Preview成為當(dāng)前同規(guī)模最強(qiáng)中文推理模型，也是現(xiàn)役支持免費(fèi)商用的模型中最強(qiáng)且最具性價(jià)比的成員之一。

此外，數(shù)學(xué)專項(xiàng)模型Skywork-OR1-Math-7B在AIME24/25的表現(xiàn)遠(yuǎn)超當(dāng)前主流7B級(jí)模型，甚至接近蒸餾版Deepseek-32B模型同等水平（DeepSeek-R1-Distill-Qwen-32B）。

如下為該模型在AIME24上的訓(xùn)練準(zhǔn)確率曲線。

最終模型在AIME24和AIME25上分別達(dá)到69.8%和52.3%，超越了OpenAI-o3-mini (low)，達(dá)到了當(dāng)前尺寸SOTA性能。與此同時(shí)，該專項(xiàng)模型在代碼領(lǐng)域也表現(xiàn)出了較好的泛化性（訓(xùn)練后，Livecodebench從37.6%提升到43.6%）。

△OpenAI-o3-mini(low)的AIME24分?jǐn)?shù)來(lái)自官網(wǎng)，AIME25分?jǐn)?shù)來(lái)自評(píng)測(cè)網(wǎng)站https://matharena.ai/

去年11月，昆侖萬(wàn)維發(fā)布國(guó)內(nèi)首款中文復(fù)雜推理模型Skywork-o1，Skywork-OR1系列模型正是在此基礎(chǔ)上迭代而來(lái)。

不同于簡(jiǎn)單復(fù)刻OpenAI o1模型，Skywork-o1內(nèi)生出了思考、計(jì)劃、反思等能力。它共包括三款模型Skywork-o1-Open、SI’m kywork-o1-Lite和Skywork-o1-Preview，分別適用于不同的應(yīng)用場(chǎng)景，可以滿足開源到高性能推理的多樣化需求。

Skywork-OR1系列站在Skywork-o1的肩膀上有了更強(qiáng)基座，但想要如此強(qiáng)大，也離不開一系列先進(jìn)技術(shù)加持。

背后秘訣：AGI技術(shù)洞藏，訓(xùn)練效率提升50%

Skywork-OR1在數(shù)據(jù)處理、訓(xùn)練策略等方面都做了進(jìn)一步創(chuàng)新。

首先在數(shù)據(jù)方面。

為提升模型在數(shù)學(xué)和代碼方面能力，Skywork-OR1構(gòu)建了一個(gè)高質(zhì)量數(shù)學(xué)和代碼數(shù)據(jù)集。

團(tuán)隊(duì)設(shè)計(jì)了三個(gè)標(biāo)準(zhǔn)進(jìn)行數(shù)據(jù)篩選：可驗(yàn)證性（Verifiable）、正確性（Correct）與挑戰(zhàn)性（Challenging），剔除無(wú)法自動(dòng)驗(yàn)證的證明類題目、有誤題目、和缺少unit test的代碼問題。

數(shù)學(xué)領(lǐng)域共計(jì)收集11萬(wàn)道題目，主要依賴NuminaMath-1.5（含約89.6萬(wàn)題），選用如AIME和Olympiads等較難子集，并補(bǔ)充了如DeepScaleR、Omni-MATH、AIME 1983-2023難題來(lái)源。

代碼領(lǐng)域收集了13.7k條高質(zhì)量代碼問題，主要以LeetCode和TACO數(shù)據(jù)為主，保留了單元測(cè)試完整、驗(yàn)證通過的問題，并進(jìn)行向量級(jí)語(yǔ)義去重。

在數(shù)據(jù)過濾部分，團(tuán)隊(duì)對(duì)每道題進(jìn)行了多輪采樣并驗(yàn)證答案，以避免“全對(duì)”或“全錯(cuò)”現(xiàn)象對(duì)策略學(xué)習(xí)無(wú)效——模型生成全部錯(cuò)誤，無(wú)法提供有效的學(xué)習(xí)信號(hào)；“全對(duì)”意味著模型已完全掌握，繼續(xù)學(xué)習(xí)會(huì)浪費(fèi)計(jì)算資源。

并通過人類審核結(jié)合LLM自動(dòng)判題機(jī)制，對(duì)語(yǔ)義不清、信息不全、格式錯(cuò)誤或含有無(wú)關(guān)內(nèi)容的項(xiàng)目進(jìn)行清理。使用LLM-as-a-Judge剔除掉約1-2K道質(zhì)量不達(dá)標(biāo)的數(shù)學(xué)題。

其次在強(qiáng)化學(xué)習(xí)部分，Skywork-OR1使用GRPO（Group Relative Policy Optimization）進(jìn)行訓(xùn)練，并引入一系列優(yōu)化策略。

在訓(xùn)練時(shí)數(shù)據(jù)優(yōu)化上，一方面采用雙重過濾策略：

• 離線過濾：訓(xùn)練前使用待訓(xùn)練模型評(píng)估數(shù)據(jù)，剔除正確率為0或1的樣本；
• 在線過濾：每個(gè)epoch動(dòng)態(tài)移除上一輪已完全掌握的數(shù)據(jù)，確保模型持續(xù)面對(duì)有挑戰(zhàn)性的內(nèi)容。

另一方面使用拒絕采樣（Rejection Sampling）進(jìn)行更精細(xì)的實(shí)時(shí)篩選，在每個(gè)訓(xùn)練步驟中動(dòng)態(tài)剔除當(dāng)前訓(xùn)練步中采樣正確率為0或1的樣本。這樣可以維持policy loss、entropy loss和KL loss的合理比例，防止非policy loss比重異常增加導(dǎo)致的訓(xùn)練不穩(wěn)定。

在訓(xùn)練Pipeline優(yōu)化上主要做了兩方面的探索。

（1）多階段訓(xùn)練（Multi Stage Training）：從小窗口開始，逐步增加上下文長(zhǎng)度(seq_len)，可以促使模型在有限token內(nèi)高效完成任務(wù)；隨后逐步擴(kuò)展窗口大小，迭代增加生成長(zhǎng)度，使模型逐漸掌握更復(fù)雜的長(zhǎng)鏈思維能力。實(shí)驗(yàn)證明，多階段訓(xùn)練能顯著縮短訓(xùn)練時(shí)間，同時(shí)完全保持模型的長(zhǎng)度擴(kuò)展能力。

（2）截?cái)鄡?yōu)勢(shì)掩碼（Truncated Advantage Mask）：在多階段訓(xùn)練初期，由于上下文窗口限制，復(fù)雜問題的回答可能被截?cái)唷Ｒ虼藞F(tuán)隊(duì)研究了兩種處理窗口限制下截?cái)鄻颖镜牟呗訟dv-Mask Before（計(jì)算優(yōu)勢(shì)前排除截?cái)鄻颖荆┖虯dv-Mask After（計(jì)算后將截?cái)鄻颖緝?yōu)勢(shì)置零）。證明即使不屏蔽截?cái)鄻颖荆Ｐ鸵材苡行нm應(yīng)并迅速提升性能，也證明多階段訓(xùn)練框架的魯棒性。

此外，在強(qiáng)化學(xué)習(xí)訓(xùn)練中還要保障模型的探索能力。

團(tuán)隊(duì)進(jìn)行了三方面探索。

第一，高溫度采樣。采用τ=1.0（高于常見的0.6）維持更高群組內(nèi)多樣性，既保證足夠正確樣本提供學(xué)習(xí)信號(hào)，又允許模型探索更廣泛解決路徑。

第二，提升內(nèi)在訓(xùn)練多樣性。通過精細(xì)數(shù)據(jù)過濾、增加批量大小和減少數(shù)據(jù)重復(fù)使用，可以從源頭上防止模型過早優(yōu)化到單一輸出方向，同時(shí)也保持較高熵值，避免局部最優(yōu)。

第三，自適應(yīng)熵控制。只有在熵值低于閾值時(shí)才提供熵增加鼓勵(lì)，設(shè)定目標(biāo)熵值并動(dòng)態(tài)調(diào)整損失系數(shù)，同時(shí)最小化對(duì)正常訓(xùn)練軌跡的干擾。

最后在保障強(qiáng)化學(xué)習(xí)訓(xùn)練的穩(wěn)定性，團(tuán)隊(duì)對(duì)損失函數(shù)進(jìn)行優(yōu)化。

第一，移除KL損失。研究中發(fā)現(xiàn)即使基于高質(zhì)量SFT模型訓(xùn)練，KL損失仍限制性能提升。因此，除特定階段外，團(tuán)隊(duì)在所有公開發(fā)布的Skywork-OR1系列模型中均未使用KL損失項(xiàng)，這使模型能夠更充分地探索和優(yōu)化推理能力。

第二，token級(jí)策略損失。移除了策略損失中的長(zhǎng)度歸一化項(xiàng)，并將損失在訓(xùn)練批次內(nèi)的所有token上進(jìn)行平均，以提升優(yōu)化過程的一致性與穩(wěn)定性。

（更多技術(shù)細(xì)節(jié)和實(shí)驗(yàn)對(duì)比可以參照技術(shù)博客https://capricious-hydrogen-41c.notion.site/Skywork-Open-Reaonser-Series-1d0bc9ae823a80459b46c149e4f51680，或繼續(xù)關(guān)注后續(xù)發(fā)布的技術(shù)報(bào)告。）

在此訓(xùn)練策略下，Skywork-OR1-7B和Skywork-OR1-32B-Preview通用推理模型仍處于持續(xù)提升狀態(tài)，本次開源是當(dāng)前訓(xùn)練過程中性能最佳的checkpoint。

預(yù)計(jì)兩周后，具備更全面能力提升及更強(qiáng)大推理能力的Skywork-OR1正式版本將與大家見面，同樣全面開源。

Hugging Face單月下載量超7萬(wàn)

自2023年以來(lái)，在全面擁抱AIGC后，昆侖萬(wàn)維一直堅(jiān)持開源，推動(dòng)技術(shù)平權(quán)。代表性動(dòng)作包括：

• 2023年：開源百億級(jí)大語(yǔ)言模型Skywork-13B系列及600GB高質(zhì)量數(shù)據(jù)集。
• 2024年：陸續(xù)開源數(shù)字智能體研發(fā)工具包AgentStudio、4000億參數(shù)MoE超級(jí)模型、Skywork-MoE、 Skywork-RM/PRM，Skywork-o1。

今年以來(lái)，開源的頻率變得更高。第一季度開源動(dòng)作包括：

• 面向AI短劇生成的視頻生成模型SkyReels-V1：下載量周榜前十
• R1V視覺思維鏈推理模型：?jiǎn)卧孪螺d8.75k
• Skywork-OR1新系列：長(zhǎng)思維鏈推理模型。

不難發(fā)現(xiàn)，昆侖萬(wàn)維開源全面且徹底，同時(shí)兼顧產(chǎn)業(yè)需求。

一方面，它的基礎(chǔ)模型布局非常全面，覆蓋AIGC全領(lǐng)域，文生文、文生視頻、文生音樂等。

另一方面，這些模型從底層設(shè)計(jì)上即考慮了實(shí)際落地的需求。提供更高性價(jià)比、更節(jié)省算力，如SkyReels-V1則是看到了垂直領(lǐng)域的落地前景，模型下載量迅速增長(zhǎng)也驗(yàn)證了這一市場(chǎng)需求。

最關(guān)鍵的是，這些模型的開源程度也相當(dāng)徹底，十分利于開發(fā)者使用。

在Hugging Face上，昆侖萬(wàn)維開源模型的下載量相當(dāng)可觀，累計(jì)上月下載量超過7萬(wàn)。

△部分展示

如今，底層模型競(jìng)爭(zhēng)日趨白熱化，全球AI領(lǐng)域正以驚人的速度迭代演進(jìn)，幾乎每個(gè)月都有值得關(guān)注的模型發(fā)布，這種創(chuàng)新密度前所未有。

作為國(guó)內(nèi)最早All in AIGC賽道的先行者之一，昆侖萬(wàn)維自2023年起便構(gòu)建了全方位的前沿布局：從基礎(chǔ)大模型到垂直應(yīng)用，從技術(shù)研發(fā)到生態(tài)建設(shè)。尤其值得注意的是，昆侖萬(wàn)維持續(xù)為開發(fā)者社區(qū)提供高質(zhì)量的模型和工具鏈，這種堅(jiān)持普惠的技術(shù)理念也為其提供了獨(dú)特競(jìng)爭(zhēng)力。

當(dāng)前，開源生態(tài)正展現(xiàn)出前所未有的活力。

這些開源創(chuàng)新正快速滲透到互聯(lián)網(wǎng)、制造業(yè)、醫(yī)療、教育等領(lǐng)域，推動(dòng)著AI技術(shù)真正實(shí)現(xiàn)規(guī)模化落地。在這一進(jìn)程中，以昆侖萬(wàn)維為代表的開源踐行者的每一步探索，都將深刻影響AI產(chǎn)業(yè)的發(fā)展軌跡。

據(jù)說(shuō)Skywork-OR1正式版，也已經(jīng)快馬加鞭，即將對(duì)外發(fā)布。

Skywork開源系列（2025）傳送門：

1、中文推理模型Skywork-OR1：

https://github.com/SkyworkAI/Skywork-o1

2、視覺思維鏈推理模型Skywork-R1V：

https://github.com/SkyworkAI/Skywork-R1V

3、AI短劇生成模型SkyReels-V1：

https://github.com/SkyworkAI/SkyReels-V1