微軟釋出 Orca 2：教小模型按策略推理，表現媲美 10 倍大模型

Microsoft 釋出了小語言模型 Orca 2，並把模型權重公開在了網上。這是一個專門探索如何讓小模型具備強大推理能力的研究專案。

在很多複雜的零樣本推理任務上，它的表現不僅遠超同體量模型，甚至追平或超越了體積比自己大 5 到 10 倍的大模型。

不做大模型的盲目復讀機

以往訓練小模型，社群最常用的套路是模仿學習，也就是讓大模型生成一堆答案，再逼著小模型把輸出格式生搬硬套下來。

但微軟的研究團隊認為，過度沉迷於模仿反倒限制了小模型的潛力。

大模型因為引數量足夠大，面對複雜問題往往可以直接給出答案。而引數量有限的小模型要是硬學這種直接作答，往往只會胡說八道。

Orca 2 的核心突破，是教會了小模型根據任務靈活選擇不同的解題策略。

它可以一步步分步推導，也可以先檢索回憶再生成內容，或者在簡單問題上直接給出答案。最關鍵的一點在於，它學會了針對不同場景自主判斷哪種策略最有效。

評測表現與開源細節

為了檢驗這種訓練方式的效果，團隊用了 15 個不同的基準測試集，涵蓋大約 100 項具體任務和超過 36000 個獨特提示詞。

測試結果顯示，在測試高階推理能力的複雜零樣本場景中，Orca 2 不僅大幅領先同尺寸的競品，還達到了 5 到 10 倍引數量模型的水平。

目前微軟已經公開了 Orca 2 的權重，供研究人員探索小模型的開發、評估與對齊技術。

為什麼重要

對於關注端側執行和成本控制的開發者來說，Orca 2 提供了一條不用盲目堆引數也能提升智商的新思路。如果你正在尋找能在有限算力下跑出紮實推理能力的輕量模型，很值得把它的權重拿來做評測與微調。

我們認為微軟這項研究最聰明的地方，在於放下了對大模型輸出表象的盲目執念，轉而從小模型的生理極限出發去設計解題路徑。這種策略路由的思路，大機率會成為後續輕量化模型訓練的標準解法。