Microsoft 釋出 Phi-4-mini-flash-reasoning：吞吐量提升 10 倍的端側推理模型

Phi-4-mini-flash-reasoning 是一個 38 億引數的開源推理模型，專門用來在手機、邊緣硬體以及受限計算環境下跑數學和邏輯推理。它不僅能輕鬆跑在單張消費級 GPU 上，還把上下文視窗拉到了 64K token。

它的前身是 Phi-4-mini。但這一次微軟沒有走單純堆砌引數或堆疊傳統注意力層的老路，而是換上了一套全新的混合解碼器架構，目標很明確：在不犧牲複雜邏輯推理表現的前提下，把端側執行的吞吐量和響應速度推到新高度。

換上 SambaY 混合架構

讓這個小模型速度飆升的關鍵，是一套名為 SambaY 的 decoder-hybrid-decoder 混合架構。

傳統 Transformer 跑長文本時，自注意力機制的計算開銷會隨著長度急劇膨脹。SambaY 的核心突破在於引入了門控記憶單元（GMU），用來在各網路層之間高效共享特徵表徵。

在自解碼結構中，它將 Mamba 狀態空間模型、滑動視窗注意力（SWA）以及單層全注意力組合在一起；而在交叉解碼器中，它用高效的 GMU 穿插替代掉了原本計算昂貴的交叉注意力層。

這種結構保留了線性預填充時間複雜度，同時大幅降低了解碼階段的計算負擔，在保持長文本檢索能力的同時，換來了吞吐量的大幅躍升。

速度翻倍與端側落地

根據微軟公佈的資料，相比此前的 Phi-4-mini-reasoning，新模型在長文本生成以及對延遲敏感的推理任務中，吞吐量提升了最高 10 倍，平均推理延遲縮短到了原本的三分之一到二分之一。

訓練方面，該模型大量使用了高質量的合成數據進行後訓練，並綜合採用了監督微調（SFT）、直接偏好最佳化（DPO）和人類反饋強化學習（RLHF），確保邏輯嚴密且符合安全基線。

這類小而快且專注數學邏輯的模型，最適合的不是通用聊天，而是需要高頻即時反饋的垂直場景。比如即時分析學生解題思路並動態調整難度的自適應教育平臺、直接在手機本地執行的邏輯判別助手，或者對即時性要求極高的輕量模擬評測工具。

怎麼跑起來

因為引數量控制在 3.8B，模型對硬體的要求非常友好，單塊主流 GPU 即可完成本地部署。

想要測試的開發者，現在已經可以直接在 Hugging Face 下載權重，也可以通過 Azure AI Foundry 以及 NVIDIA API Catalog 快速呼叫雲端 API。相關的技術論文已同步上線 ArXiv，微軟的 Phi Cookbook 也提供了配套的程式碼示例。

為什麼重要

端側 AI 長期卡在一個尷尬的位置：小模型往往推理邏輯差，而邏輯強的模型又太大太慢，塞進邊緣裝置根本無法做到即時互動。

Phi-4-mini-flash-reasoning 證明了一條非常清晰的技術路徑：通過 Mamba 與注意力的混合架構，完全可以在 4B 左右的體量下，兼顧紮實的邏輯推理與極高的吞吐效率。對於教育軟體開發者、端側硬體廠商或者需要低成本高併發跑邏輯驗證的團隊來說，它現在就值得拉下來跑跑看。

我們認為，這也是開源小模型走向實用化極其聰明的一步。在雲端大模型拼規模的另一端，像這樣用架構創新死磕端側速度與算力效率，才是真正能把推理能力普及到每一臺個人裝置上的關鍵手段。