Microsoft 发布 Phi-4-mini-flash-reasoning:吞吐量提升 10 倍的端侧推理模型
Microsoft 推出 38 亿参数的开源模型 Phi-4-mini-flash-reasoning。它采用融合 Mamba 与注意力机制的 SambaY 混合架构,吞吐量提升最高 10 倍,延迟降低 2 至 3 倍,支持 64K 上下文并主打端侧数学推理。目前已在 Azure AI Foundry 及 Hugging Face 上线。
Microsoft 推出 38 亿参数的开源模型 Phi-4-mini-flash-reasoning。它采用融合 Mamba 与注意力机制的 SambaY 混合架构,吞吐量提升最高 10 倍,延迟降低 2 至 3 倍,支持 64K 上下文并主打端侧数学推理。目前已在 Azure AI Foundry 及 Hugging Face 上线。