微軟釋出 14B 小模型 Phi-4：強化數學推理，開啟研究預覽

AI 訓練資料快被人類挖空了，大模型實驗室正被逼著自己造資料喂自己，微軟的小模型團隊剛剛交出了一張答卷。

微軟釋出了小語言模型 Phi 系列的最新成員 Phi-4。這次它把體量定在 140 億引數（14B），直接把槍口對準了 GPT-4o mini、Gemini 2.0 Flash 和 Claude 3.5 Haiku 這批以輕量和價效比見長的同級對手。

不過，普通開發者想直接玩上還得再等等。目前 Phi-4 只是有限研究預覽狀態，週四晚間僅上線了微軟剛推出的 Azure AI Foundry 開發平臺，而且受制於微軟的研究許可協議，目前只能用於科研測試。

拿合成數據死磕數學題

微軟宣稱 Phi-4 在多個領域相比前作都有提升，尤其是解決數學問題的能力有了明顯躍升。

這背後的底氣主要來自資料配方的調整。微軟表示，這次的進步歸功於高質量合成數據集，以及高質量人類生成內容的組合訓練，外加一些尚未對外公開細節的後訓練改進。

業內對合成資料和後訓練的狂熱不是沒有原因。Scale AI 執行長 Alexandr Wang 週四在社交平臺發文坦言，行業已經撞上了預訓練資料牆，印證了近幾週關於人類高質量語料即將耗盡的各種行業傳聞。當公開網際網路的優質資料被大模型吞噬殆盡，用小模型生成篩選高質量語料成了大家不得不走的路徑。

靈魂人物出走後的第一次大考

除了技術指標，Phi-4 身上還揹著不少人事關注。這是在原微軟 AI 副總裁 Sébastien Bubeck 離職後，微軟推出的第一款 Phi 系列模型。

作為打造 Phi 系列小模型的關鍵靈魂人物，Bubeck 在 10 月離開了微軟，轉投 OpenAI。外界此前一直在觀望，失去關鍵負責人的微軟小模型團隊，能不能維持原本的技術推進節奏。Phi-4 的亮相，算是在這個微妙時刻給外界的一記回應。

為什麼重要

對開發者和企業使用者來說，14B 級別的模型是兼顧本地化部署成本和推理效能的甜蜜點。如果 Phi-4 的數學和邏輯推理能力確實像官方說的那樣大幅超越前代，那在金融分析、程式碼生成和邊緣計算等場景裡，它完全有潛力替代更貴的大模型。但現實是它現在被鎖在 Azure AI Foundry 的研究許可協議裡，商用落地還得等正式版本，現階段對絕大多數人來說只能遠觀。

對整個 AI 行業而言，Phi-4 成了驗證合成數據路線的一個活標本。既然預訓練資料牆已經真真切切砸在大家眼前，光靠暴力堆網頁文本已經走不通了，靠精心構建的合成數據來拉昇特定推理能力，正在從小眾技巧變成行業標配。

我們認為，微軟這步棋走得很實際。與其跟幾千億引數的巨無霸拼通識儲備，不如在 14B 這個體量把數學和邏輯做透，為小模型打贏特定戰場立下標杆。但隱患同樣明顯，目前公佈的細節太少，連後訓練具體做了什麼都沒講透，在缺乏第三方獨立跑分的情況下，合成數據會不會帶來更隱蔽的模型幻覺，依然需要社群在拿到模型後打個問號。