IBM 開源 Granite 3.2：帶「思考開關」的推理模型與 2B 視覺模型

IBM 開源的 Granite 3.2 是一套面向企業實用場景的小尺寸模型家族，主打兩樣東西：一個能隨時開關「思考過程」的推理小模型，以及一個專門幫你啃報表和 PDF 的 2B 視覺模型。整個系列繼續採用極其寬鬆的 Apache 2.0 協議，模型權重已經在 Hugging Face 上線，也可以直接在 Ollama、LM Studio 或者 IBM watsonx.ai 裡跑起來。

它能做什麼：給推理鏈裝上開關

這次更新的核心是兩個純文本指令模型：Granite 3.2 Instruct 2B 和 8B。它們都學會了類似人類拆解問題的思維鏈推理，但最聰明的地方在於，IBM 給這個推理過程做了一個「物理開關」。

現在很多推理模型最大的痛點就是慢和貴。IBM 舉了個例子：DeepSeek-R1 在回答「羅馬在哪」這種常識問題時，花了整整 50.9 秒去反覆推導。這種過度思考不僅拖慢速度，還在白白燒 token 算力。

在 Granite 3.2 裡，開發者呼叫 API 時只需加上 thinking:true 或者 thinking:false 引數，就能決定模型是深思熟慮還是快速作答。需要攻克複雜邏輯時開啟思考模式，日常簡單問答則直接輸出，把算力控制權完全交還給開發者。

在技術路線上，IBM 也沒有照搬業界主流的邏輯獎勵強化學習，而是採用思維偏好最佳化（TPO）框架。這種做法讓模型在提升邏輯推理的同時，不會丟失原本的通用指令遵循能力和安全性。在數學基準測試中，8B 模型結合推理擴充套件技術後，表現甚至能對標 GPT-4o 和 Claude 3.5 Sonnet 等龐然大物。而且模型完全沒有使用 DeepSeek 生成的資料進行蒸餾，對合規要求極高的企業來說省了不少法律顧慮。

專啃報表的 2B 視覺模型

除了文本推理，這次同臺亮相的還有 Granite Vision 3.2 2B。雖然引數量只有 20 億，但它不是用來做日常圖片聊天的，而是專門對準企業裡的掃描件、圖表、流程圖和複雜排版文件。

傳統的文件理解要麼依賴外部 OCR，容易一步錯步步錯；要麼用大尺寸多模態模型，成本又居高不下。IBM 利用自家的 Docling 工具處理了 8500 萬份 PDF，生成了 2600 萬個合成問答對來訓練它。這讓它在 DocVQA 和 ChartQA 這類文件評測中，能夠叫板尺寸大得多的開源模型。

安全方面，IBM 放棄了外掛安全審查模型的笨重做法，而是直接分析視覺模型內部的注意力向量，內建了風險識別機制。此外，系列中還更新了體積縮小 30% 的安全防護模型 Granite Guardian 3.2，以及引數量不到 1000 萬、專門做長週期趨勢預測的 TinyTimeMixers 模型。

為什麼重要

如果你是獨立開發者或企業團隊，正在尋找一個能低成本私有化部署、又不會在簡單任務上亂耗算力的推理模型，Granite 3.2 是個極具價效比的選擇。2B 和 8B 的尺寸讓普通消費級顯示卡甚至高配輕薄本就能本地跑起來，Apache 2.0 協議也徹底放開了商業改造的顧慮。

相比追求極致跑分的大模型，IBM 這次走了一條非常務實的工程路線。給推理過程加開關、專注搞定文件理解，直擊企業日常開發中最真實的成本和落地痛點。雖然在極難程式碼或前沿競賽題上它依然趕不上頂級閉源模型，但放在企業內網處理報告、跑自動化流程，這種小巧好用的工具才是多數團隊真正需要的。