跳到正文
IFAI

大模型

Thinking Machines 開源 Inkling:975B 多模態 MoE,支援調節思考強度

首次發布 傳播指數 67

Thinking Machines 開源原生多模態 MoE 模型 Inkling,總引數 975B、啟用 41B,支援 1M 上下文。最值得關注的是,它支援可控思考強度以平衡效能與延遲,並已上線 Tinker 平臺供微調。輕量版 Inkling-Small 也同步開啟預覽。

Thinking Machines 開源 Inkling:975B 多模態 MoE,支援調節思考強度
圖:thinkingmachines.ai

Thinking Machines 開源的 Inkling 是一個總引數 975B、啟用 41B 的多模態 MoE 模型,支援 1M 上下文,原生理解文本、影像和音訊。

它最實用的地方,是把思考強度做成了可調節的開關,讓你在推理速度和解題質量之間靈活權衡。

它能做什麼

Inkling 不是專門刷單一榜單的特化模型,而是一個兼顧多模態理解與 Agent 工具呼叫的底座。

在程式碼與 Agent 任務上,它可以一次性寫出包含嵌入式瀏覽器助手的 Web 應用,或者通過 40 輪程式碼審查反饋自動迭代出多人線上貪吃蛇遊戲。

它的多模態能力是原生支援的,不用外掛獨立編碼器。音訊直接轉成 dMel 頻譜圖,影像則切成 40x40 畫素的 patch,通過四層 hMLP 輕量對映後與文本 token 一同處理。

在視覺任務中,它還能在推理階段主動呼叫 Python 工具做縮放和裁剪。不過需要注意,模型目前的輸出端仍僅限文本、程式碼和結構化資料。

另一個亮點是可控思考強度。在 Terminal Bench 2.1 測試中,Inkling 跑出與 Nemotron 3 Ultra 相當的編碼成績,消耗的 token 數量只有後者的三分之一。

硬體要求與上手門檻

Inkling 的規模非常大,普通消費級顯示卡完全跑不動完整版。

官方放出的完整權重高達 1.9 TB,NVFP4 量化版也要 592 GB 視訊記憶體。社群 Unsloth 已經壓出了 GGUF 格式,極限的 1-bit 量化版體積仍有 270 GB,但極低位元壓縮會損失相當多的推理質量。

如果你只想做低成本推理或本地驗證,官方同步預覽了輕量版的 Inkling-Small。它的總引數降到 276B,啟用僅 12B,執行延遲和視訊記憶體門檻低得多,只是 Agent 編碼能力有一定縮水。

權重目前已經公開在 Hugging Face,開發者也可以直接登入 Tinker 控制台的 Inkling Playground 線上體驗對話與微調。

為什麼重要

如果你需要一個具備原生聽覺與視覺理解、同時支援深度定製的開源大底座,Inkling 值得拉進環境測一測。

但如果只看純文本和純程式碼能力,在第三方獨立榜單上,它的速度與綜合跑分不如 GLM 5.2 或早先的 DeepSeek V4。我們認為,Inkling 真正的定位不是全能冠軍,而是一個給企業用來針對私有業務做二次微調的多模態骨架。

來源 (4)

  1. [1]
    thinkingmachines.ai(在新分頁開啟)原文thinkingmachines.ai
  2. [2]
    techcrunch.com(在新分頁開啟)報導techcrunch.com
  3. [3]
    youtube.com(在新分頁開啟)報導youtube.com
  4. [4]
    theverge.com(在新分頁開啟)報導theverge.com

每日 AI 內容精選