Terminator 砍掉大模型廢話：檢測答案即截斷，推理時間減半

用過帶有思考過程的大模型的人，大概都經歷過這種崩潰瞬間：明明早在第二行就已經算出了正確答案，它偏要在後面來來回回驗算、推導、自言自語，硬生生把幾十秒的響應時間拖成兩分鐘。

這種「過度思考」不僅耗時間，燒的也全都是真金白銀的 token。

研究人員在一篇論文中提出了一個簡單粗暴的解決方案，名字就叫 Terminator。它不是電影裡的毀滅者，而是一個專門用來截斷大模型廢話的輕量級早停機制。

算出答案就拔網線

大推理模型在做複雜任務時，通常依賴思維鏈來一步步推演。但研究人員發現，模型往往很早就得出了最終答案，之後生成的絕大部分思維鏈，對最終結果幾乎沒有任何幫助。

問題在於，每道題的難易程度不同，沒人能預先寫死一個「最佳推理長度」。

Terminator 的核心思路，是去預測模型第一次得出最終答案的那個關鍵位置。研究團隊利用這些位置資料訓練了一個輕量級探針，它就像一個掛在現有模型外面的單層 Transformer 附件。

在模型生成內容的過程中，這個探針會全程在旁邊盯著。一旦它捕捉到最終答案已經浮出水面，就會直接切斷輸出，立刻結束整個生成流程。

在 Quen 3 的實際測試中，原本耗時 76 秒才能跑完的響應，裝上 Terminator 之後，13.2 秒就利落收尾了。

而在 MATH-500、AIME 2025、HumanEval 以及 GPQA 等四個基準測試集上，Terminator 將平均推理長度縮短了 14% 到 55%，推理延遲降低了超過兩倍，而且幾乎沒有造成準確率上的損耗。

為什麼重要

對開發者和經常跑複雜 Agent 的人來說，這個改動的實際價值非常直觀。

像 OpenClaw 這類自主智慧體，在多輪呼叫時最容易陷入反覆碎碎唸的死迴圈，很多時候 token 賬單就是被這些冗餘思考吹脹的。如果能在推理階段直接省掉一半的時間和 token，整個流水線的吞吐量就能翻倍。

從技術思路上看，我們認為 Terminator 走得相當討巧。它沒有去重新訓練昂貴的底座大模型，也沒有硬性壓縮提示詞，而是把「什麼時候該閉嘴」做成了一個外掛式的輕量判斷模組，即插即用。

不過目前研究團隊僅公佈了論文，程式碼依然顯示即將釋出。這種外掛探針面對更冷門或者非標準格式的輸出時，會不會誤判導致「答案還沒說完就被掐斷」，還需要等程式碼真正開源後接受實際檢驗。