#Terminator

00:07AI科研傳播指數 36

Terminator 砍掉大模型廢話：檢測答案即截斷，推理時間減半

研究人員提出大模型早停元件 Terminator。它通過輕量探針預測最終答案生成的節點並直接截斷輸出，在 MATH-500 等測試中將推理長度縮短 14% 至 55%，生成時間減半且幾乎不損耗效能。目前程式碼尚未正式開源。