Vectara 推出幻覺糾正器：將企業 AI 幻覺率壓低至 0.9%

企業用大模型做業務，最怕的就是模型一本正經地胡說八道。一旦涉及金融、醫療或者法律，一句編造的數字就能惹出大麻煩。

做企業 AI 智慧體平臺的 Vectara 最近推出了一個新功能，名字很直白，就叫 Hallucination Corrector（幻覺糾錯器），直接內建在它的服務裡，專門用來攔截並修正企業大模型生成的錯誤回答。

推理模型變聰明了，但胡說八道更多了

很多人以為模型越強幻覺越少，事實可能恰恰相反。

在傳統大模型上，行業估算的平均幻覺率大概在 3% 到 10% 之間。然而最近流行的推理模型，因為要把複雜問題拆成思考步驟一步步解，幻覺率反而更嚴重了。

根據 Vectara 的測試資料，推理模型 DeepSeek-R1 的幻覺率高達 14.3%，而它的前代 DeepSeek R3 只有 3.9%。OpenAI 的 GPT-o1 幻覺率也達到了 2.4%，高於 GPT-4o 的 1.5%。《新科學家》雜誌也做過類似測試，發現推理模型的幻覺率同樣居高不下。

Vectara 創始人兼執行長 Amr Awadallah 直言，雖然大模型在解決幻覺上進步很大，但在金融、醫療、法律這些強監管行業裡，準確度依然遠遠達不到要求。

發現錯誤，再做最小改動修掉它

根據 Vectara 公佈的早期測試資料，這個糾錯器能把企業 AI 系統的幻覺率一路壓到 0.9% 左右。

它的底層依賴 Vectara 自家的評估模型 HHEM（Hughes Hallucination Evaluation Model）。這個模型會在執行時把 AI 的回答和源文件逐句比對，給出一個 0 到 1 之間的準確度評分。比如 0.98 就代表有 98% 的機率真實可靠。上個月，HHEM 在 Hugging Face 上的下載量超過了 25 萬次。

一旦檢測到回答和事實不符，糾錯器不僅會指出哪裡錯了、為什麼算幻覺，還會以最小改動為原則生成一份修正版內容。

對普通使用者，系統可以直接把修正後的摘要發出去；對技術人員，後臺則保留了完整的錯誤說明和修改建議，用來除錯模型提示詞或安全護欄。如果答案只是含糊、有誤導性但沒全錯，系統也能根據企業設定的閾值進行潤色，降低不確定性。

為什麼重要

這套工具解決的是企業落地生成式 AI 時最頭疼的問責問題。對企業開發者來說，如果你的應用需要查閱企業內部知識庫給客戶或員工答覆，直接整合這種校驗層，比單純靠 Prompt 約束要穩妥得多。

我們認為 Vectara 這步走得很務實。它沒有去碰訓練更強基座模型這種費錢的事，而是把精力放在了企業真正願意買單的合規與質控環節。尤其是在推理模型為了湊出思考鏈而頻繁腦補細節的當下，這種即時糾錯機制正好切中了痛點。

不過，把幻覺率壓到 0.9% 依然不等於零錯誤。對於醫療處方或合規審計這種容錯率為零的場景，0.9% 的偶發錯誤依然需要人工複核兜底。而且在執行時做全文比對和二次修正，必然會增加響應延遲和算力成本，企業在使用時必須在準確度和響應速度之間做好權衡。