微軟推 AI 糾錯功能：不僅能抓幻覺，還能趕在使用者看到前改寫

AI 滿嘴胡話的時候，最頭疼的往往是企業。把錯誤內容直接推給使用者，輕則公關危機，重則吃官司。

很多公司之前的做法是派質檢系統去挑錯，挑出來再報警。現在微軟想往前再推一步：不僅負責挑錯，還要直接替 AI 把瞎話改過來。

微軟在 Azure AI Studio 中上線了一項名為 Correction（修正）的新功能，目前處於預覽階段。它的核心任務非常直白：在終端使用者看到 AI 回覆之前，把裡面的事實錯誤自動找出來並重寫。

趁使用者還沒看到，悄悄把錯改了

這項功能被整合在 Azure AI Studio 的安全工具套件裡，本身就是為了攔截惡意提示詞、查詢模型漏洞和幻覺而設計的。

開啟 Correction 後，系統會拿著客戶自己提供的參考文件當底稿，去逐字逐句比對 AI 即將輸出的內容。

一旦發現 AI 的回答和參考文件對不上，系統不僅會標出哪裡錯了、給出為什麼錯誤的解釋，還會在後臺悄悄重寫這段話，改完之後再展示給終端使用者。

至於底層是怎麼運作的，微軟發言人向 TechCrunch 透露，該功能同時調動了小語言模型和大語言模型，專門用來把 AI 輸出對齊到客戶的基礎文件上。

不過微軟自己也很坦白：這項技術並不意味著徹底消滅了錯誤。微軟在給 TechCrunch 的宣告中明確表示，這種接地檢測解決的不是絕對的「真實準確」，而只是讓生成式 AI 的輸出和客戶給的依據文件保持一致。

換句話說，如果用來對齊的小模型本身理解歪了，或者修改過程出現偏差，糾錯系統自己也可能跟著犯糊塗。

在同類工具裡，Google 的 Vertex AI 也在走接地路線，允許企業拿 Google 搜尋、自有資料以及即將上線的第三方資料集來校對 AI 輸出，但微軟這次強調的是直接在流水線上閉環重寫。

為什麼重要

我們認為，微軟做這件事的切入點很聰明，直擊了企業部署 AI 最怕的合規風險。

對企業和開發者來說，如果你的業務高度依賴內部制度、產品手冊或法律條文，這項功能值得立刻關注並進行小範圍測試。過去要把 RAG 系統的幻覺率壓下去，開發者得寫一大堆驗證邏輯或接入複雜的工作流，現在雲廠商直接在平臺層提供開箱即用的攔截重寫，省去了大量工程程式碼。

但這裡潛藏的隱患也很明顯。首先是延遲和成本：一個回答先生成，再由小模型和大模型雙重比對，發現不對還要重新寫一遍，整套流水線跑下來，首字響應時間和 token 消耗大機率會明顯增加。

更關鍵的是，糾錯模型也是 AI，它同樣會看走眼。它可能把原本正確的回答改錯，也可能把源文件裡的語病照單全收。

看起來，雲巨頭們在 AI 基礎設施上的較量已經從單純比拼模型跑分，全面轉向了比拼「糾錯與兜底能力」。誰能讓企業敢放心地把 AI 放到前臺接待客戶，誰才能真正把雲服務的大單握在手裡。