研究人員發現 API 漏洞:可提取 Claude、GPT 與 Gemini 隱藏思考過程
MATS Program 研究人員披露 Anthropic、OpenAI 與 Google 的 API 漏洞,可完整提取主流大模型的隱藏推理內容。加密資料塊甚至能跨模型遷移讀取,並在公開記錄中暴露了數十組金鑰。目前各家廠商已開始修復。

AI 廠商一直把推理大模型的「內心戲」捂得很嚴實,但現在這個黑盒被人撬開了。
便宜模型也能偷看旗艦的「心思」
MATS Program 的研究人員發現了一個波及 Anthropic、OpenAI 和 Google 等主流 AI 廠商的 API 漏洞。通過該漏洞,他們成功提取出了 Claude、GPT 和 Gemini 等模型原本對外部隱藏的思考 token。
研究團隊的 @kotekjedi_ml 透露,他們提取到的推理 token 數量,與 API 賬單裡計費的 thinking tokens 實現了 1:1 吻合。也就是說,模型在幕後想的所有東西都被完整扒了下來。
更離譜的是,這些加密的推理資料塊不僅可以在不同會話、不同使用者之間流轉,甚至還能跨模型呼叫。研究人員通過越獄輕量級的 Claude Haiku 4.5,直接讓它讀懂了旗艦模型 Opus 4.8 的隱藏思考過程。
這種外洩帶來的隱患已經成真。研究人員僅僅掃描了 7000 個公開 trace,就從中挖出了 62 個 API 金鑰、33 個電子郵箱以及 33 個密碼。目前,各家大模型實驗室在收到負責任披露後,已經開始著手修復漏洞。
為什麼重要
很多開發者習慣在提示詞裡塞進關鍵業務邏輯或敏感配置,以為只要模型把思考過程藏起來就萬無一失。但這次事件表明,只要 API 狀態管理存在紕漏,隱藏的思考鏈就會成為巨大的洩密後門。
我們認為,更深層的影響在於蒸餾和逆向工程。前沿廠商隱藏推理過程,很大程度上是為了防止同行用廉價模型偷師。如果只需花 Haiku 的錢就能復現 Opus 的推理路徑,頂尖模型的技術護城河將直接受到衝擊。未來大模型公司必須像對待密碼憑證一樣,重新審視推理狀態的隔離與加密機制。
來源 (1)
- @kotekjedi_ml(在新分頁開啟)原文x.com