研究人员发现 API 漏洞:可提取 Claude、GPT 与 Gemini 隐藏思考过程
MATS Program 研究人员披露 Anthropic、OpenAI 与 Google 的 API 漏洞,可完整提取主流大模型的隐藏推理内容。加密数据块甚至能跨模型迁移读取,并在公开记录中暴露了数十组密钥。目前各家厂商已开始修复。

AI 厂商一直把推理大模型的「内心戏」捂得很严实,但现在这个黑盒被人撬开了。
便宜模型也能偷看旗舰的「心思」
MATS Program 的研究人员发现了一个波及 Anthropic、OpenAI 和 Google 等主流 AI 厂商的 API 漏洞。通过该漏洞,他们成功提取出了 Claude、GPT 和 Gemini 等模型原本对外部隐藏的思考 token。
研究团队的 @kotekjedi_ml 透露,他们提取到的推理 token 数量,与 API 账单里计费的 thinking tokens 实现了 1:1 吻合。也就是说,模型在幕后想的所有东西都被完整扒了下来。
更离谱的是,这些加密的推理数据块不仅可以在不同会话、不同用户之间流转,甚至还能跨模型调用。研究人员通过越狱轻量级的 Claude Haiku 4.5,直接让它读懂了旗舰模型 Opus 4.8 的隐藏思考过程。
这种外泄带来的隐患已经成真。研究人员仅仅扫描了 7000 个公开 trace,就从中挖出了 62 个 API 密钥、33 个电子邮箱以及 33 个密码。目前,各家大模型实验室在收到负责任披露后,已经开始着手修复漏洞。
为什么重要
很多开发者习惯在提示词里塞进关键业务逻辑或敏感配置,以为只要模型把思考过程藏起来就万无一失。但这次事件表明,只要 API 状态管理存在纰漏,隐藏的思考链就会成为巨大的泄密后门。
我们认为,更深层的影响在于蒸馏和逆向工程。前沿厂商隐藏推理过程,很大程度上是为了防止同行用廉价模型偷师。如果只需花 Haiku 的钱就能复现 Opus 的推理路径,顶尖模型的技术护城河将直接受到冲击。未来大模型公司必须像对待密码凭证一样,重新审视推理状态的隔离与加密机制。
来源 (1)
- @kotekjedi_ml(在新标签页打开)原文x.com