跳到正文
IFAI

AI工具

Meta 紧急叫停 Muse 分享功能:设计缺陷致 6800 条私密对话泄露

首次发布 传播指数 43

Meta 宣布暂停新 AI 智能体 Muse 的对话分享功能。此前安全机构 Claroc 发现,因 Muse 将对话标题嵌入子域名,仅凭一次被动 DNS 查询就能搜出 6800 个分享链接,高管求职、商业营收及贷款等敏感数据全被曝光。讽刺的是,扎克伯格上月才宣称其专为隐私安全打造。

Meta 紧急叫停 Muse 分享功能:设计缺陷致 6800 条私密对话泄露
图:arstechnica.com

如果你用 AI 整理过内部财报、发过贷款申请草稿,甚至只是列过猎头面试提纲,你大概率觉得只要不主动发给外人,这些内容就只有自己看得到。

Meta 刚推出的通用 AI 智能体 Muse 也是这么想的。上个月 Meta 首席执行官 Mark Zuckerberg 还信誓旦旦地说,Muse 是一款从底层就为隐私和安全打造的产品。

结果安全公司 Claroc 周一扔出了一份调查报告。研究人员只用了一次简单的查询,就翻出了 6800 个公开的 Muse 对话分享链接,里面全是一览无遗的商业机密和个人隐私。

Ars Technica 拿着报告找上门后,Meta 紧急叫停了 Muse 的分享功能,表示正在复核并考虑修改方案。

一次查询,6800 条机密被翻了个底朝天

大多数 AI 工具都有对话分享功能,通常做法是生成一串谁也猜不到的长字符链接。只要你不把链接发在公开群里,别人很难撞库搜到。

但 Muse 的产品设计犯了一个低级错误。它把用户生成的对话标题,直接做成了子域名。

问题在于,互联网上有专门收集域名解析历史的商业被动 DNS 数据库。只要有人点开过一次这个链接,解析记录就会被传感器抓取并存入公开数据库。

Claroc 的研究人员表示,他们原本以为收集这些泄露链接需要花很大力气,结果只需要做一次被动 DNS 查询,所有用过分享功能的子域名就全被揪出来了。

研究人员随便点开了几百个链接,看到的场景堪称灾难现场。

里面有一份候选人准备去前沿 AI 实验室参加高管面试的备忘录,直接写明了实验室内部联系人和开会时间;还有一份标明给 CEO 专属的全国性营销公司内部营收复盘。

个人财务也没能幸免。一名小企业主的贷款申请金额直接暴露,有人甚至把带有部分银行账号、交易时间和金额的欺诈警报待办单存在里面。

除此之外,还有写明了两处房产具体地址、真实回报率和房贷数字的地产投资报告,以及一份列出了几十名员工整年休假时间的内部排班表。

Claroc 联合创始人兼首席技术官 Asaf Aprozper 透露,他早在 10 月 8 日就通过 Meta 的漏洞赏金计划提交了报告,甚至在 LinkedIn 上私信了 Meta 员工,但一直石沉大海,直到媒体介入 Meta 才有了动作。

为什么重要

我们认为,这件事最可怕的地方不在于链接泄露,而在于大众对 AI 智能体无意识的信任暴露。

很多用户在用 Muse 这种智能体时,往往把它当成全能助理,恨不得把最敏感的财务、人事和业务底牌全交过去。如果你现在还在用各种 AI 产品的分享链接,最好立刻停止分享任何涉密对话,甚至回查一下自己之前生成过的链接。

从技术实现来看,Meta 犯的这个错误聪明反被聪明误。为了让分享出来的网址好看、易读,把对话标题塞进子域名的做法在很多年前就被安全圈警告过,但在 Meta 这么庞大的团队里,这项基础安全常识居然在上线前彻底失守了。

更让人难以接受的是它的沟通态度。安全研究员通过官方赏金通道和内部渠道提醒了近两周没人理会,非要等媒体把曝光文章怼到脸上才紧急关停功能。这种安全响应流程,完全配不上所谓从底层打造的隐私安全承诺。

这件事给整个行业提了个醒。大模型服务商现在都在拼智能体、拼多模态,但底层的 Web 架构和基础安全防护一旦漏风,再前沿的智能也会瞬间变成用户的泄密放大器。

来源 (1)

  1. [1]
    arstechnica.com(在新标签页打开)原文arstechnica.com

每日 AI 内容精选