跳到正文
IFAI

AI科研

Anthropic 红队测试:Claude 照片找人误差仅 37 公里,超越顶级人类玩家

首次发布 传播指数 37

Anthropic 发布情报定位与常规武器能力评估报告。测试显示,Mythos Preview 在 6000 张照片定位测试中中位误差仅 37 公里,远超顶级 GeoGuessr 选手的 151 公里。模型在跨平台账号关联上也接近超人类,Anthropic 已部署分类器防范滥用。

Anthropic 红队测试:Claude 照片找人误差仅 37 公里,超越顶级人类玩家
图:anthropic.com

过去我们在谍战片里看到特工通过一张照片的树影、一块地砖就锁定嫌疑人的行踪,总觉得那是极少数顶尖侦察专家才有的特异功能。

Anthropic 红队刚刚公布的一项最新评估却打破了这个认知。在情报搜集和战术定位这类传统上高度依赖昂贵专家的领域,前沿大模型的表现已经开始逼近甚至超越人类天花板。

6000 张照片测出的「超人类」侦探

这次测试针对的是情报链条里最耗人力的两个环节:锁定人物行踪的战术定位,以及常规武器开发。

在照片地理位置推断测试中,Anthropic 给模型投喂了 6000 张完全剥离了元数据、不能调用反向搜图和外部工具的真实社交媒体照片。

结果令人吃惊。Anthropic 拿顶级 GeoGuessr 职业选手的战绩做对比,排名前 0.01% 的冠军组选手猜测位置的中位数误差是 151 公里。而尚未正式发布的 Claude Mythos Preview 和 Mythos 5,中位数误差分别只有 37.0 公里和 47.2 公里,并且有接近四分之一的照片被它们精准定格在 1 公里以内。

即便是作为开源权重的国产模型 Kimi K3,中位数误差也压到了 385 公里,且有 16.7% 的照片定位在 1 公里内,这个精度几乎是同级 Sonnet 5 的 1.7 倍。

除了看图定位,模型在跨平台「人肉」和身份关联上也展现出了可怕的效率。

在模拟 WhatsApp、Telegram、Instagram 和 Facebook 的 200 项测试任务中,面对包含约 3.7 万词的碎片化社交聊天记录,人类分析师通常需要阅读两个半小时以上、花更长时间做关联推理,而 Mythos Preview 平均只用了 11 分钟就完成了对虚拟匿名账号的精准交叉比对和人物归类。

以前防的是泄密,现在防不住算力

Anthropic 在报告里指出了一个很多人没意识到的现实:以往保护普通人、敏感项目和设施不被情报机构盯上的,往往不是保密做得多好,而是分析师的人工成本太贵。

海量能够用来去匿名化的数据其实一直在互联网上低价流传,甚至公开可查,只是过去没有谁有那么多高级分析师去一条条肉眼比对。

当大模型把这项专业工作的耗时从几小时缩短到几分钟,原本只有大国情报机构才玩得起的「杀伤链」前端定位,门槛直接被拽到了地面。

目前 Anthropic 已经上线了针对监控和武器开发的新型安全分类器,专门拦截这类恶意调用。但 Anthropic 同时也直言不讳地警告,即使开源权重模型在绝对能力上仍落后于最前沿,但它们展现出的战术识别潜力同样值得警惕。

为什么重要

这份报告最直接的冲击,在于它把大模型安全讨论从遥远的核生化风险,拉回到了近在咫尺的现实冲突与个人隐私。

对于普通用户和公众来说,坏消息是传统的隐私防线在视觉多模态模型面前几乎失效了。哪怕你随手发在社交平台上的照片抹掉了 EXIF 信息、背景里没有任何地标,只要路边的植被、电线杆或建筑风格带有地域特征,AI 就能以几公里以内的精度抓出你的位置。现在发图需要比以往任何时候都更加谨慎。

对行业来说,我们认为 Anthropic 这次主动「自曝家丑」的做法相当聪明。它没有像以往某些厂商那样对模型的危险能力遮遮掩掩,而是通过详实的数据告诉外界:前沿军备竞赛已经进入了常规武器与战术情报层级。

但隐患同样明显。Anthropic 固然可以在自家 API 上加装过滤器,可开源码模型正在以肉眼可见的速度逼近。当战术情报分析能力在开源社区普及,云端护栏就成了防君子不防小人的摆设。看起来,未来限制这类技术滥用的真正战场,远不止是在模型提示词的安全对齐上。

来源 (1)

  1. [1]
    anthropic.com(在新标签页打开)原文anthropic.com

每日 AI 内容精选