Anthropic 出资征集新 AI 评测基准：重点盯防网络攻击与欺骗风险

现在的 AI 跑分，越来越像在应试刷题。

大模型在各种老牌基准测试里分数刷得飞起，可一旦放到现实场景中，不仅普通人常用的功能测不出来，大家也越来越怀疑：几年前设计的考题，真的还能测出今天的生成式 AI 吗？

Anthropic 决定自掏腰包改变这个局面。这家 Claude 背后的公司宣布启动一项资助计划，专门出钱支持第三方机构开发新一代 AI 评测基准，重点考核高级模型的能力与社会影响。

别只测做题，测测它会不会搞网络攻击

按照 Anthropic 在官方博客里的说法，高质量且关乎安全的评测工具太难做，目前整个行业处于严重的供不应求状态。

他们想资助的评测非常硬核。除了让 AI 辅助科学研究、多语言对话、消除偏见和过滤有害内容这些端到端任务外，Anthropic 特别点名了几类高危场景：发起网络攻击、增强核武器等大规模杀伤性武器的能力，以及通过深度伪造和假消息来操纵、欺骗人类。

针对国防与国家安全风险，Anthropic 还表示要推动研发一种早期预警系统，不过目前还没公开这个系统具体长什么样。

为了把这套标准落到实处，Anthropic 计划搭建新平台，让各个垂直领域的专家自己去开发评估方案，甚至组织数千名真实用户参与大规模试验。

他们不仅专门招募了一名全职协调员，还表示只要项目有扩展潜力，未来不排除直接采购或进一步扩建。入选的团队除了能拿到不同形式的资金支持，还能直接跟 Anthropic 前沿红队、模型微调以及信任与安全团队的专家交流。

既当选手，又出钱造尺子？

虽然给行业基础建设投钱是好事，但 Anthropic 本身也是这场大模型商业军备竞赛里的头部选手，这种身份难免引来业内的审视。

首先是评测标准的制定权。Anthropic 很坦白地承认，受资助的评测需要与他们自己制定的 AI 安全分级标准保持一致。哪怕这套分级有非营利研究机构 METR 的参与，也意味着拿到钱的第三方可能必须被动接受 Anthropic 对安全与风险的定义。

另一个分歧点在于他们对灾难性风险的执念。

业内不少专家对此并不买账。许多研究者指出，目前几乎没有任何确凿证据表明现阶段的 AI 有能力毁灭世界或搞核打击，动不动拿超级智能的末日威胁说事，反而转移了监管层对眼下更迫切问题的注意力，比如模型的严重幻觉和数据偏见。

为什么重要

我们认为，Anthropic 这一步走得极其精明，甚至比单投几千万美元做安全公关管用得多。

现有的各类通用跑分榜单早就失去了区分度，模型厂商陷入了在旧考卷里互卷小数点的泥潭。Anthropic 借着资助第三方的名义，实际上是在抢夺下一代 AI 评测标准的话语权。一旦这套涵盖网络安全、国防风险的安全指标成为行业标配，就等于把所有竞争对手拉进了自己最擅长、也最先定义的赛道里。

对开发者和安全研究人员来说，这确实是个好机会。高质量的安全测试往往耗资巨大且缺乏变现路径，能拿到头部厂商的资金和红队专家支持，哪怕带着某些框架限制，也是眼下难得的实打实资源。

但这里的隐患也显而易见。独立评测机构的核心价值是中立与公信力，而 Anthropic 归根结底是一家受商业利益和股东驱动的公司。当未来的考题由参赛选手出资定制，评测界是否还能保持真正的客观，恐怕要打上一个大大的问号。