跳到正文
IFAI

大模型

Anthropic 推出 Claude Gov:专供美国国安机构,涉密任务少拒答

首次发布 传播指数 53

Anthropic 推出专为美国国家安全客户定制的 Claude Gov 模型,已部署于涉密环境。新模型针对情报分析、战略规划与网络安全等场景微调,最关键的是减少了接触敏感机密信息时的「拒答」情况,同时维持现有的安全评估标准。

图:forwardfuture.com

平时用习惯大模型的用户都知道,只要提示词里稍微沾点敏感词,AI 立刻就会弹出一句「对不起,我无法协助处理该请求」。但如果用这个模型的,恰好是需要分析机密情报的情报分析员呢?

Anthropic 正式端出了一套专为美国国家安全客户定制的 Claude Gov 模型。这套模型已经在美国最高机密级别的国家安全机构中上线部署,外界普通人是完全接触不到的。

专门给特工调校的模型,第一件事是「少拒绝」

这套模型最耐人寻味的变化,就是它不再动不动就拒答了。Anthropic 表示,针对涉密材料的处理,新模型在面对机密信息时会明显减少拒绝次数。

在日常消费级产品里,严格的拒答机制是防止滥用的安全网。但放到国家安全和防务一线,模型如果把正常的敌情评估、威胁研判当成有害内容直接弹窗罢工,那就根本没办法用。

除了松开这道闸门,Anthropic 还专门根据一线部门的反馈做了定向调优。模型在情报和国防语境下的公文理解能力更强,能看懂复杂的专业行话。

同时,它在一些对国家安全至关重要的特定语言和方言上的能力也被拉高了。面对复杂的网络安全日志和攻击数据时,也能更快提炼出情报结论,用来做威胁评估和战略规划。

为什么重要

对普通开发者和企业来说,Claude Gov 是拿不到的,但这件事情的信号很直接。它说明大模型要真正进入严肃垂直领域,一刀切的安全对齐策略就必须让位给场景化定制。

我们认为,Anthropic 这次走得非常务实。此前很多军政机构试用商业大模型时,最大的痛点就是模型太敏感、遇到敏感字样就装傻。Anthropic 愿意主动降低拒绝率,解决了工具好不好用的首要问题。

但这里的隐患也同样明显。一直以来 Anthropic 都立着最注重 AI 安全的人设,创始人甚至还在呼吁更严的监管。一旦模型对敏感信息的防线被人为调低,在涉密内网环境下如何确保它不会产生幻觉误导决策,对他们来说是个巨大考验。

对行业而言,这也宣告了前沿大模型在政务与防务高壁垒市场的争夺正式摆上台面。竞争对手们接下来也必须交出自己的涉密版本,谁能处理好安全与实用的边界,谁才能把政府这笔长期大单吃稳。

来源 (1)

  1. [1]
    anthropic.com(在新标签页打开)原文anthropic.com

每日 AI 内容精选