DeepMind CEO 声援 Anthropic:赞同 AI 需降速,呼吁共建行业标准机构
Google DeepMind CEO Demis Hassabis 公开发文支持 Anthropic 放缓前沿 AI 研发的提议,称其大方向完全正确。Hassabis 借此再次呼吁建立全行业的前沿 AI 标准机构。这表明两大 AI 顶尖实验室正罕见地在安全与监管红线上达成共识。

巨头掌舵人难得步调一致
当头部 AI 实验室的竞争进入白热化,两家最顶尖机构的掌舵人却在「刹车」这件事上站到了同一边。
Anthropic 首席执行官 Dario Amodei 发表了名为《We Must Pace the Frontier》的长文,呼吁整个行业放慢前沿模型的推进节奏,并提出了一个三步走的方案。Amodei 表示 Anthropic 将单方面先行落实第一步,直接给第三方评估机构提供永久的、员工级别的系统访问权限,用来核查安全措施的执行、监督事故并评估训练中的模型对齐。
Google DeepMind 首席执行官 Demis Hassabis 随后公开表达了支持。他认为 Dario 指出了正确的方向,虽然具体细节仍需打磨,但大方向完全契合当下的关键时刻。Hassabis 同时提到,这正是 DeepMind 最近提议建立前沿 AI 全行业标准机构的原因。
为什么重要
竞争对手之间在安全议题上公开呼应,传递了一个明确信号:顶尖实验室开始意识到,单靠各家自律已经很难说服外界。
Anthropic 敢把第三方评估人员放到自家内网的核心位置,甚至给到了员工级权限,这给同业设立了一个相当高的透明度标杆。而 DeepMind 借势推动标准机构,看起来是想把这种单家公司的自律,转化成有章可循的行业规则。
我们认为,如果这套机制真能走通,未来的前沿模型发布可能会多出一道类似外部独立审计的门槛。但真正的难点在于细节,比如评估标准由谁制定、商业机密如何保护,以及其他竞争对手会不会愿意跟着一起踩刹车。
来源 (1)
- @demishassabis(在新标签页打开)原文x.com