跳到正文
IFAI

行业动态

DeepMind CEO 声援 Anthropic:赞同 AI 需降速,呼吁共建行业标准机构

首次发布 传播指数 39

Google DeepMind CEO Demis Hassabis 公开发文支持 Anthropic 放缓前沿 AI 研发的提议,称其大方向完全正确。Hassabis 借此再次呼吁建立全行业的前沿 AI 标准机构。这表明两大 AI 顶尖实验室正罕见地在安全与监管红线上达成共识。

DeepMind CEO 声援 Anthropic:赞同 AI 需降速,呼吁共建行业标准机构
图:gsmdome.com

巨头掌舵人难得步调一致

当头部 AI 实验室的竞争进入白热化,两家最顶尖机构的掌舵人却在「刹车」这件事上站到了同一边。

Anthropic 首席执行官 Dario Amodei 发表了名为《We Must Pace the Frontier》的长文,呼吁整个行业放慢前沿模型的推进节奏,并提出了一个三步走的方案。Amodei 表示 Anthropic 将单方面先行落实第一步,直接给第三方评估机构提供永久的、员工级别的系统访问权限,用来核查安全措施的执行、监督事故并评估训练中的模型对齐。

Google DeepMind 首席执行官 Demis Hassabis 随后公开表达了支持。他认为 Dario 指出了正确的方向,虽然具体细节仍需打磨,但大方向完全契合当下的关键时刻。Hassabis 同时提到,这正是 DeepMind 最近提议建立前沿 AI 全行业标准机构的原因。

为什么重要

竞争对手之间在安全议题上公开呼应,传递了一个明确信号:顶尖实验室开始意识到,单靠各家自律已经很难说服外界。

Anthropic 敢把第三方评估人员放到自家内网的核心位置,甚至给到了员工级权限,这给同业设立了一个相当高的透明度标杆。而 DeepMind 借势推动标准机构,看起来是想把这种单家公司的自律,转化成有章可循的行业规则。

我们认为,如果这套机制真能走通,未来的前沿模型发布可能会多出一道类似外部独立审计的门槛。但真正的难点在于细节,比如评估标准由谁制定、商业机密如何保护,以及其他竞争对手会不会愿意跟着一起踩刹车。

来源 (1)

  1. [1]
    @demishassabis(在新标签页打开)原文x.com

每日 AI 内容精选