跳到正文
IFAI

行业动态

三大巨头同意「发前先查」:Google、微软与 xAI 允许美政府预审新模型

首次发布 传播指数 42

周二,Google DeepMind、微软与 xAI 同意让美国商务部的人工智能标准与创新中心(CAISI)在发布前审查新 AI 模型。CAISI 将负责部署前评估,此前已完成 40 次审查。OpenAI 与 Anthropic 也已重签协议配合监管。

三大巨头同意「发前先查」:Google、微软与 xAI 允许美政府预审新模型
图:theverge.com

发新大模型之前,先给美国政府看一眼。Google DeepMind、微软以及马斯克旗下的 xAI 刚与美国商务部达成了这项共识。

审查名单扩大,前沿模型先过筛

美国商务部下属的人工智能标准与创新中心(CAISI)宣布,将与这三家公司合作展开部署前评估和专项研究,主要为了测试前沿 AI 的真实能力以及对国家安全的影响。

CAISI 并不是第一天做这件事。从 2024 年与 OpenAI 和 Anthropic 合作以来,该机构已经完成了 40 次模型审查。

据彭博社报道,OpenAI 和 Anthropic 最近还重新谈判了合作条款,好让评估重点更贴合特朗普总统的「AI 行动计划」。

监管可能还会进一步收紧。据《纽约时报》报道,白宫正考虑签署一项行政命令,把科技高管和政府官员召集到一起,专门监督新模型的发布。

为什么重要

至此,美国最核心的几家前沿大模型厂商,基本全部被纳入了政府的发布前测试体系中。

对于开发者和普通用户来说,这不会立刻改变你今天调用的 API,但它可能会让下一代前沿大模型的发布节奏变慢。尤其是在涉及网络安全、生物风险等敏感能力时,厂商不能再单方面直接推向市场。

我们认为,大厂主动配合 CAISI 是一次回防。对科技巨头来说,接受商务部的自愿评估,远比等待国会出台严苛的强制立法更可控。

但隐患依然存在。随着白宫换届和政策转向,评估标准正在向新的行政指令靠拢。当安全评估参杂了政策优先级的考量,技术审查与行政干预之间的界线就很容易变得模糊。

来源 (1)

  1. [1]
    theverge.com(在新标签页打开)原文theverge.com

每日 AI 内容精选