跳到正文
IFAI

行业动态

英政府获优先权:OpenAI、DeepMind 开放模型用于安全评估

首次发布 传播指数 40

英国首相苏纳克在伦敦科技周宣布,Google DeepMind、OpenAI 和 Anthropic 已同意向英国政府开放其 AI 模型用于安全评估。官方借此摸清系统风险,并出资 1 亿英镑设立基础模型任务组,不过具体监管细则尚未公布。

英政府获优先权:OpenAI、DeepMind 开放模型用于安全评估
图:politico.eu

过去这半年,各大 AI 巨头都在把自家最先进的基础模型当成最高商业机密,外界连调个参数都得通过 API 排队。但现在,英国政府拿到了可以直接看底牌的钥匙。

在伦敦科技周上,英国首相 Rishi Sunak 宣布,Google DeepMind、OpenAI 和 Anthropic 三家公司已经同意向英国政府开放各自的 AI 模型,专门用于研究和安全评估。

Sunak 明确表示,英国政府拿到的将是优先访问权,目的是协助构建更好的评估体系,摸清前沿 AI 系统的机遇与潜在风险。

先给政府看底牌,英国要做监管大本营

这番动作背后,是英国在 AI 领域极具野心的站位。Sunak 强调,英国不仅想做全球 AI 安全监管的思想家园,还要成为地理上的大本营。

为此,英国政府计划在秋季主办一场全球 AI 安全峰会。在 Sunak 眼里,这场峰会的定位就像是 AI 领域的联合国气候变化大会。

光口头吆喝不够,英国政府还拿出了真金白银。他们设立了一个由 1 亿英镑资金支持的基础模型工作组,专门研究 AI 安全和保障技术。

其实在 3 月份,英国刚发布了一份主打亲创新的 AI 白皮书。但随着模型能力狂飙,Sunak 最近明显加快了收紧护栏的节奏,希望在安全和投资吸引力之间找到平衡。

产业资本也确实在往伦敦扎堆。Anthropic 和 OpenAI 最近都把欧洲总部设在英国,Palantir 也在上周宣布将在英国建立 AI 研究中心。

为什么重要

这标志着全球 AI 监管正从被动的事后问责,转向主动的事前评估。过去监管机构只能盯着公开产品干着急,现在直接要求巨头交出模型访问权做体检。

对开发团队和普通用户来说,短期内可能看不到直接改变,但这套安全评测标准一旦建立,很可能会反哺成为行业通用的合规门槛,甚至影响未来大模型上线前的测试流程。

我们认为,Sunak 这一手走得很聪明。英国既没有欧盟那种直接祭出严苛法案的强硬,也没有美国两党拉扯的拖沓,而是用相对敏捷的姿态把全球头部玩家拉到自己的主场,用合作测试换取行业话语权。

但这里的隐患也很明显。所谓开放模型到底开放到什么深度,是只开放未经过滤的底层接口,还是能看到训练数据与架构细节,目前并没有明确的法律强制细则。如果只停留在浅层测试,这场看似先锋的监管合作,最终很可能沦为巨头们背书安全形象的一场公关秀。

来源 (1)

  1. [1]
    politico.eu(在新标签页打开)原文politico.eu

每日 AI 内容精选