跳到正文
IFAI

行业动态

美议员致信 OpenAI:要求新模型发布前先交政府审查

首次发布 传播指数 40

7 月,美国多位参议院民主党议员致信 OpenAI,要求其承诺将下一个基础模型在发布前交由美国政府机构测试与评估,并说明是否保证将 20% 算力投入安全研究。此前有举报人指控 OpenAI 为抢发 GPT-4 Omni 放宽安全标准,美国官方对 AI 巨头的监管明显收紧。

美议员致信 OpenAI:要求新模型发布前先交政府审查
图:cointelegraph.com

过去科技公司发布大模型,都是内部红队测完就直接向公众发布。但现在,美国国会议员打算在模型出厂前先插上一脚。

美国参议院多位民主党议员和一名独立议员联名致信 OpenAI 首席执行官 Sam Altman。根据《华盛顿邮报》率先披露的信件内容,议员们直接盯上了 OpenAI 的安全底线与用人政策。

12 道考题与「泰坦尼克」警报

这封信一共抛出了 12 个问题,其中最核心的是第 9 条。议员们直接发问:OpenAI 是否愿意承诺,在下一个基础模型正式部署前,先提交给美国政府机构进行测试、审查、分析和评估?

除了索要政府预先测试权,议员们还追问 OpenAI 目前到底拿出了多少计算资源专门用于 AI 安全研究,并要求其承诺划拨 20% 的算力用于安全保障。信中还要求 OpenAI 说明具体的防护协议,以防止恶意行为者或外国对手窃取其模型成果。

议员们的发难直接源于吹哨人的连续爆料。此前有举报指出,OpenAI 为了确保 GPT-4 Omni 能按时推向市场,涉嫌降低了安全测试标准。

吹哨人还称,员工向管理层反映安全问题时遭到了报复,甚至被迫签署疑似违法的保密协议。这促使吹哨人在 2024 年 6 月向美国证券交易委员会正式提交了投诉。

离职的前员工也在加剧外界的担忧。前员工 William Saunders 最近透露,他选择离开是因为感到公司当前的研究可能对人类生存构成威胁。他把 OpenAI 的发展轨迹比作 1912 年撞冰山的泰坦尼克号,并强调自己担忧的不是当下的产品,而是未来的高级超人类智能。

监管的阴云也让盟友选择后撤。7 月,即便微软此前向 OpenAI 累计注资 130 亿美元,微软和苹果依然因监管审查收紧而双双放弃了 OpenAI 的董事会席位。

为什么重要

对普通用户和开发者来说,这封信短期内不会影响大家调用 API 或使用 ChatGPT。但如果这种「政府预检」制度落到实处,最直接的影响就是新模型的发布节奏很可能会被大幅拉长,大家想第一时间用上下代旗舰模型可能要等更久。

对整个行业而言,这释放了一个清晰的信号:监管机构不再满足于事后追责,而是试图把手直接伸进最前沿模型的部署前流程。一旦 OpenAI 被迫妥协,Google、Anthropic 等对手很可能也会被要求执行同等标准的政府前置审查,这会从根本上改变大模型竞赛的推新节奏。

从议员的角度来看,抓住「20% 算力承诺」和「打压吹哨人」两个痛点确实非常精准,直击 OpenAI 过去几个月最受质疑的软肋。但我们认为,这种要求背后也隐藏着巨大隐患。美国政府机构目前在技术能力、测试工具和专业人才上,是否真的有能力在合理时间内评估万亿参数模型,来源并没有给出答案。如果政府缺乏足够的专业能力,这种介入看起来很可能演变成漫长的行政拖延,甚至引发技术被政治化审查的新争议。

来源 (1)

  1. [1]
    cointelegraph.com(在新标签页打开)原文cointelegraph.com

话题追踪美国联邦 AI 监管与 OpenAI

这个话题的历次新闻,最新的在上面。

  1. OpenAI 与 Anthropic 签约:新模型发布前后接受美政府安全测试
  2. OpenAI 承诺向美国 AI 安全研究所提前开放下一代模型测试
  3. OpenAI 表态支持美参议院三项法案:力挺 AI 安全研究所转正
  4. 美议员致信 OpenAI:要求新模型发布前先交政府审查本条

每日 AI 内容精选