跳到正文
IFAI

行业动态

Sam Altman 国会听证会:主动呼吁监管,建议对尖端 AI 设许可门槛

首次发布 传播指数 56

OpenAI CEO Sam Altman 在美国参议院听证会上呼吁加强 AI 监管。他建议政府对高复杂度模型实施许可或注册制,并要求上线前进行内外部安全测试。这一表态被视为科技巨头主动介入规则制定的关键一步。

Sam Altman 国会听证会:主动呼吁监管,建议对尖端 AI 设许可门槛
图:x.com

科技巨头的高管走进国会听证会,通常是来挨骂、解释和推脱责任的。但这次 OpenAI 首席执行官 Sam Altman 坐在参议员面前,画风却完全反了过来:他主动要求政府管管自己。

这场在参议院司法小组委员会举行的听证会持续了近三个小时。一同出席作证的还有 IBM 首席隐私与信任官 Christina Montgomery,以及纽约大学教授 Gary Marcus。Altman 一开场就亮明态度,直言政府应该考虑出台新规则,来确保人工智能系统的安全性。

延期半年的 GPT-4,与三条监管药方

为了证明安全这事必须当真,Altman 在现场透露了一个细节:OpenAI 当初把 GPT-4 的发布推迟了六个多月。那半年时间里,团队一直在外部专家的协助下反复测试和打磨系统,以确保其可靠性。

面对议员们最关心的就业冲击,Altman 承认短期内 AI 会对劳动力市场带来深远影响,包括提高个人生产力、创造新岗位,但也会带来工作转型和岗位淘汰。他表示 OpenAI 正在资助关于就业市场影响的研究,希望能帮政策制定者摸清具体的时间线和冲击幅度。

至于该怎么管,Altman 给出了一套具体的监管思路。他建议美国政府针对达到一定技术复杂度门槛的高阶 AI 模型,设立许可与注册审批制度;要求开发公司在模型发布前必须完成内部和外部测试,并且公开发布评估报告。

考虑到技术迭代太快,Altman 还提出监管不能一刀切或写死,需要建立一个由多方专家参与的机制,定期动态更新安全标准。同时,他还呼吁推动建立政府间监督机制,展开全球范围的 AI 安全合作。

主动请缨背后的算盘

科技行业内部对这番表态的反应非常迅速。营销技术公司 SOCi 的首席执行官 Afif Khoury 评价说,AI 监管是迟早的事,Altman 这么做其实是先发制人,目的是确保 OpenAI 和微软能够参与制定未来的游戏规则,就像当年扎克伯格影响社交媒体监管一样。

听证会召开前的几个月里,行业对 AI 失控的担忧已经达到高潮。早些时候,曾有一大批知名科技高管和计算机科学家签署公开信,呼吁全球机构暂停研发比 GPT-4 更强大的下一代模型。

为什么重要

我们认为,Altman 这次主动进京赶考,把合规的牌打得极其漂亮,但也给后来的竞争者挖了一条很深的护城河。

从表面看,呼吁对前沿模型推行「发牌制度」和强制第三方测试,是在对公众安全负责。但这套方案实际上意味着巨大的合规成本和审批周期。对于手握微软算力和巨额融资的 OpenAI 来说,承担外部红队测试和牌照审查毫无压力;但对开源社区和初创团队而言,一旦门槛被卡死在合规资质上,创新的速度可能会被大幅拖垮。

对普通开发者和企业用户来说,这意味着短期内不要指望随便拿个开源大模型就能在关键领域自由落地,未来调用合规服务商的商业 API 大概率会变成主流合规路径。

看起来,OpenAI 已经不满足于只做技术上的领跑者,它正在通过积极配合监管,将自己塑造成规则的共同制定者。接下来各家大厂与开源阵营在合规牌照上的博弈,恐怕会比单纯卷模型跑分还要激烈。

来源 (2)

  1. [1]
    @mreflow(在新标签页打开)原文twitter.com
  2. [2]

话题追踪Sam Altman 推动 AI 监管

这个话题的历次新闻,最新的在上面。

  1. 美国 AI 监管怎么管:一文拆解华盛顿正在酝酿的规则方案
  2. OpenAI 发放 10 个 10 万美元资助:征集 AI 规则民主治理方案
  3. Sam Altman 国会听证会:主动呼吁监管,建议对尖端 AI 设许可门槛本条
  4. Sam Altman 首次国会作证:呼吁设立新机构与许可制监管 AI
  5. OpenAI 高管受访谈 GPT-4 风险:奥特曼坦言有点害怕,呼吁外界共同监管

每日 AI 内容精选