跳到正文
IFAI

行业动态

OpenAI 政策研究员 Rosie 离职:AGI 准备团队解散后难以为继

首次发布 传播指数 47

在 OpenAI 工作三年半的政策研究员 Rosie Campbell 宣布离职。此前负责人 Miles Brundage 离职且 AGI Readiness 团队被解散,她表示在内部已看不到继续前沿安全研究的空间,计划转到外部推进 AI 治理。

OpenAI 政策研究员 Rosie 离职:AGI 准备团队解散后难以为继
图:livemint.com

OpenAI 的安全团队又走了一位老员工。这次是研究政策与安全治理将近三年半的 Rosie Campbell。

她在 2021 年年中加入 OpenAI,最初负责 API 的安全政策与流程,后来转入政策研究团队,跟着前 AGI Readiness 负责人 Miles Brundage 一起死磕 AI 治理、前沿政策以及「AGI 准备度」。

然而,随着 Miles Brundage 此前宣布离职,整个 AGI Readiness 团队也遭到了解散。Rosie 在发给内部 Slack 的告别信中坦言,她已经看不到在公司内部继续做这类研究的容身之地,因此决定离开,转向外部寻找更有效的途径。

一封写给前同事的提醒信

在 OpenAI 的三年半里,Rosie Campbell 负责的课题听起来都挺前沿,甚至有点「怪」:比如危险能力评估、数字感知、智能体系统的治理。用她的话说,当一家公司开始认真对待变革性 AI 出现的可能性时,这些看似被忽视的研究其实格外重要。

她对公司过去一年的转变感到不安,尤其是眼看着许多曾经塑造 OpenAI 文化的人接连离开。在告别信里,她给留下的人提了四点建议。

第一,别忘了使命不只是「造出 AGI」,更重要的是确保它能让全人类受益。第二,必须正视现有安全策略可能根本顶不住未来几年里更强大系统的风险。第三,即使真相再让人难堪、再难面对,也要试着把真话说出来。第四,要带着应有的庄重感行事,因为眼前在造的绝不是又一款普通的科技产品。

至于下一步,Rosie 表示自己会先休息一段时间,读书、写作,并在寻找下个去处前,找业内各方深入聊聊 AI 安全与政策的盲区。她关注的议题包括评估体系的局限性、潜在的 AI 感知与道德地位,以及人类该如何与拥有目标和偏好的智能体共存。

为什么重要

对关心 AI 安全的开发者和公众来说,这绝不仅是一个普通研究员的离职。AGI Readiness 团队的解散以及核心政策研究员的接连出走,说明在 OpenAI 内部,偏向长远、底层与治理维度的超前政策研究,正在迅速给短期商业化产品让路。

从行业影响来看,这加速了关键安全人才向外部学术界、独立智库或监管机构的回流。像 Miles Brundage 和 Rosie Campbell 这样掌握一线模型前沿数据与风险评估经验的人走向外部,也许反而能在第三方视角下推动更具公信力的外部监管,迫使各大模型厂商面对不可回避的安全标准。

我们认为,Rosie 的告别信点出了 OpenAI 甚至整个前沿 AI 圈子眼下最大的隐患:当技术研发以惊人的加速度狂奔时,原本负责给列车装刹车和信号灯的团队却在逐渐边缘化。商业利益推动着模型更快落地,但如果把变革性技术当成「普通消费级产品」来赶进度,现有的对齐与安全评估体系恐怕很快就会被更强大的系统穿透。这不仅是 OpenAI 一家的文化重塑,更是整个行业在安全治理上的危险偏航。

来源 (2)

  1. [1]
    @RosieCampbell(在新标签页打开)原文twitter.com
  2. [2]

话题追踪OpenAI 领导层危机

这个话题的历次新闻,最新的在上面。

  1. OpenAI 政策研究员 Rosie 离职:AGI 准备团队解散后难以为继本条
  2. OpenAI 联合创始人 Brockman 结束休假归队:将聚焦重大技术挑战
  3. OpenAI 再失安全领军人:研究副总裁 Lilian Weng 宣布离职
  4. OpenAI 推进营利性转型:已就重组与加州监管部门展开接洽
  5. OpenAI 完成 66 亿美元新融资:投后估值达 1570 亿美元

每日 AI 内容精选