前 OpenAI 超对齐主管转投 Anthropic:掌舵新安全团队
刚从 OpenAI 离职并公开批评其安全策略的核心研究员 Jan Leike 宣布加入 Anthropic,领导新的「超对齐」团队。新团队将主攻可扩展监督、弱到强泛化及自动化对齐研究。在 OpenAI 原团队解散后,Anthropic 借机进一步强化了注重安全的行业定位。

前脚刚在社交媒体上炮轰老东家把商业利益置于安全之上,后脚他就找到了新东家。
本月早些时候刚从 OpenAI 离职的 AI 安全研究员 Jan Leike 宣布加入 Anthropic。他将在这家 OpenAI 的最大对手处组建并领导一个新的超级对齐团队。
带着原班研究方向换个屋檐
Leike 在 X 上发帖透露,他在 Anthropic 的新团队将专注于 AI 安全与保障的几个核心方向。具体包括可扩展监督、弱到强泛化,以及自动化对齐研究。
据知情人士透露,Leike 在 Anthropic 将直接向首席科学官 Jared Kaplan 汇报。目前 Anthropic 内部正在从事可扩展监督技术的研究人员,后续也将划归到他的团队名下。
这套研究方向听起来是不是很耳熟。事实上,这几乎完全对应了 OpenAI 刚刚解散的超级对齐团队的核心使命。
当时 Leike 和 Ilya Sutskever 共同掌管那个团队,立下的目标是在四年内解决超级智能失控的难题。但在后来的离职声明里,Leike 直言团队在 OpenAI 内部处处受制于管理层,根本拿不到承诺的资源。
收留心碎安全派的宿命循环
有意思的是,Anthropic 本身就是一场叛逃的产物。
这家公司的首席执行官 Dario Amodei 曾是 OpenAI 的研究副总裁。当年他就是因为不满 OpenAI 日益激进的商业化转向,才带着包括政策主管 Jack Clark 在内的一批核心员工出走创办了 Anthropic。
如今 Leike 的加入,让这一幕几乎原样重演了一遍。
对于一直标榜自己更看重安全和负责任开发的 Anthropic 来说,这种接盘几乎是顺理成章的。他们既拿到了顶尖的安全研究领军人物,又再次强化了自己的品牌人设。
为什么重要
这起人事变动看起来只是顶级科学家的正常跳槽,但对 AI 行业的走向意义不小。
对于关注 AI 安全的从业者和研究员来说,这指明了一个风向。如果最顶级的研究员在 OpenAI 连对齐团队的基本资源都保不住,那么想真正做长期安全研究的人,大概率会继续向 Anthropic 聚集。
我们认为,Anthropic 这一步走得相当精明。他们几乎不费吹灰之力,就把 OpenAI 亲手拆解掉的最核心的安全招牌收入囊中,而且 Leike 汇报给首席科学官,也给了足够的层级保障。
不过隐患也同样摆在眼前。做前沿超级对齐是极其消耗算力的,Anthropic 虽然靠安全立身,但也同样背负着亚马逊等金主的商业化压力。
一旦未来算力竞争进一步白热化,Anthropic 究竟能否兑现给 Leike 的承诺,让安全团队不沦为营销花瓶,依然要看他们能不能经受住商业变现的现实考验。
来源 (1)
- techcrunch.com(在新标签页打开)原文techcrunch.com