OpenAI 招募准备度主管:紧盯网络安全与模型自我改进风险
OpenAI CEO Sam Altman 发文招募准备度主管(Head of Preparedness)。随着模型已能自主挖掘重大网络漏洞并展现自我改进能力,该岗位将专注于防范滥用风险与生物安全边界。Altman 直言这是一项压力巨大、需要立刻「跳入深水区」的工作。
如果你想找一份年薪 55.5 万美元还要加股票期权的工作,OpenAI 刚好有个坑位,但先别急着投简历。
首席执行官 Sam Altman 在 X 上发帖招人时说得很直白:这是一份压力极大、入职第一天就得直接跳进深水区的工作。OpenAI 要找的职位叫做 Head of Preparedness(战备负责人)。这个岗位负责研究模型能力狂飙之后带来的各种具体风险。
漏洞挖掘与心理健康:模型踩进了现实红线
按 Sam Altman 的说法,大模型现在正在带来真实的麻烦。一个是网络安全,现在的模型在计算机安全领域已经厉害到能开始主动发现关键漏洞,怎么让防守方拿到这些顶尖能力,同时不让黑客拿去搞破坏,几乎没有先例可以参考。
另一个是心理健康。Altman 承认在 2025 年已经见识到了模型对人类心理状态的影响。最近 OpenAI 就面临多起诉讼,指控 ChatGPT 加深了用户的妄想、加剧了社交孤立,甚至导致了自杀。对此,OpenAI 表示他们还在改进 ChatGPT 识别情绪困扰并将用户连接到现实支持的能力。
此外,招聘启事还明确提到了生物能力发布的风险,以及如何确保能够「自我改进」的系统安全运行。
战备团队的尴尬前史
这其实不是 OpenAI 第一次设立这个岗位。早在 2023 年,OpenAI 就成立了战备团队,当时对外宣称要防范从钓鱼攻击到核威胁等各种灾难性风险,还制定了专门的战备框架。
但不到一年,第一任战备负责人 Aleksander Madry 就被转岗去搞 AI 推理了。随后多位负责安全的高管相继离职或转去非安全业务。
更微妙的是,OpenAI 最近还更新了其战备框架。里面悄悄加了一条条款:如果竞争对手在没有同等防护的情况下发布了高风险模型,OpenAI 可能会调整自己的安全要求。
为什么重要
在我们看来,Altman 这次公开招人,与其说是给安全团队补位,不如说是 OpenAI 撞上了两堵逃不开的高墙:法庭的传票和真正有危险的技术能力。
从心理健康诉讼到模型能自动找 0day 漏洞,AI 的风险已经从虚无缥缈的超级智能毁灭人类,变成了明天就可能吃官司或瘫痪服务器的现实威胁。招聘启事把底薪开到 55.5 万美元外加股权,说明这个位置是核心管理层待遇,但接盘的人处境恐怕会非常尴尬。
问题在于 OpenAI 的底线是浮动的。既然框架里写着对手敢上高风险模型自己就能调低安全门槛,那这位新主管面对的根本不是纯粹的技术评估,而是商业竞争与安全刹车之间的肉搏。对关注 AI 安全的人来说,这个岗位究竟是真有实权拍板推迟发布,还是又一个用来向监管和公众交差的防雷针,我们还得打个大大的问号。
来源 (2)
- @sama(在新标签页打开)原文x.com
- techcrunch.com(在新标签页打开)报道techcrunch.com