跳到正文
IFAI

AI科研

OpenAI 推出安全研究员计划:给津贴和算力,资助外部 AI 安全研究

首次发布 传播指数 31

OpenAI 宣布推出安全研究员计划,面向外部学者资助先进 AI 系统的安全与对齐研究。入选者将获得月度津贴、算力支持及 API 额度,研究重点涵盖智能体监督与评估等。申请将于 5 月 3 日截止,不过入选者不会获得内部系统权限。

OpenAI 推出安全研究员计划:给津贴和算力,资助外部 AI 安全研究
图:openai.com

想做前沿 AI 安全研究的人,最头疼的往往不是没想法,而是既缺算力又缺行业真实环境。

大厂把模型捂得严严实实,外部学者只能隔空打拳;真要去大厂工作,又得搭上全职工作的身家性命。OpenAI 最近拿出了一个折中方案。

OpenAI 宣布启动名为 OpenAI Safety Fellowship 的试点项目,专门招募外部研究员、工程师和跨领域从业者,开展针对高级 AI 系统安全与对齐的研究。

给算力和工位,但不给碰内部系统

整个研究计划从 2026 年 9 月 14 日持续到 2027 年 2 月 5 日,大概持续小半年。

入选的研究员可以去加州伯克利的 Constellation 共享办公空间线下工作,也可以选择完全远程。

待遇方面,OpenAI 会按月发放津贴,并提供算力支持、API 额度以及 OpenAI 导师的全程指导。

不过这里有一个非常微妙的边界:OpenAI 明确写着,入选者会拿到 API 额度等资源,但不会获得内部系统访问权限。说白了,你依然只能站在门外测模型,看不到核心代码或未公开的底层架构。

研究方向划得很宽,包括安全评估、AI 伦理、系统鲁棒性、可扩展缓解方案、隐私保护安全方法,以及眼下正热的智能体监督和高危害滥用领域。

广撒网招人,但必须交出硬核成果

这次招募并没有把门槛卡死在计算机专业。

除了计算机背景,社会科学、网络安全、隐私、人机交互等领域的从业者都可以申请。官方强调,他们看重的是技术判断力、研究能力和执行力,而不是光鲜的文凭或特定资历。

申请流程需要提供推荐人联系方式。报名通道截止到 5 月 3 日,OpenAI 计划在 7 月 25 日前通知入选结果。

天下没有免费的算力,入选者必须在项目结束前交出实质性的成果,比如发一篇扎实的论文、开源一套评测基准,或者整理出一个高质量的安全数据集。

为什么重要

如果你是高校博士生、独立安全研究员或网络安全工程师,这算是一个难得的跳板。

你不用签卖身契入职,就能拿到 OpenAI 的算力补助和津贴,还能和一线研究员直接搭上线。这对于那些手里有课题、但苦于算力账单太贵的学者来说,值得去投一份简历试试。

从行业角度看,AI 安全这个圈子过去一年多流失了不少人才,机构内外对模型安全的信任度也一直在被拷问。OpenAI 用外部奖学金的形式把生态聚起来,算是一步聪明的公关和人才储备棋。

把人安置在伯克利的 Constellation 也很耐人寻味。这里是 AI 安全圈子的一个重要枢纽,OpenAI 显然想通过物理空间的接触,重新把外部安全社区拉拢在自己周围。

但问题也很明显:不给内部系统访问权限,就意味着外部研究员只能当黑盒测试员。

在很多深层对齐问题上,如果看不到权重、看不了训练过程和监控日志,很多研究其实很难触及核心。我们认为,这个计划能在安全评测和红队防滥用上凑出不少漂亮基准,但指望靠它解决更深奥的模型可解释性或底层对齐,看起来空间并不大。

来源 (1)

  1. [1]
    openai.com(在新标签页打开)原文openai.com

每日 AI 内容精选