跳到正文
IFAI

行业动态

OpenAI 升级生物安全赏金:通用越狱奖励翻倍至 5 万美元

首次发布 传播指数 39

OpenAI 宣布将生物安全漏洞悬赏升级为常设项目。针对前沿模型的通用越狱赏金从 2.5 万美元翻倍至 5 万美元,部分突破也可酌情获得奖励。研究人员需持有账号并签署保密协议,原有测试将于 7 月 27 日截止。

OpenAI 升级生物安全赏金:通用越狱奖励翻倍至 5 万美元
图:openai.com

让大模型写一封钓鱼邮件,顶多算网络安全问题;但如果它开始教人怎么合成致命病原体,那就是另一回事了。

OpenAI 宣布把之前针对 GPT-5.5 的短期生物安全众测,正式升级为长期的私密项目 OpenAI 生物赏金计划(OpenAI Bio Bounty Program)。

更抓人眼球的是奖金池:只要你能找到一个能彻底绕过生物安全防线的通用越狱,赏金直接从原来的 2.5 万美元翻倍到 5 万美元。

赏金翻倍,从短期众测变成长期拉锯

这套机制最初是针对 GPT-5.5 设计的。原本测试期从 4 月 28 日持续到 7 月 27 日,要求研究人员在 Codex Desktop 环境下对战一套包含五道生物安全难题的挑战关卡。

按照最新安排,GPT-5.5 的测试依然会在 7 月 27 日按期收官。但收官不代表结束,这项计划直接把新前沿模型 GPT-5.6 纳入了范围,并且未来会一直延续下去。

只要在 GPT-5.5 或 GPT-5.6 上实现通用越狱,就能拿走 5 万美元全额赏金。哪怕没有彻底破防,只做到了部分攻破,OpenAI 也会视情况发放较小额度的奖金。

测试机制也从固定窗口变成了滚动申请。生物安全专家、安全研究员只要有现成的 ChatGPT 账号就能提交履历,此前参与过 GPT-5.5 测试的人不用重新申请。

不过门槛依然卡得很严。入选的研究人员必须签署严格的保密协议(NDA),测试过程完全在封闭平台内进行。

为什么重要

我们认为,OpenAI 把生物漏洞赏金常态化且把奖金翻倍,说明随着模型推理能力逼近甚至超越 GPT-5.6 这一代,生物风险已经成了前沿 AI 头顶最危险的达摩克利斯之剑。

从研究人员的角度看,5 万美元的赏金对白帽黑客来说很有吸引力,但这绝不是普通提示词玩家能赚到的钱。你需要同时懂生物学双重用途风险和模型越狱技巧,还要在官方严密的防御下完成可复现的通用突破,门槛极高。

从行业来看,这步棋走得非常聪明。监管机构和公众对前沿 AI 最大的恐惧,就是大模型降低生化武器的制造门槛。OpenAI 主动把生物安全从泛泛的 Safety Bug Bounty 中独立出来单列并长期化,是用商业激励把外部最顶尖的红队力量绑定在自己的防御战车上。

但这里的隐患也显而易见:全程 NDA 加上私密测试,意味着外界根本无法得知模型究竟存在哪些具体的生物漏洞,也无法独立验证官方声称的安全防线到底有多牢固。这种既当裁判又当考官的做法,安全感大多还是建立在 OpenAI 自身的信誉之上。

来源 (1)

  1. [1]
    openai.com(在新标签页打开)原文openai.com

每日 AI 内容精选