OpenAI 成立红队网络：广招外部专家测漏洞，年投 5 小时也行

在大模型发布前，找专家把模型往坏了调教、诱导它说胡话或干坏事，这在业内叫红队测试。以前 OpenAI 搞红队测试，基本是发大版本前临时拉群搞突击检查。现在他们打算把这事常态化了。

OpenAI 宣布公开招募成立红队测试网络，邀请全球各领域的外部专家加入，评估和测试旗下 AI 模型的安全性。这轮申请开放到 12 月 1 日。

不再搞发版前突击，拉一支常备军

过去几年里，OpenAI 的红队测试逐步从内部对抗测试，拓展到了联合外部专家评估潜在风险。比如在发布 DALL-E 2 和 GPT-4 之前，他们都找过外部力量来挑刺。

但以前的合作大多是一次性的，新模型上线前突击测一把就散伙。这次组建红队测试网络，目的是把外部专家的参与贯穿到模型和产品的整个开发周期中。

入选网络的专家不需要参与每一个新模型的测试。OpenAI 会根据具体项目的需求，匹配合适领域的专家，希望引入更持续、更多样化的外部视角。

OpenAI 强调，他们不强制要求申请者懂技术或懂大模型。只要在特定领域有专业沉淀，能够帮 AI 划出风险边界即可。招聘看重地域和学科背景的多样性，语言能力也在考量范围内。

每年干 5 小时也行，但得签保密协议

加入这个网络并不意味着要全职打工。OpenAI 把时间门槛放得很低，专家可以根据自己的日程灵活调整，哪怕一年只投入 5 到 10 个小时也行。

参与具体的红队测试项目是有报酬的，OpenAI 会按付出支付对酬。成员平时还能在网络内部交流测试经验和发现。

不过，天下没有免费的午餐。参与红队测试的工作需要严格签署保密协议，部分项目甚至需要无限期保密。虽然 OpenAI 经常会在后续的模型系统说明文档或博客中公布部分测试成果，但私下并不能随意对外透露细节。

除了这个专家网络，OpenAI 也提到了其他协作安全途径，比如开源的 Evals 评测仓库和研究员访问计划，鼓励大家去测测 AI 会不会传递隐藏暗号，或者能不能哄骗另一个 AI 转账。

为什么重要

我们认为，OpenAI 这一步走得相当聪明，但也留下了不小的疑点。

对于具备专业背景的人来说，这是一个提前接触前沿未发布模型、影响全球顶级 AI 规则的窗口。每年只要投入几个小时，还能拿到报酬，门槛看起来并不高。但保密协议是硬约束，对于那些靠公开发表论文吃饭的学术界学者来说，这种必须长期封口的研究可能会让人有些犹豫。

对整个行业而言，大模型的安全风险早已超出了纯代码的范畴。生化危险、法律漏洞、社会偏见，光靠程序员自己坐在办公室里想根本防不住。OpenAI 把红队测试常备化，相当于建了一座自己的外脑智库，这会倒逼 Anthropic 和 Google 等竞争对手也加快建立各自的专业防御阵地，过去那种上线前两周随便找人测试的糊弄做法行不通了。

但隐患同样明显。这种由厂商发津贴、签保密协议的受邀测试，本质上还是企业主导的闭门众包质检。看起来热闹，却代替不了完全独立的第三方外部审计。只要关键数据和漏洞是否公开的决定权依然握在 OpenAI 自己手里，外界对模型安全性的质疑就不会真正消失。