OpenAI 曝光新模型 Strawberry：向美官员展示，正用来训练下一代 Orion

现在的大模型写文案、写邮件看起来无所不能，但只要一碰到以前没见过的奥数题，或者多绕了几个弯的复杂代码，往往就暴露出胡说八道的底色。

为了翻过这道坎，OpenAI 正在憋两个大招。据 The Information 报道，OpenAI 内部正在研发代号为 Strawberry 的推理模型，以及下一代旗舰模型 Orion。知情人士透露，他们甚至已经向美国国家安全官员展示了 Strawberry。

给 AI 留出思考时间，先刷题再做 Agent

Strawberry 最大的特点不是接话快，而是在给出答案前留出时间「思考」。据知情人士介绍，它的逻辑能力大幅增强，擅长搞定以前没见过的数学难题和复杂的编程任务。

在内部演示里，Strawberry 已经能解开《纽约时报》的字谜游戏 Connections。此前路透社也曾爆料，OpenAI 内部测过一款在 MATH 基准测试中拿到 90% 以上高分的 AI，外界推测大概率就是它。

更关键的是，内部文件显示 OpenAI 打算把 Strawberry 当作自主网络搜索的引擎。它能提前规划步骤、做深度研究，这其实就是外界期待已久的高级智能体底层。

据说 Strawberry 的核心思路来自斯坦福学者提出的 STaR 机制，也就是自我学习推理。而最初给这个项目画下蓝图并奠定基础的，正是离职去搞超级安全 AI 的前首席科学家 Ilya Sutskever。

蒸馏放进聊天框，顺便当下一代的「家教」

The Information 提到，Strawberry 最快可能在今年秋季推出，大概率会以某种形式塞进 ChatGPT 成为聊天机器人，不过今年能不能上还不完全确定。

如果真推出来，大家用到的也不会是那个庞然大物，而是一个蒸馏版本。OpenAI 会通过模型蒸馏，用更小的算力跑出差不多的逻辑水准。

至于代号 Orion 的旗舰模型，则是 GPT-4 真正的接班人。现在全网的高质量公开数据快被各家大模型吃光了，Sam Altman 曾在 5 月的一场活动上提到，公司正在大量尝试合成数据。

Strawberry 在这里扮演的角色，就像一个水平极高的教研员。它生成的高质量、高逻辑性合成数据，会被直接喂给 Orion，用来大幅降低新旗舰的犯错率。

为什么重要

我们认为，OpenAI 这次展示的路径标志着大模型竞技场的规则正在彻底转变。纯靠堆海量文本预训练的时代已经撞墙，大家都在拼推理时计算和高质量合成数据。

对开发者和专业人员来说，这才是真痛点。如果今年秋天蒸馏版 Strawberry 真的上线，最先受益的肯定是天天写代码、查逻辑漏洞的工程师，写复杂逻辑不用再靠复杂的 prompt 反复碰运气。

从行业竞争来看，Google DeepMind 之前拿 AlphaProof 和 AlphaGeometry 2 在国际数学奥林匹克里拿了银牌，但那些方案很难泛化到通用语言模型里。OpenAI 显然更想走一条通用的大一统路线，逼着对手也把推理能力摆上台面。

不过，用 Strawberry 生成数据来训 Orion 的做法，聪明但也暗藏隐患。看起来这是一条摆脱数据枯竭的捷径，但只要作为教师的模型存在某种逻辑死角，这些错误就会在合成数据里被成倍放大，最终遗传给下一代模型。

另外，OpenAI 急着把模型展示给国家安全官员，也说明这种具备自主规划和深度研究能力的模型，已经触碰到了监管和国家安全的敏感神经。