OpenAI 曝光新模型 Strawberry：向美官員展示，正用來訓練下一代 Orion

現在的大模型寫文案、寫郵件看起來無所不能，但只要一碰到以前沒見過的奧數題，或者多繞了幾個彎的複雜程式碼，往往就暴露出胡說八道的底色。

為了翻過這道坎，OpenAI 正在憋兩個大招。據 The Information 報道，OpenAI 內部正在研發代號為 Strawberry 的推理模型，以及下一代旗艦模型 Orion。知情人士透露，他們甚至已經向美國國家安全官員展示了 Strawberry。

給 AI 留出思考時間，先刷題再做 Agent

Strawberry 最大的特點不是接話快，而是在給出答案前留出時間「思考」。據知情人士介紹，它的邏輯能力大幅增強，擅長搞定以前沒見過的數學難題和複雜的程式設計任務。

在內部演示裡，Strawberry 已經能解開《紐約時報》的字謎遊戲 Connections。此前路透社也曾爆料，OpenAI 內部測過一款在 MATH 基準測試中拿到 90% 以上高分的 AI，外界推測大機率就是它。

更關鍵的是，內部檔案顯示 OpenAI 打算把 Strawberry 當作自主網路搜尋的引擎。它能提前規劃步驟、做深度研究，這其實就是外界期待已久的高階智慧體底層。

據說 Strawberry 的核心思路來自斯坦福學者提出的 STaR 機制，也就是自我學習推理。而最初給這個專案畫下藍圖並奠定基礎的，正是離職去搞超級安全 AI 的前首席科學家 Ilya Sutskever。

蒸餾放進聊天框，順便當下一代的「家教」

The Information 提到，Strawberry 最快可能在今年秋季推出，大機率會以某種形式塞進 ChatGPT 成為聊天機器人，不過今年能不能上還不完全確定。

如果真推出來，大家用到的也不會是那個龐然大物，而是一個蒸餾版本。OpenAI 會通過模型蒸餾，用更小的算力跑出差不多的邏輯水準。

至於代號 Orion 的旗艦模型，則是 GPT-4 真正的接班人。現在全網的高質量公開資料快被各家大模型吃光了，Sam Altman 曾在 5 月的一場活動上提到，公司正在大量嘗試合成數據。

Strawberry 在這裡扮演的角色，就像一個水平極高的教研員。它生成的高質量、高邏輯性合成數據，會被直接餵給 Orion，用來大幅降低新旗艦的犯錯率。

為什麼重要

我們認為，OpenAI 這次展示的路徑標誌著大模型競技場的規則正在徹底轉變。純靠堆海量文本預訓練的時代已經撞牆，大家都在拼推理時計算和高質量合成數據。

對開發者和專業人員來說，這才是真痛點。如果今年秋天蒸餾版 Strawberry 真的上線，最先受益的肯定是天天寫程式碼、查邏輯漏洞的工程師，寫複雜邏輯不用再靠複雜的 prompt 反覆碰運氣。

從行業競爭來看，Google DeepMind 之前拿 AlphaProof 和 AlphaGeometry 2 在國際數學奧林匹克裡拿了銀牌，但那些方案很難泛化到通用語言模型裡。OpenAI 顯然更想走一條通用的大一統路線，逼著對手也把推理能力擺上檯面。

不過，用 Strawberry 生成資料來訓 Orion 的做法，聰明但也暗藏隱患。看起來這是一條擺脫資料枯竭的捷徑，但只要作為教師的模型存在某種邏輯死角，這些錯誤就會在合成數據裡被成倍放大，最終遺傳給下一代模型。

另外，OpenAI 急著把模型展示給國家安全官員，也說明這種具備自主規劃和深度研究能力的模型，已經觸碰到了監管和國家安全的敏感神經。