Google 提出 Dream-RSI:让智能体靠「做梦」复盘学会自我进化
研究人员发布 Dream-RSI 框架,让 AI 智能体在不改动底层模型的前提下实现自我改进。它把智能体过去的探索历史做成回放模拟器,让 AI 在其中「做梦」复盘并获得低成本反馈,以此优化探索策略,大幅提高了复杂任务的求解效率。

聊到 AI 的「自我改进」,很多人脑子里浮现的画面,往往是模型自己重写底层代码、修改权重,然后突然顿悟。但 Google 联手马里兰大学、Google DeepMind 和弗吉尼亚大学刚公开的一个项目,走了一条完全不同的路。
这个项目叫 Dream-RSI,论文在 9 月 14 日上线。它最让人意外的地方在于,底层的基座模型压根没变,参数和架构一动不动。它改变的,是 AI 智能体在面对复杂任务时「如何寻找解法」的策略。
把走过的弯路,变成免费的模拟器
解决编程或数学优化这类长流程问题时,AI 往往要经过成千上万次尝试。传统的做法要么用一套写死的搜索策略,死板且容易在死胡同里浪费算力;要么在真实环境里在线摸索新策略,但每次测试都要跑完整流程,延迟高而且成本极贵。
Dream-RSI 发现了一个一直被忽视的资产:AI 之前探索任务时留下的完整历史。
AI 在探索问题时会生成一棵「发现树」,记录了它做过的每一个分支决定、并行尝试以及实际的代码执行结果。研究团队指出,这棵树其实就是一个现成的、完全精确的模拟器,甚至不需要额外去训练一个逼近现实的「世界模型」。
所谓的「做梦」,就是让系统在不调用真实执行环境、零执行成本的前提下,拿着几千种候选探索策略,在历史发现树上重新走一遍。看看如果当初换个顺序挑分支、或者提前放弃某条路,结果会不会更好。只有在历史回放中胜出的最优策略,才会被部署到真实环境里去。
越探索越聪明的滚雪球循环
一旦这个胜出的策略被部署上线,它就会去探索之前没去过的深水区。这一趟跑下来,又会记录下一棵全新的发现树,相当于给智能体增加了一个新的「模拟世界」。
随着这套循环不断转动,智能体拥有的历史世界越来越多,策略在面对复杂情况时就越来越稳健。在包含 GPU 内核工程在内的 4 个领域、9 项任务测试中,Dream-RSI 用了不到一半的迭代次数,就达到了甚至超越了传统方法的效果。
说白了,它就像一个下棋高手,比赛结束后不需要再找人下一万盘,而是对着过去的复盘棋谱做脑内推演,想清楚当初要是换个走法会怎样,第二天带着优化好的大局观再去下新的一盘。
为什么重要
对于做底层系统调优、算法工程和复杂任务求解的开发者来说,这项研究指出了一个非常现实的方向。大家不再需要死磕如何微调大模型,而是可以通过外挂一层轻量级的编排系统,专门优化计算资源的分配和搜索路径,直接省下大把真金白银的算力开销。
在行业层面,这改变了智能体竞争的切入点。以前大家拼命堆提示词或者堆强化学习训练,但策略层面的元优化一直被卡在昂贵的真实评测上。Dream-RSI 证明了离线历史数据不需要重新跑,只要组织得当,就能充当高质量的自监督反馈源,这可能会逼着同类智能体框架重新审视自己的执行日志资产。
我们认为,这个设计最聪明的地方在于「就地取材」,不搞花哨的近似模型,把真实的执行记录当成绝对准确的沙盒。但它的隐患也摆在明面上:模拟器的边界完全受限于历史走过的路。如果之前的探索彻底偏离了正确方向,智能体在梦里也只能在歪路上排列组合,如何跳出最初的信息茧房,依然是它未来需要解决的难题。
来源 (2)
- arxiv.org(在新标签页打开)原文arxiv.org
- dream-rsi.com(在新标签页打开)报道dream-rsi.com