伯克利与斯坦福推出 GEPA：无需昂贵强化学习，试错轮次省下 35 倍

要想让 AI 在复杂业务里少犯错，过去的套路往往是让它硬刷成千上万道题，做对了给个高分，做错了扣分，慢慢摸索出规律。

但这套来自传统强化学习的打法，对大多数普通公司来说实在太贵了。来自 UC Berkeley、斯坦福大学和 Databricks 的研究团队端出了一个新方案，名字叫 GEPA。

它不逼模型在黑暗里靠打分盲猜，而是让大模型自己看报错日志、做复盘，再把提示词改得更聪明。测试结果显示，GEPA 跑出的效果超过了现有技术，需要的试错运行次数最多减少到了原来的三十五分之一。

不用数值打分，改用人话复盘

现在很多企业落地 AI 时，早已不是调一次接口那么简单。很多系统都是连环套：既要调用模型做多步推理，又要跑数据库查询、执行代码编译，这类系统被称为复合 AI 系统。

如果用类似 DeepSeek-R1 背后那种 GRPO 强化学习方法来优化，模型就像在开盲盒。系统跑完一趟，只能拿到一个类似七分或十分的单一数值反馈，然后靠成千上万次甚至几十万次试错运行，一点点把参数往正确方向挪。

论文共同作者、UC Berkeley 博士生 Lakshya A Agrawal 直言，强化学习又贵又复杂，很多团队根本玩不起，最后只能靠人工肉身去调提示词。尤其当你调用的是不能微调的闭源旗舰模型时，调一次接口就算一次钱，根本经不起十几万次的盲测折腾。

GEPA 的全称是 Genetic-Pareto，它的思路是把打分换成人话反馈。研究团队发现，AI 运行过程中的推理步骤、工具调用记录以及编译器报错信息，本身全都能转成文本。

GEPA 先把一批提示词当作基因池。当系统跑出错来，它会把完整的执行记录和报错信息一股脑喂给大模型，让它用自然语言自己做诊断。比如模型看到编译器报错，就会自动在提示词里加上请指定某某依赖库版本的具体指令。

留下一批偏科专家，避开死胡同

光会反思还不够，GEPA 还用了一套被称为帕累托选择的策略来挑选提示词。

普通的自动调优往往只盯着综合得分最高的那一个版本，结果很容易钻进死胡同，陷入局部最优。GEPA 则是建立了一个提示词候选池，专门保留在不同细分问题上表现出色的专家提示词。

即便某个版本在总分上不是第一名，但只要它在某一类特殊边界情况下解决得特别漂亮，就会被留存下来。通过在这个多样化的候选库里持续进化，系统更容易找到泛化能力更强的新提示词。

Agrawal 认为，这套流程能跑通的核心在于反馈工程，也就是如何把每一次昂贵的试错过程，都提炼出信息量最密集的诊断信号。

为什么重要

我们认为，GEPA 踩中了一个被很多人忽略的现实：在真实业务场景里，提示词工程依然远比模型微调要好使、便宜得多。

对于正在搭建 AI Agent 和多步骤工作流的开发者来说，GEPA 提供了一条极具吸引力的捷径。你不需要去租昂贵的 GPU 集群，也不需要去折腾复杂的强化学习管道，哪怕直接调用不可微调的顶级闭源模型，也能让系统自己把提示词迭代到最佳状态。

试错运行次数减少最多三十五倍，换算成真金白银，就是直接砍掉了大笔调用 API 和执行工具的算力账单，开发迭代周期也会跟着明显缩短。如果你的业务场景涉及昂贵的外部工具调用或复杂的代码执行，这类方法非常值得在测试集上尽早试用。

从行业角度看，强化学习过去几个月被炒得神乎其神，但它严重依赖高密度的算力和稀疏奖励。GEPA 证明了利用大模型原本的语言理解能力去做文本层面的诊断和演进，效率其实高得多。

不过看起来它的局限性也很明确，整个框架的效果高度依赖反馈工程的质量。如果你的系统报错信息不够明确，或者执行链路里根本拿不到有价值的文本跟踪，大模型自己也诊断不出什么名堂来。