OpenAI 升级微调 API：支持断点保存与对比测试，拓展定制模型服务

很多团队在用大模型时都会撞上一堵墙：靠提示词工程调不好，做 RAG 又经常搜出无关噪音，真想给模型灌点行业专属常识，却发现微调门槛高得吓人。

OpenAI 针对这个问题连发了两手大招：一方面升级了自助式微调 API，给普通开发者更多调试工具；另一方面正式扩容了定制模型项目，专门派出自家的技术团队，手把手帮企业训练专属大模型。

给了开发者更细的控制权

自 2023 年 8 月上线 GPT-3.5 的微调 API 以来，开发者们已经跑了数十万个模型。但之前的痛点也很明显，调参容易过拟合，模型效果不好对比，训练指标也只能抽样看。

这次更新重点补齐了这些工具链。现在系统会在每个训练 epoch 自动生成一个检查点，一旦发现模型跑过头了，不用从头再训，直接回滚到上一轮即可。

网页控制台里多了一个并排对比的 Playground。开发者可以输入同一段提示词，一眼对比不同微调版本或者原版模型的输出差异。

同时，开发者不再只能靠代码调参，直接在后台就能修改超参数并重新运行任务。验证集指标也改成了全量计算，还能把训练数据直接同步到 Weights and Biases 这类第三方平台。

招聘平台 Indeed 就靠微调 GPT-3.5 Turbo 尝到了甜头。他们把推荐职位时的解释文本做得更精准，同时让提示词里的 token 数量减少了 80%，每月发送的推荐量直接从不到 100 万条飙升到了 2000 万条。

大客户的专属服务：从辅助微调到重训底模

如果自助 API 满足不了需求，OpenAI 这次还拿出了更重的定制模型方案，分为辅助微调和完全定制两个档位。

所谓辅助微调，就是企业出数据，OpenAI 派出专门的研究团队配合，使用更大规模的高级超参数和参数高效微调技术。韩国电信巨头 SK Telecom 就拉着 OpenAI 一起调优 GPT-4 的韩语电信客服能力，几周下来，客服意图识别准确率提高了 33%，用户满意度从 3.6 分涨到了 4.5 分。

至于更极致的完全定制模型，则直接深入到底层训练流程。针对拥有海量专有数据的行业，OpenAI 会在中间训练和后训练阶段重新注入领域知识。

法律 AI 工具 Harvey 就是典型代表。他们给 OpenAI 喂了相当于 100 亿 token 的案例文档和法律数据，OpenAI 团队重写了部分训练流程，并引入专业律师反馈。结果模型的事实回答准确率提升了 83%，在律师评测中，定制模型的输出有 97% 的时候被认为优于原生 GPT-4。

为什么重要

对于广大开发者和中小企业来说，这次微调 API 的改动非常务实。尤其是检查点保存和网页端横向对比，省去了大量重复训练的算力浪费和自建评测页面的麻烦。如果你的业务有固定格式输出要求，或者想大幅压缩提示词长度降成本，现在微调 GPT-3.5 是非常划算的选择。

我们认为，OpenAI 这套分级打法走得非常聪明。它把客户切成了两截：普通开发者用标准化 API 自助跑，赚走长尾的推理和训练费；而有核心壁垒、手握海量专有资产的巨头，则通过定制项目高价包圆。这不仅能卡死企业级高端市场，还能借着企业的大规模私有数据，摸清特定垂直领域的模型训练天花板。

但这里的隐患也同样明显。企业要把上百亿 token 的核心机密资产托付给外部团队，还要深度绑定在闭源架构上，迁移成本高得惊人。对于真正视数据为生命的企业来说，到底该选择找 OpenAI 定制，还是拿着开源底座自建私有化链路，这道选择题接下来会变得更加尖锐。