Meta 提出 Autodata：让智能体当「数据科学家」，自我迭代造训练数据

训练前沿大模型最让人头疼的瓶颈，说白了从来不是算力不够，而是高质量数据见底了。

业内通行的办法是搞合成数据，用大模型自己给自己写题目。但这事有个致命软肋：以前的方法大多像个只管交差的流水线工人，给一段提示词就吐一堆数据，吐完不管对错，全靠人类工程师在后面人肉清洗、人工调试 prompt。

Meta 在 arXiv 上放出一篇论文，提出了一个叫 Autodata 的全新框架。他们的思路挺直截了当：既然人类数据科学家懂得怎么造数据、查数据、修数据，那为什么不直接让 AI 智能体扮演这个「数据科学家」？

让 AI 当数据科学家，自己查自己的作业

传统的合成数据从最早的 Self-Instruct，演进到结合文档的 Grounded Self-Instruct 和加入思维链的 CoT Self-Instruct，本质上都是单向输出。

Autodata 则把整个过程做成了一个自我迭代的闭环，他们把这种具体实现叫做 Agentic Self-Instruct。

在这个体系里，智能体首先基于输入的源材料（比如数学、法律或计算机研究文献）生成训练样本。但生成完并没有结束，它还会调用一个「挑战者智能体」和一套评估标准，去检查这些样本到底准不准、有没有价值，并实测模型在这些数据上的表现。

更关键的一步在后面。智能体会「肉眼」复盘这些数据表现，从失败的案例里提炼经验，然后主动修改自己的生成策略，更新下一轮的数据生产方式。Meta 还设计了外层的元优化（meta-optimize），直接训练这个「数据科学家」智能体本身，让它越练越会造数据。

在具体的实验里，研究团队在计算机科学研究任务、法律推理以及数学对象推理上做了测试。用 Autodata 生成的数据集训练一个很小的 Qwen 3.5 4B 模型，其表现明显压制了传统的合成数据方法。

为什么重要

我们认为，Autodata 最聪明的地方，在于它把当前行业正在卷的「推理算力」，顺畅地转换成了「高质量训练数据」。

过去大家拼命给模型堆推理算力让它做深思熟虑，而 Meta 把这股算力用在了数据生产的前期循环里。让智能体花算力去自己造题、做题、判卷、反思，这就打破了以往合成数据低质膨胀、容易污染模型的死循环。

对开发者和研究人员来说，这意味着未来构建垂直领域的微调数据或基准测试，门槛将大幅降低。你不再需要雇佣昂贵的人类标注团队一行行修数据，只要给智能体提供专业文献和验证规则，它就能自产高质量语料。

当然，隐患也摆在眼前。整个闭环极度依赖外层评估标准的客观性。在数学、代码或者逻辑严密的法律条文里，判断对错相对明确；但如果要用它去造人文社科或开放性对话数据，智能体很可能会把自以为是的偏见当成「自我进化」，从而陷入更深层的幻觉漂移。不过无论如何，让 AI 替代人类科学家去设计数据，这条路线显然已经走出了关键的一步。