跳到正文
IFAI

AI工具

Adaption 发布 AutoScientist:让模型自动跑完训练循环,胜率超人类研究员

首次发布 传播指数 50

Adaption 推出 AutoScientist,能端到端自动化完成模型训练与微调的全流程。它协同优化数据与训练参数,测试胜率达 64%,平均表现比人类研究员高出 35%。这意味着无需专业算法团队也能定制专属模型;该系统前 30 天免费开放。

Adaption 发布 AutoScientist:让模型自动跑完训练循环,胜率超人类研究员
图:adaptionlabs.ai

全球真正懂得怎么调校前沿大模型的人,可能还不到一千个。这些核心专家大多待在极少数顶尖实验室里,靠着口口相传、极少公开发表的调参经验守着技术壁垒;剩下的大多数人,只能围在外面折腾提示词工程。

由前 Cohere AI 研究副总裁 Sara Hooker 联合创立的初创团队 Adaption 试图打破这种垄断。他们发布了一款名为 AutoScientist 的新系统,宣称能够端到端自动化跑完模型训练与对齐的完整研发流程。

把调参这门玄学交给算法

在头部实验室之外做模型微调,翻车往往是常态。最常见的问题无非是三个:新学了领域知识却把原本的能力忘光的灾难性遗忘、在小数据集上轻易发生的严重过拟合,以及训练信号混乱导致模型根本学不会预期行为。

以往解决这些问题,全靠算法工程师日夜盯着控制台做超参数扫描。而 AutoScientist 的核心思路,是同时对训练数据和训练配方进行协同优化。

它接上了 Adaption 之前推出的数据工具 Adaptive Data,一边动态筛选和调整输入数据,一边自动修正训练配置,直到模型表现收敛到用户指定的目标。官方表示,过去需要耗费数周的调优,现在开发者花一个下午就能跑出属于自己的定制模型。

胜率 64%:全面跑赢人类算法工程师

为了验证效果,Adaption 拿自家的 AI 研究团队跟系统做了直接对抗。双方基于模型架构、领域任务和数据规模设定训练配置,AutoScientist 还能参考少量历史运行数据自我迭代。

测试结果显示,当让人类研究员挑选配置时,胜率为 48%;而换成 AutoScientist 之后,胜率直接拉升到了 64%。在所有测试批次中,该系统的表现平均比人类配置高出 35%。

这项测试覆盖了 8 个垂直领域,数据集规模从 5000 到 10 万条不等,底层调优模型基于 Together AI 托管的架构。Adaption 表示,系统并没有在特定领域上过拟合,在全部 8 个垂类上都跑出了稳定的性能提升。

目前 AutoScientist 面向所有用户提供 30 天免费试用,官方尚未公布到期后的具体定价。

为什么重要

对于苦于推理账单的企业和独立开发者来说,这项工具来得很及时。很多团队明知道微调小模型是压缩延迟和成本的最好办法,却养不起专门的算法团队,也没有精力天天守着做调优实验。有 30 天的免费窗口,足够验证它能不能真把私有数据炼进小模型里。

对行业而言,它正在侵蚀大模型实验室的隐形护城河。过去顶级实验室最值钱的资产之一,就是资深研究员脑子里那些不外传的训练配方。一旦训练和微调的科学流程被软件化,模型定制的门槛就会从拼专家经验变成单纯拼目标定义。

我们认为,Adaption 最聪明的地方在于把数据优化和训练配置捆绑在一起做迭代,而不是假定数据一成不变。不过这件事也有隐患:正如 Hooker 对 TechCrunch 所承认的,由于针对垂直任务定制,它很难用 SWE-Bench 这类通用基准来衡量,目前的胜率全部来自官方自研的测试集。AutoScientist 到底能不能在企业那些杂乱无章的真实数据上重现 35% 的提升,还得看首批用户试用后的反馈。

来源 (2)

  1. [1]
    adaptionlabs.ai(在新标签页打开)原文adaptionlabs.ai
  2. [2]
    techcrunch.com(在新标签页打开)报道techcrunch.com

每日 AI 内容精选