跳到正文
IFAI

AI工具

Adaption 釋出 AutoScientist:讓模型自動跑完訓練迴圈,勝率超人類研究員

首次發布 傳播指數 50

Adaption 推出 AutoScientist,能端到端自動化完成模型訓練與微調的全流程。它協同最佳化資料與訓練引數,測試勝率達 64%,平均表現比人類研究員高出 35%。這意味著無需專業演算法團隊也能定製專屬模型;該系統前 30 天免費開放。

Adaption 釋出 AutoScientist:讓模型自動跑完訓練迴圈,勝率超人類研究員
圖:adaptionlabs.ai

全球真正懂得怎麼調校前沿大模型的人,可能還不到一千個。這些核心專家大多待在極少數頂尖實驗室裡,靠著口口相傳、極少公開發表的調參經驗守著技術壁壘;剩下的大多數人,只能圍在外面折騰提示詞工程。

由前 Cohere AI 研究副總裁 Sara Hooker 聯合創立的初創團隊 Adaption 試圖打破這種壟斷。他們釋出了一款名為 AutoScientist 的新系統,宣稱能夠端到端自動化跑完模型訓練與對齊的完整研發流程。

把調參這門玄學交給演算法

在頭部實驗室之外做模型微調,翻車往往是常態。最常見的問題無非是三個:新學了領域知識卻把原本的能力忘光的災難性遺忘、在小資料集上輕易發生的嚴重過擬合,以及訓練訊號混亂導致模型根本學不會預期行為。

以往解決這些問題,全靠演算法工程師日夜盯著控制台做超引數掃描。而 AutoScientist 的核心思路,是同時對訓練資料和訓練配方進行協同最佳化。

它接上了 Adaption 之前推出的資料工具 Adaptive Data,一邊動態篩選和調整輸入資料,一邊自動修正訓練配置,直到模型表現收斂到使用者指定的目標。官方表示,過去需要耗費數週的調優,現在開發者花一個下午就能跑出屬於自己的定製模型。

勝率 64%:全面跑贏人類演算法工程師

為了驗證效果,Adaption 拿自家的 AI 研究團隊跟系統做了直接對抗。雙方基於模型架構、領域任務和資料規模設定訓練配置,AutoScientist 還能參考少量歷史執行資料自我迭代。

測試結果顯示,當讓人類研究員挑選配置時,勝率為 48%;而換成 AutoScientist 之後,勝率直接拉昇到了 64%。在所有測試批次中,該系統的表現平均比人類配置高出 35%。

這項測試覆蓋了 8 個垂直領域,資料集規模從 5000 到 10 萬條不等,底層調優模型基於 Together AI 託管的架構。Adaption 表示,系統並沒有在特定領域上過擬合,在全部 8 個垂類上都跑出了穩定的效能提升。

目前 AutoScientist 面向所有使用者提供 30 天免費試用,官方尚未公佈到期後的具體定價。

為什麼重要

對於苦於推理賬單的企業和獨立開發者來說,這項工具來得很及時。很多團隊明知道微調小模型是壓縮延遲和成本的最好辦法,卻養不起專門的演算法團隊,也沒有精力天天守著做調優實驗。有 30 天的免費視窗,足夠驗證它能不能真把私有資料煉進小模型裡。

對行業而言,它正在侵蝕大模型實驗室的隱形護城河。過去頂級實驗室最值錢的資產之一,就是資深研究員腦子裡那些不外傳的訓練配方。一旦訓練和微調的科學流程被軟體化,模型定製的門檻就會從拼專家經驗變成單純拼目標定義。

我們認為,Adaption 最聰明的地方在於把資料最佳化和訓練配置捆綁在一起做迭代,而不是假定資料一成不變。不過這件事也有隱患:正如 Hooker 對 TechCrunch 所承認的,由於針對垂直任務定製,它很難用 SWE-Bench 這類通用基準來衡量,目前的勝率全部來自官方自研的測試集。AutoScientist 到底能不能在企業那些雜亂無章的真實資料上重現 35% 的提升,還得看首批使用者試用後的反饋。

來源 (2)

  1. [1]
    adaptionlabs.ai(在新分頁開啟)原文adaptionlabs.ai
  2. [2]
    techcrunch.com(在新分頁開啟)報導techcrunch.com

每日 AI 內容精選