Meta、合成データを自己改善するAI基盤「Autodata」発表

最先端の大規模言語モデルを開発する現場で、計算資源以上に深刻な壁となっているのが「高品質なデータの枯渇」です。人間によるデータ作成やラベリングには膨大なコストと時間がかかり、従来の合成データ生成手法はプロンプトに従って単発で出力するだけで、生成プロセスの改善は人間に依存していました。

Meta は AI エージェントにデータサイエンティストの役割を担わせる新フレームワーク「Autodata」を発表しました。データを生成して終わりではなく、自ら評価・反省して次のデータ作成手法を更新していく自律的な仕組みです。

データを自ら検証し、失敗から学ぶエージェント

これまでも Self-Instruct や CoT を活用した合成データ生成手法は存在していましたが、難易度や品質を直接コントロールし、自律的に改善していく機能はありませんでした。

Autodata の中核となるのは、Meta が「Agentic Self-Instruct」と呼ぶ閉ループの仕組みです。エージェントはまず、数学、法律、コンピュータ科学などの専門文献を参照して訓練・評価用データを生成します。

続いて「チャレンジャーエージェント」と評価基準を用い、作成されたデータが正確かつ有用であるかを自ら検証します。そして結果を分析し、モデルの弱点を補えるよう、次の生成レシピを自動でアップデートします。さらに Meta は、このデータサイエンティスト役のエージェント自体をメタ最適化することで、データ作成能力そのものを向上させる手法も導入しました。

研究チームが比較的小さな Qwen 3.5 4B モデルを用いて実験を行ったところ、コンピュータ科学の研究課題、法的推論、数学的推論のいずれにおいても、従来の合成データ手法を明確に上回る性能を示したとしています。

なぜ重要か

私たちは、この手法が「推論時の計算リソースを高品質な訓練データへと直接変換する道筋」を示した点に最大の価値があると考えます。

近年はモデルの推論時に思考プロセスを踏ませる手法が注目されていますが、Meta はその推論能力をデータ作成と品質管理のループに向けました。人間が介在せずとも、エージェントが推論を重ねてデータを磨き上げることで、合成データ特有のノイズや質の低下を防ぐことができます。

研究者や開発者にとっては、専門領域に特化したファインチューニング用データやベンチマークの作成コストが大幅に下がる可能性があります。専門家を雇って何週間もアノテーションを行う代わりに、原典資料と評価ロジックを与えるだけで高品質なデータセットを自律構築できるようになるからです。

一方で課題もあります。数学やコード、厳密な法論理のように正誤判定が明確な領域では極めて強力ですが、主観や文脈が重視される一般的な対話タスクでは、エージェント自身の偏見がデータに固定化されてしまう懸念もあります。それでも、データ作成を「自動生成」から「エージェントによる自己反復」へと引き上げた着眼点は、今後のデータ開発競争に大きな影響を与えるはずです。