Sakana AIが「CycleQD」を発表：微調整なしで複数スキルを統合する進化型フレームワーク

複数のスキルをこなせるAIモデルを作りたい場合、これまでは膨大なデータをかき集め、多大なコストと時間をかけてファインチューニングを行うのが常識でした。

しかし、異なる分野のデータを混ぜて学習させると、互いのスキルが干渉し合ってうまく育たないという難題がつきまといます。東京を拠点とするSakana AIは、この課題を打破する新フレームワーク「CycleQD」を発表しました。

力任せに巨大モデルを訓練するのではなく、進化計算アルゴリズムを活用して、異なる得意分野を持つモデル同士を掛け合わせるアプローチです。

交叉と突然変異でモデルを進化させる

CycleQDのベースにあるのは、多様で質の高い解を探索する「クオリティ・ダイバーシティ（QD）」という進化計算の考え方です。

まず、プログラミングやデータベース操作、OS操作など、特定のタスクに特化した複数の小型エキスパートモデルを用意します。

これらを組み合わせるために、アルゴリズムは「交叉」と「突然変異」を繰り返します。

交叉にはモデルマージ技術が使われます。2つの親モデルのパラメータを直接融合させることで、追加学習を行うことなく両方のスキルを併せ持つ子世代モデルを素早く生成します。

突然変異には特異値分解（SVD）という線形代数の手法を導入しました。モデルのパラメータを行列分解して基礎的なサブスキル単位にばらし、そこに微小な変化を加えることで、親世代にはなかった新たな能力を探索させます。これにより、過学習を防ぎつつ未知のパターンを獲得できます。

世代交代ごとに評価軸を交代させる工夫も凝らされています。ある世代ではプログラミング能力を主指標にし、別の世代ではデータベース能力を主指標に据えることで、特定のスキルだけが突出して他が抜け落ちる事態を防いでいます。

従来型ファインチューニングを凌駕

研究チームがLlama 3-8Bをベースに検証したところ、CycleQDで生成された複合モデル群は、既存のモデルマージ手法や従来のマルチタスク・ファインチューニングを明確に上回るスコアを記録しました。

興味深いのは、すべてのデータをまとめて従来の方式で追加学習させたモデルが、莫大な計算コストと時間をかけた割に、単一タスクの専門モデルよりわずかに優れた程度にとどまった点です。CycleQDははるかに少ない計算資源で、さまざまなスキルバランスを持つ実用的なモデル群を多数生み出すことに成功しました。

Sakana AIは、この仕組みがAIに継続的な知識蓄積をもたらす「生涯学習」の実現につながると期待を寄せています。

なぜ重要か

独自の業務特化モデルを抱える企業や開発者にとって、この技術は実用的な福音になります。高価なGPUクラスターを回してゼロから再学習させなくても、手持ちの特化型小規模モデルを掛け合わせるだけで、目的に応じた多機能エージェントを低コストに量産できるためです。

業界全体にとっても、巨大な単一モデルに頼り切る現在のスケーリング路線に対する強力なアンチテーゼとなります。Sakana AIが提示した「小型モデルの集団を進化させる」という分散型のアプローチは、計算資源の持続可能性という観点で極めて現実的な選択肢です。

私たちは、重みパラメータをSVDで分解して突然変異を起こすという数学的なアプローチを非常にスマートだと評価しています。ただし、扱うタスクがさらに多岐にわたり、モデル構造が複雑化した際にもパラメータ衝突を起こさずに進化を続けられるのか、より大規模な環境での再現性検証が今後の焦点になりそうです。