Sakana AIが「CycleQD」を発表:微調整なしで複数スキルを統合する進化型フレームワーク
Sakana AIの研究チームは、高コストな微調整を行わずに特化型モデルのスキルを統合できる新フレームワーク「CycleQD」を開発した。遺伝的アルゴリズムに基づく交叉と変異を活用し、Llama 3-8Bを用いた検証では従来の微調整やモデルマージ手法を上回る性能を示した。
Sakana AIの研究チームは、高コストな微調整を行わずに特化型モデルのスキルを統合できる新フレームワーク「CycleQD」を開発した。遺伝的アルゴリズムに基づく交叉と変異を活用し、Llama 3-8Bを用いた検証では従来の微調整やモデルマージ手法を上回る性能を示した。