Sakana AI 推出 CycleQD：不用微調，靠進化演算法給模型「疊技能」

想讓一個大模型既懂寫程式碼，又懂管資料庫，還能熟練操作作業系統，行業裡最習慣的做法是什麼？把所有資料倒進一個大池子裡，花幾十萬上百萬美元重新微調一遍。

但這事特別痛苦。不同技能的資料很容易打架，往往是學會了新的，忘了舊的；或者某個技能權重過大，模型直接偏科。Sakana AI 最近掏出了一套新思路，他們不想繼續堆算力訓單一巨無霸模型，而是打算像培育生物種群一樣，讓小模型自己「交配」和「變異」。

這套被稱為 CycleQD 的方法，核心是把進化計算裡的「質量多樣性」（Quality Diversity）搬到了大模型的後訓練階段。

讓模型自己雜交與變異

Sakana AI 的思路很直接：先準備一批各自身懷絕技的小專家。比如一個精通寫程式碼，一個擅長搞資料庫，一個專門對付作業系統指令。

怎麼把它們的能力揉在一起？CycleQD 不做反向傳播訓練，而是靠兩個運算元：交叉和變異。

交叉操作直接借用了模型融合技術，把兩個父代模型的引數矩陣拼在一起，低成本拼湊出複合技能。

變異操作則玩了個精妙的數學技巧。研究人員用奇異值分解（SVD）把模型的權重矩陣拆解成底層的子技能元件，然後微調這些元件。這樣既能逼著模型探索父母輩沒有的新能力，又不容易破壞原有結構，大幅降低了過擬合的風險。

最巧妙的是輪換機制。在每一代進化裡，演算法會挑一項技能作為當前的及格線標準，把其餘技能當成行為特徵。下一代再換另一項技能當主角。這樣輪流坐莊，確保沒有任何一項能力被擠壓丟掉。

吊打傳統全量微調

研究團隊用開源的 Llama 3-8B 做了實驗，拿三個分別專精程式設計、資料庫和作業系統的專家模型跑進化。

結果很有意思。CycleQD 跑出來的複合模型，在各項測試裡全面超過了傳統的模型融合演算法，甚至擊敗了傳統的全量微調。

按照常規做法，把三類資料合在一起做全量微調，不僅算力成本高昂、訓練極慢，最終效果竟然只比單技能專家強了一點點。而 CycleQD 幾乎沒花傳統訓練的算力開銷，就一口氣篩選出了成百上千個不同技能側重的可用模型。

Sakana AI 認為，這種方法能為 AI 系統帶來終身學習的可能。未來有新技能出現時，不再需要拉上所有老資料重新微調一遍，直接把新專家丟進種群裡繼續進化就行。

為什麼重要

對中小型開發者和企業來說，這套方案極具吸引力。現在多數團隊根本燒不起動輒幾週的微調叢集，但手裡往往有幾顆專精特定業務的開源 7B 或 8B 模型。如果不用重訓就能低成本合併能力，甚至按需定製不同技能傾向的 agent，落地的價效比會直接拉滿。

對整個行業而言，Sakana AI 正在向「做大做全」的暴力美學發起挑戰。行業巨頭還在執著於訓一個千億萬億引數的單體全能模型，但單體模型越來越臃腫、遺忘問題嚴重。CycleQD 證明了小模型叢集化、生態化進化的可行性，給去中心化的多智慧體協同打了個樣。

在我們看來，這種做法非常聰明，它避開了昂貴的梯度計算，用數學分解和引數融合找到了捷徑。但隱患也同樣明顯：變異操作依賴 SVD 拆解子技能，當任務從三五個擴大到幾十個、模型引數變得極度稀疏時，引數重疊與衝突可能會成倍增加。進化演算法最終能不能應對複雜的深層推理，還需要更大規模的檢驗。