Anthropic 通報 Model 2 評估：代際提升放緩，但看到 AI 自我進化跡象

大模型跑得越來越快，但用來測量它們的尺子快要不夠用了。

Anthropic 在其 8 月風險報告中透露了內部主力模型 Model 2 的最新情況。雖然它的表現超越了上一代 Mythos 5，但公司明確表示，這次的進步只是「明顯改進」，沒有復現此前從 Opus 4.6 到 Mythos Preview 那樣的大跳躍。按照 Anthropic 的判斷，Model 2 並未達到負責任擴充套件政策（RSP）的危險閾值。

防蒸餾成了日常，評估尺子卻失靈了

有意思的細節在模型能力之外。Anthropic 已經把「防蒸餾」當成一項常規工程在持續投入，防止對手通過輸出抓取自己的能力。

更棘手的是，現有的任務型基準測試評估精度已經不夠了，傳統的尺子很難再精準測量出模型能力的提升幅度。而在遞迴自我改進（RSI）方向上，Anthropic 提到已經看到了「加速的早期跡象」，不過報告把具體細節擋住了。

為什麼重要

我們認為，這份報告傳遞了兩個很現實的訊號。

一方面，常規維度的模型代際跳躍確實在收窄，靠常規擴充套件帶來的邊際收益正在放緩，各大實驗室不得不把更多精力花在防蒸餾這種防禦性工程上。

另一方面，最關鍵的瓶頸正在從「怎麼訓」轉向「怎麼測」。當舊尺子量不出新模型的上限，而自我進化的苗頭又隱約出現時，AI 安全評估接下來最大的挑戰，恐怕是先做出一套合格的測量工具。