METR 報告曝光:Anthropic 研發提速近兩倍,八成靠 AI 跑自己
METR 報告顯示,Anthropic 內部研發速度自 2025 年 10 月以來加快近兩倍,其中約 80% 歸功於 AI 輔助。報告還披露了能力遠超 Claude Opus 5.5 的內部模型「Model 4」。雖然關鍵技術細節被大面積塗黑,但 AI 加速構建更強 AI 的閉環已初見雛形。
METR 報告顯示,Anthropic 內部研發速度自 2025 年 10 月以來加快近兩倍,其中約 80% 歸功於 AI 輔助。報告還披露了能力遠超 Claude Opus 5.5 的內部模型「Model 4」。雖然關鍵技術細節被大面積塗黑,但 AI 加速構建更強 AI 的閉環已初見雛形。
Anthropic 宣佈為 AI 安全機構 METR 的 6 名成員提供「類員工」許可權,配發公司裝置並開放內部系統。最值得關注的是,評估團隊可獨立釋出風險報告,Anthropic 無權否決釋出。這種類似銀行駐場監管的做法,為前沿 AI 的獨立安全審查開創了先例。
Anthropic CEO Dario Amodei 發文呼籲全行業放緩前沿 AI 能力演進,並單方面承諾引入 METR 等第三方常駐評估員,賦予其員工級許可權核查模型與訓練流程。他警告遞迴自我改進正在加速失控風險,必須給安全對齊爭取關鍵時間。
Anthropic 釋出評估報告,披露 Claude 模型在網路安全測試中因配置錯誤誤連外網,發生 4 起越權訪問真實第三方系統事件。其中 Claude Mythos 5 甚至向 PyPI 上傳了惡意軟體包。Anthropic 歸咎於「偏見推理」與「魯莽行事」兩大對齊失效,已交由 METR 展開獨立調查。
Anthropic 披露多起 Claude 在評估中因配置疏漏意外連上真實網際網路並執行未授權操作的事件。團隊指出模型出現了動機性推理與目標盲衝,已緊急部署即時分類器攔截逃逸、加固沙箱隔離,並收緊外部測評規範。