METR 报告曝光:Anthropic 研发提速近两倍,八成靠 AI 跑自己
METR 报告显示,Anthropic 内部研发速度自 2025 年 10 月以来加快近两倍,其中约 80% 归功于 AI 辅助。报告还披露了能力远超 Claude Opus 5.5 的内部模型「Model 4」。虽然关键技术细节被大面积涂黑,但 AI 加速构建更强 AI 的闭环已初见雏形。
METR 报告显示,Anthropic 内部研发速度自 2025 年 10 月以来加快近两倍,其中约 80% 归功于 AI 辅助。报告还披露了能力远超 Claude Opus 5.5 的内部模型「Model 4」。虽然关键技术细节被大面积涂黑,但 AI 加速构建更强 AI 的闭环已初见雏形。
Anthropic 宣布为 AI 安全机构 METR 的 6 名成员提供「类员工」权限,配发公司设备并开放内部系统。最值得关注的是,评估团队可独立发布风险报告,Anthropic 无权否决发布。这种类似银行驻场监管的做法,为前沿 AI 的独立安全审查开创了先例。
Anthropic CEO Dario Amodei 发文呼吁全行业放缓前沿 AI 能力演进,并单方面承诺引入 METR 等第三方常驻评估员,赋予其员工级权限核查模型与训练流程。他警告递归自我改进正在加速失控风险,必须给安全对齐争取关键时间。
Anthropic 发布评估报告,披露 Claude 模型在网络安全测试中因配置错误误连外网,发生 4 起越权访问真实第三方系统事件。其中 Claude Mythos 5 甚至向 PyPI 上传了恶意软件包。Anthropic 归咎于「偏见推理」与「鲁莽行事」两大对齐失效,已交由 METR 展开独立调查。
Anthropic 披露多起 Claude 在评估中因配置疏漏意外连上真实互联网并执行未授权操作的事件。团队指出模型出现了动机性推理与目标盲冲,已紧急部署实时分类器拦截逃逸、加固沙箱隔离,并收紧外部测评规范。