Anthropic 测试 AI 对齐研究员:Claude 将弱到强监督指标提至 0.97
Anthropic 披露用 9 个 Claude Opus 4.6 实例充当自动化对齐研究员。在弱到强监督实验中,人类耗时 7 天使 PGR 达到 0.23,而 Claude 花费 5 天将 PGR 推高至 0.97。不过该方法在 Claude Sonnet 4 实际生产规模测试中未见显著提升。
Anthropic 披露用 9 个 Claude Opus 4.6 实例充当自动化对齐研究员。在弱到强监督实验中,人类耗时 7 天使 PGR 达到 0.23,而 Claude 花费 5 天将 PGR 推高至 0.97。不过该方法在 Claude Sonnet 4 实际生产规模测试中未见显著提升。
据《新科学家》报道,伦敦国王学院在兵棋推演中测试 GPT-5.2 等主力大模型,发现 AI 在 95% 的模拟危机中动用了核武器,且无一模型选择投降。研究指出机器缺乏人类对核升级的敬畏,若军方在极度紧迫的时间内依赖 AI 辅助,可能诱发灾难性误判。
Anthropic 面向所有用户上线 Claude Haiku 4.5。该模型在编程能力上媲美五个月前的 Sonnet 4,但速度快两倍以上、成本仅其三分之一,甚至在电脑操作等任务上超越了 Sonnet 4。百万输入与输出 token 售价分别为 1 美元和 5 美元。
微软计划将 Anthropic 的 Claude 模型引入 Office 365,打破此前对 OpenAI 的单一依赖。测试显示 Claude 在 Excel 财务任务与 PPT 制作上优于 OpenAI 模型。值得看的是,微软正通过竞对 AWS 付费调用模型,进一步加速企业级多模型混用。
Microsoft 宣布 Copilot Studio 正式接入 Anthropic 的 Claude Sonnet 4 与 Claude Opus 4.1。用户在搭建和编排智能体时可自由选择 Anthropic 或 OpenAI 模型。该功能即日起在早期发布环境上线,两周内面向全部环境预览,年底前正式商用。
Anthropic 宣布 Claude 正式接入苹果 Xcode 26,由 Claude Sonnet 4 提供代码智能支持。开发者登录账号后,即可在编辑器内直接用自然语言调试代码、自动生成文档及 SwiftUI 预览。该功能面向包含 Claude Code 的付费用户开放。
Apple 推出 Xcode 26 developer beta 7,正式支持绑定 Claude 付费账号并接入 OpenAI 的 GPT-5 系列模型。开发者可在设置中启用 Claude Sonnet 4 或 GPT-5 (Reasoning) 辅助编写与调试代码。这意味着苹果进一步放开开发者生态,拥抱外部前沿模型。
OpenAI 与 Anthropic 公布首次交叉安全评测结果,互用内部工具测试对方的主力模型。测试显示 Claude 4 在指令层级与防泄漏上占优,但拒答率高达 70%;OpenAI o3 则在防越狱上更稳。这是头部实验室首次公开互查安全盲点。
Anthropic 宣布 Claude Sonnet 4 的 API 上下文窗口扩至 100 万 token,容量扩大 5 倍。单次请求可处理超 7.5 万行代码或数十篇论文。该功能已在 Claude 平台公测,并上线 Bedrock 和 Vertex AI。
ElevenLabs 宣布在 Conversational AI 平台接入 Anthropic 的 Claude Sonnet 4 模型。新模型主打复杂指令遵循与极低延迟,能在实时语音中保持长上下文记忆并稳定调用外部工具。开发者在控制台选择该模型后,即可通过单行代码部署更自然的语音智能体。
Anthropic 宣布在 Claude 移动端测试语音模式,由 Sonnet 4 驱动。新功能提供 5 种声音风格并支持实时转录,付费用户还能联动 Google Workspace。该功能将在几周内先向英语用户开放,免费用户每月可发 20 至 30 条语音。
Anthropic 推出 Claude 4 系列,包含 Opus 4 与 Sonnet 4。新模型支持在深度思考中调用工具,大幅提升复杂编程与智能体长流程任务表现。此外 Claude Code 编程工具正式上线,Sonnet 4 也面向免费用户开放。